Ahli politik dan kapitalis mempunyai tradisi petang Jumaat membuang banyak berita untuk menyembunyikan berita buruk di antara mereka. Oleh itu, agak pelik apabila Elon Musk, pengasas Tesla, pengeluar kenderaan elektrik, dan Sam Altman, presiden inkubator teknologi terkenal Y Combinator, melancarkan syarikat bertema AI mereka yang baru pada akhir persidangan AI selama seminggu di Montreal Disember lalu.
Terdapat alasan untuk pengenalan OpenAI pada waktu yang lewat. Bukan kerana tiada siapa yang menonton. Kerana semua orang menonton. Ketika beberapa syarikat paling kuat di Silicon Valley merasakan angin bertiup, mereka mula menawarkan sejumlah besar wang kepada bakat OpenAI AI yang baru dibangkitkan untuk menyimpan genius ini di rumah. Pada saat-saat terakhir, cadangan - beberapa yang dibuat dalam persidangan itu sendiri - berkembang begitu besar sehingga Musk dan Altman terpaksa menangguhkan pengumuman permulaan baru. "Jumlahnya mencapai tahap kegilaan," kata Wojciech Zaremba, seorang saintis yang bergabung dengan OpenAI setelah magang di Google dan Facebook dan merupakan antara mereka yang menerima tawaran besar pada pukul 11:00 malam.
Berapa dolar adalah sempadan kegilaan? Dua tahun yang lalu, ketika pasaran untuk teknologi pembelajaran mesin terkini mulai memanas, Microsoft Research VP Peter Lee mengatakan bahawa kos penyelidik AI teratas telah melebihi kos quarterback teratas dalam Liga Bola Sepak Nasional - dan itu dalam keadaan biasa, bukan ketika pengusaha terbesar Silicon Valley sedang berusaha memburu bakat terbaik. Zaremba mengatakan bahawa ketika OpenAI berkumpul, ia ditawarkan dua hingga tiga kali ganda dari nilai pasarannya.
OpenAI tidak memenuhi cadangan ini. Tetapi dia menawarkan sesuatu yang berbeza: kemampuan untuk terlibat dalam penyelidikan yang berfokus secara eksklusif pada masa depan, bukan pada produk dan keuntungan setiap suku tahun, dan akhirnya membahagikan sebahagian besar - jika tidak semua - penyelidikan di antara sesiapa yang mahu. Betul: Musk, Altman dan syarikat bersedia memberikan apa yang boleh menjadi teknologi paling transformatif abad ke-21 dan memberikannya secara percuma.
Zaremba mengatakan bahawa cadangan yang berada di ambang kegilaan benar-benar memberhentikannya - walaupun sangat menghormati syarikat seperti Google dan Facebook. Dia merasakan bahawa wang ini disalurkan untuk mencegah penciptaan OpenAI, yang semakin memperkuat komitmennya untuk permulaan yang murah hati. "Saya sedar," kata Zaremba, "bahawa OpenAI adalah tempat terbaik untuk saya."
Adakah anda merasakan ironi di tengah-tengah cerita ini? Walaupun syarikat teknologi terbesar di dunia berusaha untuk mengekalkan penyelidik mereka sekuat mana pasukan NFL berusaha untuk mengekalkan bintang mereka, para penyelidik sendiri hanya ingin berkongsi pandangan mereka. Dalam dunia penyelidikan AI yang canggih, akal yang cerdas tidak hanya didorong oleh kitaran produk atau keuntungan seterusnya, atau tidak terobsesi sama sekali. Mereka mahu menjadikan AI lebih baik, dan mustahil untuk menjadikan AI lebih baik apabila anda membuat perkembangan terkini kepada diri anda sendiri.
OpenAI baru-baru ini melancarkan kumpulan pertama perisian AI, sebuah kit alat untuk membina sistem kecerdasan buatan berdasarkan teknologi yang disebut pengukuhan pembelajaran, salah satu teknologi utama yang membawa kepada penciptaan AlphaGo, AI Google yang mengejutkan dunia dengan kemampuannya. pergi permainan. Dengan set alat ini, anda dapat membina sistem yang akan membuka robot generasi baru, bermain permainan Atari, dan ya, mengalahkan juara dunia di Go.
Video promosi:
Tetapi mainan hanyalah permulaan. OpenAI adalah misi bernilai satu bilion dolar untuk mendorong AI sejauh mungkin. Dengan cara syarikat berkumpul dan apa rancangannya, anda dapat melihat gelombang inovasi baru yang seterusnya. Kami belum tahu sama ada OpenAI akan menjadi pemacu utama perubahan ini. Tetapi kekuatan di sebalik penciptaan permulaan yang agak luar biasa ini menunjukkan bahawa generasi AI yang seterusnya tidak hanya akan mengubah teknologi, tetapi juga cara teknologi itu dikembangkan.
Kecerdasan buatan ada di mana-mana
Silicon Valley mempunyai minat untuk membesar-besarkan. Pernyataan yang bernada berani harus selalu disertakan dengan sebutir garam. Tetapi dalam bidang kecerdasan buatan, perubahan memang berlaku. Di dalam syarikat seperti Google dan Facebook, teknologi pembelajaran mendalam sudah membantu perkhidmatan Internet untuk mengenal pasti wajah dalam foto, mengenali arahan suara pada telefon pintar, dan bertindak balas terhadap carian Internet. Dan teknologi yang sama ini dapat menyelesaikan banyak masalah lain pada masa akan datang. Ia dapat membantu mesin belajar memahami bahasa semula jadi - yang biasa kita gunakan untuk bercakap dan menulis. Ini dapat membantu mengembangkan generasi robot baru, membolehkan automata tidak hanya melakukan tugas mereka, tetapi juga belajar dengan cepat. Dan ada yang percaya bahawa ini akhirnya akan memberi mesin sesuatu seperti akal sehat - kemampuan untuk berfikir benar-benar seperti orang.
Dan bersama dengan janji-janji tersebut, kegelisahan yang mendalam lahir. Musk dan Altman prihatin bahawa jika manusia dapat membuat AI yang melakukan perkara yang hebat, mereka dapat membina AI yang melakukan perkara yang mengerikan. Mereka tidak bersendirian dalam ketakutan mereka. Walaupun ini kelihatan berlawanan dengan intuisi, Musk dan Altman juga percaya bahawa cara terbaik untuk memerangi AI yang berniat jahat bukanlah dengan menghadkan akses kepada kecerdasan buatan, tetapi untuk memperluasnya. Aspirasi inilah yang membawa kepada kumpulan idealis muda dan cerdas.
OpenAI muncul pada suatu malam musim panas lalu di sebuah bilik peribadi di Rosewood Hotel di Silicon Valley, sebuah hotel bandar kelas atas yang secara harfiah terletak di pusat dunia kapitalis teroka. Elon Musk makan tengah hari dengan Ilya Sutskever, yang ketika itu berada di Google Brain, sebuah syarikat yang membangun rangkaian neural mendalam - sistem kecerdasan buatan yang dapat belajar melakukan tugas dengan menganalisis sejumlah besar data digital, termasuk mengenali foto dan menulis e-mel, belajar dari surat-menyurat. Suckever adalah salah satu pembangun utama projek ini.
Ilya Sutskever
Sam Altman, yang Y Combinator membantu membentuk syarikat seperti Airbnb, Dropbox, dan Coinbase, menjadi pucuk pimpinan pertemuan itu, menyatukan beberapa penyelidik AI dan pembangun syarikat muda tetapi berpengalaman, Greg Brockman, bekas Ketua Pegawai Teknologi pada permulaan Stripe, syarikat lain Y Penggabung. Ia adalah kumpulan eklektik. Tetapi setiap orang mempunyai matlamat: untuk membuat makmal AI jenis baru yang boleh berfungsi di luar kawalan bukan sahaja Google, tetapi orang lain. "Yang terbaik yang dapat saya bayangkan sebagai cabaran," kata Brockman, "adalah menggerakkan manusia ke arah mewujudkan AI sejati di jalan yang selamat."
Musk ada di sana kerana persahabatannya yang lama dengan Altman - dan kerana AI sangat penting untuk masa depan pelbagai usaha, dan masa depan secara keseluruhan. Tesla memerlukan AI sekiranya ingin membina kereta memandu sendiri. SpaceX, syarikat Musk yang lain, memerlukan AI untuk membawa orang ke angkasa dan memastikan mereka selamat dan sihat di sana. Tetapi Musk juga merupakan salah satu yang pertama (dan paling keras) yang memberi amaran bahawa suatu hari umat manusia boleh kehilangan kawalan sistem yang cukup kuat untuk belajar sendiri.
Terdapat masalah: banyak orang yang cukup mahir untuk menyelesaikan semua masalah ini sudah bekerja di Google (serta Microsoft, Facebook, Baidu, dan Twitter). Dan tidak ada seorang pun pada makan malam itu yang benar-benar yakin bahawa para penyelidik ini dapat terpikat ke permulaan baru, walaupun Musk dan Altman berada di belakangnya. Dan sekurang-kurangnya satu pemain utama telah bersedia untuk meninggalkan kapal. "Saya memahami risikonya," kata Suckever, "tetapi saya juga tahu akan menarik untuk dicuba."
Pecahkan bulatan
Didorong oleh perbincangan dengan Musk, Altman, dan yang lain di Rosewood, Brockman segera memutuskan untuk membina makmal yang mereka semua fikirkan. Dengan komitmen yang kuat terhadap projek ini, dia membawa Yoshua Bengio, seorang saintis University of Montreal dan salah seorang pendiri gerakan pembelajaran mendalam. Dua perintis industri lain - Jeff Hinton dan Jan Lecun - masing-masing bekerja di Google dan Facebook, tetapi Bengio bercita-cita untuk hidup di dunia akademik, di suatu tempat di luar jangkauan tentakel industri. Dia membuat senarai penyelidik terbaik di lapangan dan selama beberapa minggu ke depan Brockman menghubungi semua orang yang dia dapat, termasuk beberapa yang lain.
Sebilangan besar penyelidik mengalu-alukan gagasan itu, tetapi waspada terhadap kemungkinan terjadinya lompatan tersebut. Dalam usaha untuk memecahkan bulatan, Brockman memilih sepuluh penjelajah yang paling ingin dia temui dan mengajak mereka menghabiskan hari Sabtu dengan wain, makanan ringan, dan perbualan di bilik wain Napa Valley. Bagi Brockman, bahkan perjalanan ke Napa adalah pemangkin projek ini. "Ini adalah cara yang meremehkan untuk menyatukan orang, terutama pada saat-saat ketika Anda tidak memiliki tempat untuk mencapai tujuan Anda," katanya. "Anda perlu pergi ke sana, tetapi anda juga perlu bercakap." Dan ketika mereka sampai ke arak, suasana itu tetap ada. Seperti yang dikatakan oleh Suckever, "arak itu menjadi penentu perbualan."
Greg Brockman
Pada penghujung hari, Brockman mengundang kesemua sepuluh penyelidik untuk menyertai makmal dan memberi mereka tiga minggu untuk berfikir. Pada akhir penggal, sembilan orang berkuasa. Dan mereka tetap berada di dalamnya, walaupun terdapat tawaran besar dari raksasa Silicon Valley. "Saya mendapat tawaran yang sangat menarik untuk tinggal, jadi keputusannya tidak mudah," kata Suckever dari Google, bekas majikannya. "Akhirnya, saya memutuskan untuk pergi ke OpenAI, sebahagiannya kerana kumpulan orang yang sangat kuat dan, tentu saja, kebanyakannya kerana misi mereka."
Pergerakan pembelajaran mendalam bermula di akademik. Baru-baru ini syarikat seperti Google, Microsoft, dan Facebook telah memutuskan untuk menangani bidang ini, kerana kemajuan dalam kekuatan komputasi yang kejam menjadikan jaringan saraf dalam ini menjadi kenyataan, bukan hanya kemungkinan teori. Orang seperti Hinton dan LeCune telah meninggalkan akademik di Google dan Facebook kerana sumber daya yang besar di syarikat-syarikat ini. Tetapi tetap berkait rapat dengan kerjasama ahli teori lain di lapangan. Namun, seperti yang dijelaskan oleh LeCun, penyelidikan pembelajaran mendalam memerlukan aliran idea yang bebas. "Apabila anda melakukan penyelidikan secara rahsia," katanya, "anda akan kembali."
Hasilnya, syarikat besar kini mempunyai banyak penyelidikan AI mereka. Ini adalah kad truf utama, terutama untuk Google, yang telah lama menyimpan rahsia teknologi kerajaan dalam taliannya. Tidak lama dahulu, Google membuka kod sumber untuk enjin perisian yang menjalankan rangkaian neuralnya. Tetapi masih banyak yang terkunci dalam perlumbaan ini untuk masa depan. Brockman, Altman, dan Musk berusaha untuk mendorong pengertian keterbukaan dengan lebih jauh dengan mengatakan mereka tidak mahu satu atau dua syarikat besar mengendalikan masa depan kecerdasan buatan.
Had keterbukaan
Semuanya terdengar hebat. Tetapi untuk semua idealisme OpenAI, para penyelidik mungkin berada dalam keadaan yang sama yang memaksa mereka mengusahakan pekerjaan lama. Keterbukaan mempunyai hadnya. Dan visi jangka panjang AI bukanlah satu-satunya minat dalam permainan ini. OpenAI tidak melakukan kerja amal. Syarikat-syarikat Musk akan mendapat banyak keuntungan dari kerja permulaan, dan begitu juga Altman's Y Combinator. "Pasti ada beberapa poin yang bersaing," kata Lecun. - Ini adalah organisasi bukan untung, tetapi mempunyai hubungan rapat dengan Y Combinator. Dan orang akan dibayar untuk bekerja di industri ini."
Makmal itu tidak membayar gaji astronomi yang sama seperti yang diberikan oleh Google dan Facebook kepada penyelidik AI, kata Brockman. Tetapi dia juga mengatakan bahawa makmal "mahu membayarnya dengan baik," dan menawarkan pampasan dalam bentuk pilihan saham, pertama di Y Combinator dan kemudian mungkin di SpaceX (yang, tidak seperti Tesla, adalah syarikat swasta).
Walaupun begitu, Brockman menegaskan bahawa OpenAI tidak menyediakan layanan khas syarikat berkaitan. OpenAI adalah inisiatif penyelidikan, bukan syarikat perunding. Namun idealisme OpenAI mempunyai batasannya. Syarikat mungkin tidak membuka kod untuk semua yang dihasilkannya, walaupun tujuan utamanya adalah untuk menyebarkan sebahagian besarnya, sama ada kertas ilmiah atau perkhidmatan Internet. "Pembukaan tidak semestinya pilihan terbaik. Anda perlu menyuburkan idea itu, melihat ke mana ia memimpin, dan kemudian menerbitkannya, kata Brockman. - Kami akan menghasilkan banyak kod sumber terbuka. Tetapi kami juga akan mempunyai banyak barang yang belum siap untuk dilancarkan."
Suzkever juga menambah bahawa OpenAI dapat melakukan paten sebahagian daripada kerjanya. "Kami tidak akan mempatenkan apa-apa dalam masa terdekat," kata Brockman. "Tetapi kami siap mengubah taktik dalam jangka panjang, jika kami fikir itu akan lebih baik bagi dunia." Sebagai contoh, OpenAI boleh melakukan paten proaktif untuk mengelakkan orang lain mendapat hak paten.
Sebilangan mungkin melihat paten sebagai motif keuntungan. Tetapi itulah keseluruhan hak paten.
Masalah kecerdasan super
Ketika Musk dan Altman menghadirkan OpenAI, mereka juga menguraikan proyek tersebut sebagai cara untuk menetralisir ancaman intelijen jahat. Sudah tentu, kecerdasan seperti itu dapat dihasilkan dari karya OpenAI, tetapi mereka bersikeras bahawa segala ancaman akan dikurangi dengan membuat teknologi tersedia untuk semua orang. "Kami fikir kemungkinan besar banyak AI dapat menghentikan pelakon buruk secara rawak," kata Altman.
Tetapi tidak semua orang di kawasan ini mempercayai hasil seperti itu. Nick Bostrom, seorang ahli falsafah Oxford yang, seperti Musk, memberi amaran tentang bahaya AI, menunjukkan bahawa jika anda berkongsi penyelidikan anda tanpa sekatan, "pelaku buruk" dapat menangkapnya sebelum semua orang yakin bahawa mereka selamat. "Sekiranya anda mempunyai butang yang membuat dunia menjadi huru-hara," kata Bostrom, "anda mungkin tidak mahu memberikan akses kepada semua orang." Sekiranya, di sisi lain, OpenAI memutuskan untuk menahan penyelidikan agar orang jahat tidak mengaksesnya, Bostrom bertanya: bagaimana ini akan berbeza dengan Google atau Facebook?
Dia mengatakan ya, status bukan keuntungan OpenAI mungkin atau tidak boleh mengubah keadaan. Kekuatan sebenar projek itu, katanya, adalah dapat disahkan oleh Google dan Facebook. "Ini akan dapat mengurangi kemungkinan kecerdasan super dimonopoli. Ini akan dapat menghilangkan salah satu kemungkinan sebab mengapa beberapa individu atau kumpulan akan mendapat akses ke AI yang lebih baik daripada yang lain."
Dalam karya baru-baru ini, ahli falsafah menjelaskan bahawa kesan utama inisiatif seperti OpenAI - inisiatif untuk berkongsi apa yang dilakukan secara bebas - adalah untuk mempercepat kemajuan kecerdasan buatan, sekurang-kurangnya dalam jangka pendek. Dan ini dapat mempercepat kemajuan dalam jangka panjang, dengan syarat tahap ketelusan yang lebih tinggi dijaga daripada yang optimum secara komersial.
"Mungkin pelabur R&D yang bermotivasi dermawan dapat mempercepat kemajuan dengan serius dengan menerapkan kebijakan sains terbuka," katanya.
Bagaimana Xerox PARC
Pada awal Januari, sembilan penyelidik Brockman berkumpul di apartmennya di San Francisco. Projek ini sangat baru sehingga mereka tidak mempunyai papan putih. (Bayangkan.) Mereka membeli beberapa hari yang sama dan mula bekerja.
Brockman mengatakan OpenAI akan bermula dengan meneroka pembelajaran pengukuhan, kaedah pembelajaran berasaskan mesin dengan mengulanginya berulang kali, mengesan kaedah mana yang menghasilkan hasil terbaik. Cabaran besar lain adalah apa yang disebut "pembelajaran tanpa pengawasan" - penciptaan mesin yang benar-benar dapat belajar sendiri tanpa bantuan manusia. Hari ini, pembelajaran mendalam bergantung pada data yang dilabel dengan teliti. Sekiranya anda ingin mengajar rangkaian saraf untuk mengenali foto kucing, anda perlu memberinya sejumlah contoh - dan contoh ini harus dilabelkan sebagai foto dengan kucing. Latihan sedemikian dijalankan dengan bantuan orang. Tetapi seperti banyak saintis lain, OpenAI merancang untuk membina rangkaian saraf yang dapat belajar tanpa pemilihan data yang teliti.
"Sekiranya anda mempunyai metodologi pengajaran yang sangat baik tanpa guru, mesin dapat belajar dari semua pengetahuan di Internet - seperti manusia, hanya dengan melihat-lihat - atau dengan membaca buku," kata Brockman.
Dia melihat OpenAI sebagai penjelmaan moden Xerox PARC, sebuah makmal penyelidikan teknologi yang wujud pada tahun 1970-an. Sama seperti penyelidikan terbuka dan bebas PARC yang memunculkan segalanya, dari antara muka pengguna grafik dan percetakan laser hingga pengaturcaraan berorientasi objek, Brockman dan pasukannya ingin menyelami apa yang dulu merupakan fiksyen sains. PARC dimiliki oleh Xerox, tetapi diberi makan oleh banyak syarikat lain, termasuk Apple, kerana orang seperti Steve Jobs menyambut baik penyelidikannya. Brockman mahu semua orang mengalu-alukan penyelidikan OpenAI.
Dengan harapan dapat mendorong dinamik ini, Brockman dan syarikat merekrut beberapa penyelidik terkenal lain, termasuk Ian Goodfellow, seorang lagi rakan kanan dalam pasukan Google Brain. Brockman mengatakan PARC pada dasarnya mengumpulkan sekumpulan orang pintar dan memutuskan untuk melihat apa yang berlaku. "Anda memerlukan visi bersama tanpa kawalan pusat."
Kekurangan kawalan sangat mustahak bagi yang ideal. Sekiranya anda membawa cukup orang ke matlamat kolektif, hasil akhirnya akan memenangi apa sahaja yang anda buat secara rahsia. Tetapi jika AI menjadi sekuat yang dijanjikan, persamaan akan berubah. Kita memerlukan jaminan bahawa AI yang baru akan mematuhi cita-cita egaliter yang sama yang menjadikannya mula-mula diciptakan. Musk, Altman dan Brockman mempercayai orang, di khalayak ramai. Dan jika mereka benar, suatu hari orang ramai ini tidak akan menjadi manusia sepenuhnya.
ILYA KHEL
