Suatu petang pada bulan Ogos 2010, seorang London yang berusia 34 tahun bernama Demis Hassabis mengambil panggung di sebuah bilik persidangan di San Francisco Bay Area. Mendaki ke podium dengan gaya berpura-pura seorang lelaki yang berusaha mengawal kegugupannya, dia menekan bibirnya dengan senyum pendek dan berkata: "Baiklah, hari ini saya ingin membicarakan pendekatan yang berbeza untuk penciptaan …". Dia berhenti, seolah-olah menyedari betapa kerasnya dia menyatakan cita-citanya. Dan dia mengatakannya: "AGI".
AGI bermaksud General Artificial Intelligence, sebuah program komputer hipotesis yang dapat melaksanakan tugas intelektual dan juga manusia, atau lebih baik lagi. AGI akan dapat melakukan tugas-tugas tertentu, seperti mengenali orang dalam foto atau menerjemahkan bahasa, yang saat ini mampu melakukan banyak kecerdasan buatan yang terpisah di telefon dan komputer kita. Mereka akan dapat melakukan perbualan, bermain catur dan berbahasa Perancis pada masa yang sama. Mereka akan dapat memahami buku fizik, menulis novel, mengembangkan strategi pelaburan, dan mengadakan perbualan santai dengan orang asing. Mereka akan memantau tindak balas nuklear, menguruskan grid kuasa dan lalu lintas, dan berjaya dalam segala hal dengan mudah. AGI akan menjadikan AI yang paling maju hari ini seperti kalkulator poket.
Satu-satunya akal yang mampu melaksanakan semua tugas ini adalah milik manusia. Tetapi fikiran manusia dibatasi oleh ukuran tengkorak yang menempatkan otak. Kekuatannya dibatasi oleh sejumlah kecil tenaga yang dapat diberikan oleh tubuh. Oleh kerana AGI akan berjalan di komputer, ia tidak akan mengalami batasan ini. Kepintarannya hanya akan dibatasi oleh jumlah pemproses yang ada. AGI boleh bermula dengan memantau tindak balas nuklear. Tetapi tidak lama lagi dia akan menemui sumber tenaga baru, mencerna lebih banyak kerja fizik sesaat daripada yang dapat dilakukan seseorang dalam seribu tahun. Kepintaran tahap manusia, yang disokong oleh kelajuan dan skalabiliti komputer, akan menyelamatkan kita dari masalah. Hassabis memberitahu akhbar Britain Observer bahawa dia mengharapkan AGI untuk mengatasi, antara disiplin lain, masalah seperti "barah,perubahan iklim, tenaga, genomik, ekonomi makro dan sistem kewangan."
Persidangan di mana Hassabis bercakap dipanggil Sidang Kemuncak Singularity. Singularity - bahagian pertama nama - merujuk kepada akibat yang paling mungkin munculnya AGI, menurut futurolog. Oleh kerana AGI akan memproses maklumat pada kelajuan tinggi, ia akan menjadi sangat pintar dengan cepat. Kitaran peningkatan diri yang cepat akan menyebabkan ledakan kecerdasan mesin, menyebabkan orang menghidu habuk silikon. Oleh kerana masa depan ini hanya didasarkan pada andaian yang tidak dapat disahkan, maka secara keagamaan diandaikan bahawa Singularity akan berubah menjadi utopia atau neraka.
Dilihat dari judul pidato, para peserta konferensi lebih percaya pada hasil pertama: "Pikiran dan bagaimana membinanya", "AI melawan penuaan", "Mengganti badan kita", "Mengubah batas antara hidup dan mati". Ucapan Hassabis, sebaliknya, kelihatan membosankan: "Pendekatan neurosains saintifik sistemik untuk mewujudkan AGI."
Hassabis bergerak di antara podium dan layar, berbicara dalam nada. Dia memakai jumper burgundy dan kemeja butang putih seperti budak sekolah. Perawakannya yang kecil nampaknya hanya menekankan kepandaiannya. Sehingga kini, Hassabis menjelaskan, para saintis telah mendekati AGI dari dua pihak. Satu pendekatan, yang dikenali sebagai AI simbolik, cuba menerangkan dan memprogram semua peraturan yang diperlukan untuk sistem yang dapat berfikir seperti manusia. Pendekatan ini popular pada tahun 1980-an dan 1990-an, tetapi tidak menghasilkan hasil yang diinginkan. Hassabis percaya bahawa seni bina otak otak terlalu halus untuk dijelaskan dengan cara ini.
Pendekatan lain telah menyatukan para saintis yang berusaha untuk meniru secara digital rangkaian fizikal otak. Itu masuk akal. Lagipun, otak adalah tempat tidur kecerdasan manusia. Tetapi penyelidik itu juga berada di landasan yang salah, kata Hassabis. Tugas mereka serupa dengan membuat peta semua bintang di alam semesta. Lebih mendalam lagi, mereka fokus pada tahap fungsi otak yang salah. Ia seperti mencari tahu bagaimana Microsoft Excel berfungsi dengan meretas komputer dan belajar bagaimana transistor berinteraksi.
Sebaliknya, Hassabis menawarkan jalan tengah: AGI harus menarik inspirasi dari cara-cara luas di mana otak memproses maklumat, bukan dari sistem fizikal atau peraturan khusus yang berlaku untuk situasi tertentu. Dengan kata lain, dia harus fokus pada memahami perisian otak, bukan perkakasannya. Teknik baru, seperti pengimejan resonans magnetik fungsional (fMRI), yang memungkinkan pandangan ke otak ketika ia berfungsi, mengisyaratkan bahawa pemahaman semacam itu mungkin. Kajian terbaru, kata Hassabis, menunjukkan bahawa otak belajar dengan mengulang pengalamannya semasa tidur untuk mengungkapkan prinsip umum. Penyelidik AI mesti mencontohi sistem sedemikian.
Video promosi:
Di sudut kanan bawah slaid pembuka, logo dalam bentuk pusaran biru bulat memamerkan. Dua perkataan di sebelahnya dicetak di bawah: DeepMind. Ini adalah kali pertama syarikat itu disebut secara terbuka. Hassabis menghabiskan masa lebih setahun untuk mendapatkan jemputan ke Sidang Kemuncak Singularity. Ceramah itu adalah penutupnya. Sebenarnya, dia memerlukan satu minit dengan Peter Thiel, jutawan Silicon Valley yang membiayai persidangan itu. Hassabis mahukan pelaburan Thiel.
Hassabis tidak pernah bercakap mengapa dia memerlukan sokongan Thiel. Tetapi Thiel lebih mempercayai AGI daripada Hassabis. Bercakap di Sidang Kemuncak Singularity pada tahun 2009, Thiel mengatakan bahawa ketakutan terbesarnya terhadap masa depan bukanlah pemberontakan robot. Dia lebih bimbang bahawa Singularity tidak akan datang tidak lama lagi. Dunia memerlukan teknologi baru untuk mencegah kemerosotan ekonomi.
DeepMind akhirnya mengumpulkan £ 2 juta, di mana Thiel adalah 1.4 juta. Semasa Google membeli syarikat itu pada Januari 2014 dengan harga $ 600 juta, Thiel dan pelabur awal yang lain memperoleh pulangan pelaburan sebanyak 5,000%.
Bagi banyak pengasas, ini akan menjadi akhir yang bahagia. Seseorang boleh berehat, mengambil langkah mundur, menghabiskan masa bersendirian dengan wang. Bagi Hassabis, pemerolehan Google hanyalah satu lagi langkah dalam mencari AGI. Dia menghabiskan sebahagian besar tahun 2013 untuk merundingkan syarat perjanjian. DeepMind harus beroperasi secara berasingan dari pemiliknya. Dia perlu mendapatkan faedah memiliki Google, seperti akses ke aliran tunai dan kekuatan komputer, tanpa kehilangan kawalan.
Hassabis berpendapat DeepMind boleh menjadi kacukan, dengan mesin permulaan, otak universiti-universiti terhebat, dan kantong mendalam salah satu syarikat paling berharga di dunia. Setiap bahan disediakan untuk mempercepat kedatangan AGI dan menghilangkan penyebab penderitaan manusia.
Hu dari Encik Hassabis
Demis Hassabis dilahirkan di London Utara pada tahun 1976 oleh keluarga Cina kelahiran Yunani Siprus dan Singapura. Dia adalah anak sulung dari tiga beradik. Ibunya bekerja di gedung membeli-belah Britain, John Lewis, dan bapanya mengelola sebuah kedai mainan. Hassabis sendiri mengambil catur pada usia empat tahun, memerhatikan ayah dan bapa saudaranya bermain. Dalam beberapa minggu dia sudah mengalahkan orang dewasa. Menjelang usia 13 tahun, dia menjadi pemain catur kedua terbaik dunia seusianya. Pada usia lapan tahun, dia belajar memprogram di komputer sederhana.
Hassabis mendapat pendidikan tinggi pada tahun 1992, dua tahun lebih awal dari jadual. Mendapat pekerjaan sebagai pengaturcara permainan video di Bullfrog Productions. Hassabis menulis Taman Tema, di mana pemain membuat dan menguruskan taman hiburan maya. Permainan ini berjaya besar dan terjual 15 juta salinan, menciptakan keseluruhan genre permainan simulasi di mana tujuannya bukan untuk mengalahkan musuh, tetapi untuk mengoptimumkan fungsi sistem kompleks yang besar, seperti perniagaan atau kota.
Selain mencipta permainan, Demis memainkannya dengan baik. Sebagai remaja, dia berlari di antara lantai dalam pertandingan permainan papan, sambil bertanding dalam duel catur, scrabble, poker dan backgammon. Pada tahun 1995, semasa belajar sains komputer di University of Cambridge, Hassabis bertanding dalam kejohanan pelajar pergi. Go adalah permainan papan strategi kuno yang jauh lebih sukar daripada catur. Penguasaan mesti memerlukan intuisi yang diperoleh selama bertahun-tahun pengalaman. Tidak ada yang tahu sama ada Hassabis pernah bermain Go sebelumnya.
Pertama, Hassabis memenangi kejohanan pemula. Dia kemudian mengalahkan pemenang pemain berpengalaman, walaupun dengan kekurangan. Charles Matthews, tuan rumah Cambridge yang menjadi tuan rumah kejohanan, mengingatkan akan kejutan yang dihancurkan oleh pemula berusia 19 tahun. Matthews mengambil Hassabis di bawah sayapnya.
Kepintaran dan cita-cita Hassabis selalu terbukti dalam permainan. Permainan, pada gilirannya, menghidupkan kembali minatnya untuk kecerdasan. Ketika melihat perkembangannya di catur, dia bertanya-tanya apakah komputer dapat diprogram untuk belajar dengan cara yang sama seperti yang dilakukannya dengan memperoleh pengalaman. Permainan menawarkan persekitaran pembelajaran yang tidak dapat ditandingi oleh dunia nyata. Mereka ketat dan tertutup. Oleh kerana permainan terpisah dari dunia nyata, permainan boleh dilakukan tanpa gangguan dan dipelajari dengan berkesan. Permainan mempercepat masa: pemain membuat sindiket jenayah dalam beberapa hari dan bertarung dengan Somme selama beberapa minit.
Pada musim panas tahun 1997, Hassabis pergi ke Jepun. Pada bulan Mei tahun itu, komputer Deep Blue IBM mengalahkan Garry Kasparov, juara catur dunia. Buat pertama kalinya, komputer mengalahkan grandmaster. Pertandingan ini menarik perhatian seluruh dunia dan menimbulkan kebimbangan mengenai kekuatan dan potensi ancaman komputer yang semakin meningkat. Ketika Hassabis bertemu dengan Masahiko Futszuvera, tuan permainan papan Jepun, dia bercakap mengenai rancangan yang akan menggabungkan minatnya dalam permainan strategi dan kecerdasan buatan: suatu hari dia akan mengembangkan program komputer untuk mengalahkan pemain go yang paling hebat.
Hassabis mendekati kerjayanya secara metodis. "Pada usia 20, Hassabis percaya bahawa hal-hal tertentu harus ada sebelum kecerdasan buatan dapat mencapai tahap yang diperlukan," kata Matthews. "Dia punya rancangan."
Pada tahun 1998, dia mengasaskan studio permainannya sendiri bernama Elixir. Hassabis memusatkan perhatian pada satu permainan yang sangat bercita-cita tinggi, Republic: The Revolution, sebuah simulasi politik yang kompleks. Beberapa tahun sebelumnya, ketika masih bersekolah, Hassabis telah memberitahu rakannya Mustafa Suleiman bahawa dunia memerlukan simulasi mulia untuk memodelkan dinamika kompleksnya dan menyelesaikan masalah sosial yang paling kompleks. Sekarang dia cuba melakukannya dalam permainan.
Lebih sukar untuk menetapkan aspirasinya daripada yang diharapkan. Elixir akhirnya melepaskan versi permainan yang dilucutkan untuk mendapat ulasan hangat. Permainan lain telah gagal. Pada bulan April 2005, Hassabis mematikan Elixir. Matthews percaya bahawa Hassabis mendirikan syarikat itu hanya untuk mendapatkan pengalaman pengurusan. Hassabis kini hanya kekurangan satu bidang kepakaran penting sebelum dia dapat memulakan pencariannya untuk mencari AGI. Dia harus memahami otak manusia.
Pada tahun 2005, Hassabis mendapat PhD dalam bidang neurosains dari University College London. Dia menerbitkan kajian memori dan imaginasi yang sangat berpengaruh. Satu kajian, yang telah dikutip lebih dari 1,000 kali, menunjukkan bahawa orang yang menderita amnesia juga sukar untuk membayangkan pengalaman baru, yang menunjukkan adanya hubungan antara penghafalan dan pencitraan mental. Hassabis membina pemahaman otak yang diperlukan untuk menguasai AGI. Sebilangan besar karyanya disusun dalam satu soalan: Bagaimana otak manusia menerima dan mengekalkan konsep dan pengetahuan?
Hassabis secara rasmi menubuhkan DeepMind pada 15 November 2010. Pernyataan misi syarikat itu sama seperti sekarang: "selesaikan kepintaran" dan kemudian gunakan untuk menyelesaikan semua yang lain. Seperti yang dikatakan Hassabis pada Sidang Kemuncak Singularity, ini bermaksud menerjemahkan pemahaman kita tentang bagaimana otak melakukan tugas ke dalam perisian yang dapat menggunakan kaedah yang sama untuk mengajar.
Hassabis sama sekali tidak mendakwa bahawa sains telah memahami minda manusia sepenuhnya. Rancangan untuk melaksanakan AGI adalah mustahil untuk dipelajari dari ratusan kajian neurosains. Tetapi dia jelas percaya bahawa sangat mungkin untuk memulakan AGI dengan cara yang menarik baginya. Namun, ada kemungkinan keyakinannya mengalahkan kenyataan. Kita masih belum tahu pasti bagaimana otak berfungsi. Pada tahun 2018, sepasukan penyelidik Australia mempersoalkan penemuan Hassabis sendiri. Sudah tentu, ini hanya satu dokumen, tetapi ia menunjukkan bahawa sains di sebalik karya DeepMind jauh dari terbukti.
Suleiman dan Shane Legg, seorang warga New Zealand yang taksub dengan AGI yang juga bertemu dengan Hassabis di universiti, bergabung sebagai pengasas bersama. Reputasi syarikat berkembang pesat. Hassabis berkembang. "Ia menarik seperti magnet," kata Ben Faulkner, bekas eksekutif Deep Mind. Ramai rekrut datang dari Eropah. Mungkin pencapaian terbesar DeepMind adalah dengan aktif merekrut orang-orang berbakat lebih awal dan mengekalkan mereka yang paling cemerlang dan terbaik.
Salah satu teknik pembelajaran mesin yang telah difokuskan oleh syarikat berkembang dari hasrat ganda Hassabis untuk permainan dan neurosains: pembelajaran pengukuhan. Program seperti ini dirancang untuk mengumpulkan maklumat mengenai persekitaran dan kemudian belajar daripadanya, mengulang pengalamannya berulang kali - sama seperti Hassabis menerangkan aktiviti otak semasa tidur dalam kuliahnya di Singularity Summit.
Pembelajaran pengukuhan dimulakan dengan batu tulis bersih. Program ini menunjukkan persekitaran maya di mana ia tidak mengetahui apa-apa kecuali peraturan, seperti simulator catur atau permainan video. Program ini mengandungi sekurang-kurangnya satu komponen yang dikenali sebagai rangkaian saraf. Ini terdiri daripada lapisan struktur komputasi yang menyaring maklumat untuk mengenal pasti ciri atau strategi tertentu. Setiap lapisan meneroka persekitaran pada tahap pengambilannya sendiri. Pada mulanya rangkaian ini mempunyai kejayaan yang minimum, tetapi kesalahan mereka - dan ini penting - juga dikodkan di dalamnya. Secara beransur-ansur, mereka menjadi lebih pintar dan lebih pintar, bereksperimen dengan strategi yang berbeza dan menerima ganjaran jika mereka berjaya. Sekiranya program menggerakkan catur dan, akibatnya, kehilangan permainan, ia tidak akan membuat kesalahan seperti itu lagi. Sebilangan besar keajaiban kecerdasan buatan terletak pada kepantasan mengulang tugas-tugas ini.
Hasil kerja DeepMind mencapai puncaknya pada tahun 2016 ketika pasukan itu mengembangkan program kecerdasan buatan yang menggunakan pembelajaran pengukuhan bersama dengan kaedah lain bermain go. Program yang dinamakan AlphaGo itu mengangkat mata setelah mengalahkan juara dunia dalam pertandingan lima perlawanan di Seoul pada 2016. Kemenangan mesin itu, yang disaksikan oleh 280 juta orang, berlaku sepuluh tahun lebih awal daripada yang diramalkan oleh mesin. Pada tahun berikutnya, versi AlphaGo yang lebih baik mengalahkan juara Chinese Go.
Seperti Deep Blue pada tahun 1997, AlphaGo mengubah persepsi pencapaian manusia. Juara manusia, akal planet yang cemerlang, tidak lagi berdiri di puncak piramid intelektual. Hampir 20 tahun setelah Hassabis mengumumkan cita-citanya kepada Fuzuvere, dia menunaikannya. Hassabis mengatakan bahawa perlawanan ini membuatnya menangis. Dia berterima kasih kepada Matthews.
DeepBlue menang berkat kekuatan kasar dan kepantasan komputasi, tetapi gaya AlphaGo terasa artistik, hampir manusiawi. Keanggunan dan kecanggihannya, keunggulan kekuatan komputasi, nampaknya menunjukkan bahawa DeepMind mendahului persaingan dalam membuat program yang dapat menyembuhkan penyakit dan menguruskan kota.
Pikiran mendalam dan kecerdasan buatan
Hassabis selalu mengatakan bahawa DeepMind akan mengubah dunia menjadi lebih baik. Tetapi tidak ada kepastian mengenai AGI. Sekiranya dia pernah muncul, kita tidak tahu apakah itu akan menjadi lebih baik atau lebih buruk, apakah dia akan tunduk pada kawalan manusia. Sekiranya demikian, siapa yang akan memegang tampuknya?
Sejak awal, Hassabis berusaha mempertahankan kemerdekaan DeepMind. Dia selalu menegaskan bahawa DeepMind tinggal di London. Semasa Google membeli syarikat itu pada tahun 2014, isu kawalan menjadi semakin mendesak. Hassabis tidak perlu menjual DeepMind ke Google. Dengan uang tunai yang cukup, dia membuat sketsa model bisnis di mana syarikat itu akan mengembangkan permainan untuk membiayai penyelidikan. Mereka menjanjikan banyak wang di Google, tetapi dia tidak mahu memindahkan syarikat yang dibesarkannya. Sebagai sebahagian daripada perjanjian itu, DeepMind membuat perjanjian yang akan menghalang Google daripada secara sepihak mengambil alih harta intelek syarikat. Pada tahun menjelang pemerolehan, sumber mengatakan kedua-dua pihak menandatangani perjanjian - Perjanjian Etika dan Keselamatan. Perjanjian ini digubal oleh peguam kanan di London.
Perjanjian itu memindahkan kawalan teknologi inti AGI DeepMind, jika ada, kepada Lembaga Etika. Menurut sumber yang sama, Majlis Etika sama sekali bukan merupakan konsesi kosmetik dari Google, melainkan memberikan DeepMind sokongan undang-undang yang kukuh untuk mengekalkan kawalan teknologinya yang paling berharga dan berpotensi paling berbahaya. Nama-nama pesuruhjaya belum dikeluarkan, tetapi sumber lain yang dekat dengan DeepMind dan Google mengatakan bahawa ketiga-tiga pengasas DeepMind ada di papan. Syarikat itu sendiri tidak mendedahkan apa-apa.
Hassabis dapat menentukan nasib DeepMind dengan cara lain. Salah satunya ialah pengabdian. Pekerja, bekas dan sekarang, mengatakan bahawa program penyelidikan Hassabis adalah salah satu kelebihan DeepMind. Programnya, yang menawarkan karya yang menarik dan penting tanpa tekanan dari akademik, telah menarik ratusan pakar paling berbakat di dunia. DeepMind mempunyai pejabat anak syarikat di Paris dan Albert. Ramai pekerja merasa lebih berhubung dengan Hassabis dan misinya daripada dengan ibu bapa korporatnya, yang hanya mahukan pendapatan. Selagi Hassabis mengekalkan kesetiaan peribadi, dia mempunyai kuasa yang besar atas pemegang sahamnya sendiri. Lebih baik membiarkan bakat berfungsi untuk DeepMind dari jauh daripada berakhir di Facebook atau Apple.
DeepMind mempunyai sumber pengaruh lain, walaupun memerlukan pengisian berterusan: halo yang menguntungkan. Syarikat telah berjaya dalam hal ini. AlphaGo adalah iklan yang hebat. Sejak pemerolehan Google, syarikat itu telah berulang kali menghasilkan keajaiban yang telah menarik perhatian seluruh dunia. Salah satu contoh perisian dapat mengesan corak imbasan mata yang menjadi petunjuk degenerasi makula. Program lain belajar bermain catur dari awal, menggunakan seni bina yang serupa dengan AlphaGo, dan menjadi pemain terhebat sepanjang masa setelah hanya sembilan jam bermain dengan dirinya sendiri. Pada bulan Disember 2018, AlphaFold terbukti lebih tepat daripada pesaing dalam meramalkan struktur protein tiga dimensi dari senarai sebatian yang berpotensi merawat penyakit seperti Parkinson dan Alzheimer.
DeepMind sangat berbangga dengan algoritma yang dikembangkannya yang mengira penyelesaian penyejukan yang paling berkesan untuk pusat data Google, yang mengandungi kira-kira 2.5 juta pelayan komputer. Pada tahun 2016, DeepMind mengatakan telah mengurangkan bil elektrik Google sebanyak 40%. Tetapi beberapa orang dalam mengatakan bahawa sombong ini berlebihan. Google telah menggunakan algoritma untuk mengoptimumkan pusat datanya jauh sebelum DeepMind muncul. Dipercayai bahawa DeepMind melebih-lebihkan kelebihannya untuk mendapatkan nilai di mata Alphabet. Syarikat induk Google Alphabet membayar DeepMind untuk perkhidmatan serupa. Pada tahun 2017, yang terakhir mengeluarkan invois kepada Alphabet dengan harga £ 54 juta. Angka-angka ini pucat dibandingkan dengan overhead DeepMind. Pada tahun yang sama, dia membelanjakan £ 200 juta untuk kakitangan. Secara amnya,pada tahun 2017, DeepMind kehilangan 282 juta pound.
Itu satu sen untuk gergasi kaya. Tetapi anak syarikat Alphabet lain menarik perhatian Ruth Porat, CFO pelik Alphabet. Google Fiber, percubaan untuk membina penyedia perkhidmatan Internet, ditangguhkan setelah menjadi jelas bahawa pelaburan akan memerlukan puluhan tahun untuk membuahkan hasil. Penyelidik AI juga tertanya-tanya apakah DeepMind akan diperbaiki.
Pendedahan progresif tentang kemajuan DeepMind dalam AI adalah sebahagian daripada strategi yang secara beransur-ansur membina reputasi syarikat. Ini sangat berharga pada saat Google dituduh melanggar privasi pengguna dan menyebarkan berita palsu. DeepMind juga cukup beruntung kerana mempunyai penyokong di peringkat tertinggi: Larry Page, salah satu daripada dua pengasas Google, kini CEO Alphabet. Paige sangat dekat dengan Hassabis. Ayah Page, Karl, mempelajari rangkaian saraf pada tahun 1960-an. Pada awal kerjayanya, Page mengatakan bahawa dia membuat Google semata-mata untuk mencari syarikat AI.
Pengawasan mendalam DeepMind terhadap akhbar tidak sesuai dengan semangat akademik yang melanda syarikat. Sebilangan sarjana mengadu bahawa sukar bagi mereka untuk menerbitkan karya mereka: mereka harus mengatasi lapisan persetujuan dalaman sebelum mereka bahkan dapat menyerahkan makalah ke persidangan atau jurnal. DeepMind percaya perlu untuk berhati-hati agar tidak menakutkan masyarakat dengan prospek AGI. Tetapi tuduhan yang terlalu keras boleh merosakkan suasana akademik dan melemahkan kesetiaan pekerja.
Lima tahun selepas pemerolehan Google, persoalan mengenai siapa yang mengawal DeepMind menjadi kritikal. Pengasas dan pekerja awal syarikat menghampiri ambang pintu ketika mereka dapat meninggalkan pampasan kewangan yang mereka terima dari pembelian syarikat tersebut (saham Hassabis mungkin bernilai sekitar 100 juta pound). Tetapi sumber yang dekat dengan syarikat itu menunjukkan bahawa Alphabet telah mendorong pembayaran balik kepada pengasas selama beberapa tahun. Memandangkan tumpuannya yang berterusan, Hassabis tidak mungkin melompat dari kapal. Dia hanya berminat dengan wang hanya kerana ia membantunya dalam mencapai matlamat sepanjang hidupnya. Tetapi beberapa rakan saya pergi. Tiga jurutera AI telah meninggalkan syarikat itu sejak awal 2019. Ben Laurie, salah seorang jurutera keselamatan paling terkenal di dunia, kembali ke Google. Ini tentu tidak banyakTetapi DeepMind menawarkan misi yang luar biasa dan gaji yang lumayan yang tidak boleh ditinggalkan oleh siapa pun.
Setakat ini, Google tidak benar-benar mengganggu DeepMind. Tetapi satu perkembangan baru-baru ini telah menimbulkan kebimbangan mengenai berapa lama syarikat itu dapat mengekalkan kebebasannya.
DeepMind, Perubatan dan Kecerdasan Buatan
DeepMind selalu merancang untuk menggunakan AI untuk meningkatkan penjagaan kesihatan. Pada bulan Februari 2016, bahagian baru DeepMind Health telah dibuat, yang diketuai oleh Mustafa Suleiman, salah seorang pengasas syarikat. Suleiman, yang ibunya adalah seorang perawat, berharap dapat membuat program yang disebut Streams yang akan memberi amaran kepada para doktor ketika kesihatan pesakit semakin merosot. DeepMind akan diberi ganjaran berdasarkan metrik. Oleh kerana karya ini memerlukan akses kepada maklumat pesakit yang dirahsiakan, Suleiman menubuhkan Independent Review Panel (IRP) yang merekrut profesional kesihatan dan teknologi Inggeris yang baik. DeepMind cukup bijak untuk berhati-hati. Selepas itu, Pesuruhjaya Maklumat Britain mendapati bahawa salah seorang rakan hospital telah melanggar undang-undang dalam memproses data pesakit. Namun, pada akhir tahun 2017, Suleiman telah menandatangani perjanjian dengan empat hospital besar.
Pada 8 November 2018 Google mengumumkan penubuhan bahagian kesihatannya sendiri - Kesihatan Google. Lima hari kemudian, diumumkan bahawa DeepMind Health akan menyertai usaha syarikat induk. DeepMind belum diberi amaran. Menurut maklumat yang diperoleh dari permintaan FOI, dia hanya memberitahukan perubahan hospital tiga hari sebelumnya. DeepMind enggan mendedahkan ketika perbincangan mengenai penggabungan itu dimulakan, tetapi mengatakan masa yang singkat antara pemberitahuan dan pengumuman awam adalah demi kepentingan ketelusan. Pada tahun 2016, Suleiman menulis bahawa "data pesakit tidak akan pernah dikaitkan dengan akaun, produk atau perkhidmatan Google." Janjinya nampaknya telah dipungkiri.
Aneksasi Google membuat marah pegawai DeepMind Health. Lebih ramai pekerja merancang untuk meninggalkan syarikat itu setelah proses pengambilalihan selesai, menurut orang yang rapat dengan pasukan penjagaan kesihatan.
Episod ini menunjukkan bahawa bahagian periferal dari pekerjaan DeepMind terdedah kepada Google. DeepMind menyatakan bahawa "kita semua setuju bahawa masuk akal untuk menggabungkan usaha ini dalam satu usaha kolaboratif dengan peningkatan sumber daya." Ini menimbulkan persoalan sama ada Google akan menggunakan logik yang sama untuk karya DeepMind mengenai AGI.
Dalam skala besar, DeepMind telah membuat kemajuan besar. Dia telah membuat perisian yang dapat belajar melakukan tugas pada tingkat super. Hassabis sering merujuk kepada Breakout, permainan video untuk konsol Atari. Pemain mengendalikan kelawar, yang dapat bergerak secara mendatar dan dengan pertolongannya melambung bola, mengarahkannya ke blok di atas, yang hancur ketika bertembung. Pemain menang apabila semua blok musnah. Kalah jika bola jatuh melepasi platform. Tanpa arahan manusia, DeepMind tidak hanya belajar bermain permainan, tetapi juga melemparkan bola ke ruang di belakang blok untuk memanfaatkan pantulan. Ini menunjukkan kekuatan pembelajaran pengukuhan dan kekuatan ghaib program komputer DeepMind.
Demonstrasi tentu mengagumkan. Tetapi Hassabis diam tentang sesuatu. Sekiranya platform maya dinaikkan sedikit lebih tinggi, program akan membuat kesalahan. Kemahiran yang diperoleh DeepMind sangat terhad sehingga tidak dapat bertindak balas terhadap perubahan kecil di persekitaran yang dapat diatasi dengan mudah oleh manusia. Tetapi terdapat banyak kehalusan di dunia. Untuk kecerdasan diagnostik, tidak ada dua organ badan yang serupa. Untuk kecerdasan mekanikal, dua motor serupa tidak akan sama dalam penalaan. Oleh itu, melepaskan program ke alam liar adalah sukar.
Yang kedua, yang jarang dibincangkan oleh DeepMind, adalah kejayaan dalam persekitaran maya bergantung pada fungsi ganjaran: isyarat yang membolehkan perisian mengukur kemajuannya. Program mengetahui bahawa memantul dari dinding belakang meningkatkan skornya. Sebilangan besar kerja DeepMind dengan AlphaGo adalah untuk membuat fungsi ganjaran yang serasi dengan permainan yang begitu kompleks. Malangnya, dunia nyata tidak menawarkan ganjaran sederhana. Kemajuan jarang diukur pada titik individu. Otak manusia menerima isyarat mengenai keberhasilan tugas tepat dalam proses pelaksanaannya, dan bukan setelahnya.
DeepMind telah mencari cara untuk menyelesaikannya dengan menggunakan kekuatan pemprosesan dalam jumlah besar. AlphaGo telah bermain permainan selama ribuan tahun masa manusia untuk belajar sesuatu. Ramai ahli falsafah AI mengesyaki penyelesaian ini tidak dapat diterima untuk tugas yang menawarkan ganjaran yang lebih lemah. DeepMind mengakui kesamaran tersebut. Dia baru-baru ini menggunakan StarCraft 2, permainan strategi komputer. Keputusan yang dibuat pada awal permainan mempunyai konsekuensi yang muncul kemudian, yang cukup merupakan ciri umpan balik yang berliku-liku dan terlambat mengenai masalah sebenar. Pada bulan Januari, perisian DeepMind mengalahkan beberapa pemain terbaik di dunia, dan ia cukup mengagumkan walaupun terdapat sekatan yang ketat. Program-program ini juga telah mula meneroka fungsi-fungsi ganjaran dengan mengikuti maklum balas orang ramai. Tetapi memasukkan petunjuk manusia dalam satu gelung menimbulkan risiko kehilangan skala dan kelajuan.
Kedua-dua penyelidik semasa dan bekas di DeepMind dan Google, dengan syarat tidak mahu namanya disebutkan namanya, telah menyatakan keraguan bahawa DeepMind akan dapat mencapai AGI dengan menggunakan kaedah sedemikian. Bagi mereka, keinginan untuk mencapai prestasi tinggi dalam persekitaran simulasi menjadikannya sukar untuk menyelesaikan masalah fungsi ganjaran. Namun pendekatan ini adalah inti dari DeepMind. Terdapat persaingan dalaman dalam sebuah syarikat di mana program dari pasukan yang bersaing bersaing untuk mendapatkan kelebihan.
Hassabis selalu melihat kehidupan sebagai permainan. Sebilangan besar kariernya dikhaskan untuk membuatnya, sebahagian besar masa lapangnya dihabiskan untuk bermain mereka. Di DeepMind, dia menggunakannya untuk mengembangkan kecerdasan buatan yang kuat. Seperti perisiannya, Hassabis belajar dari pengalamannya sendiri. Pengejaran AGI akhirnya boleh membawa jalan buntu, mencipta teknologi perubatan yang berguna dan mengatasi pemain terbaik dalam kemahiran mereka. Tetapi ia juga dapat membuat AGI tepat di bawah hidung Google, tetapi di luar kawalannya. Dan jika dia berjaya melakukannya, Demis Hassabis akan memenangi permainan yang paling sukar.
Ilya Khel
