Ketakutan kecerdasan buatan telah lama tertanam dalam budaya popular. Fikiran manusia yang terbaik, dari Stephen Hawking hingga Elon Musk, telah berbicara mengenai ancaman eksistensi minda digital terhadap manusia.
Profesor di University of California di Berkeley Stuart Russell juga membicarakannya, tetapi dalam visi masa depannya tidak ada robot jahat yang memberontak terhadap dominasi manusia.
Menurut Russell, pada suatu ketika, mesin akan menjadi sangat berkesan sehingga akan memusnahkan kita, melakukan tugas yang kita berikan kepada mereka.
Russell adalah pakar pembelajaran mesin dan pengarang Human Compatible: AI and the Problem of Control.
"Jalan cerita tradisional Hollywood ialah mesin secara spontan menjadi sedar dan kemudian memutuskan bahawa mereka membenci orang dan ingin membunuh semua orang," kata Profesor Russell.
Tetapi ini, menurutnya, adalah pandangan yang salah tentang kiamat-robo, kerana mesin tidak mempunyai emosi manusia.
"Kita tidak perlu khawatir tentang kesadaran diri terhadap mesin jahat, tetapi tentang kompetensi mesin yang melakukan tugas yang telah kita tetapkan," saintis itu yakin.
Video promosi:
Terlalu Kompeten
Dalam temu bual dengan BBC Today, Profesor Russell menggambarkan keadaan hipotetis di mana kewujudan manusia dapat diancam oleh kecerdasan buatan.
Bayangkan ada kecerdasan buatan yang sangat kuat yang dapat mengawal iklim planet ini. Dia ditugaskan untuk membawa tahap karbon dioksida di atmosfer kembali ke tahap pra-industri.
“Sistem akan menganggap bahawa cara yang paling berkesan untuk melakukan ini adalah dengan memusnahkan orang. Mereka menghasilkan karbon dioksida,”kata profesor.
"Ini dapat dielakkan, misalnya, dengan membuatnya menjadi syarat untuk tidak menyingkirkan orang. Apa yang akan dilakukan oleh sistem itu? Dia akan memastikan bahawa semakin sedikit anak-anak dilahirkan sehingga orang hilang sama sekali."
Ini adalah contoh dari apa yang boleh dihasilkan kecerdasan buatan berdasarkan arahan manusia yang tidak difahami.
Kecerdasan Super
Sistem AI yang ada sekarang mempunyai aplikasi yang disasarkan secara sempit. Mereka dirancang untuk menyelesaikan masalah yang jelas dalam satu bidang, kata para saintis di Pusat Kajian Risiko Eksistensi di Universiti Cambridge.
Momen kemenangan untuk falsafah AI ini adalah kemenangan komputer Deep Blue mengatasi juara catur dunia yang memerintah Garry Kasparov pada tahun 1997.
* Kemenangan Deep Blue ke atas Kasparov pada tahun 1997 adalah kemenangan AI.
Tetapi Deep Blue dicipta secara eksklusif untuk permainan catur. Dalam kotak-kotak, dia akan kalah dengan anak kelas lima.
Kemajuan terkini dalam kecerdasan buatan telah membawa kita program yang sangat berbeza.
Sebagai contoh, program AlphaGo Zero belajar bermain Go sendiri, tanpa menggunakan data mengenai permainan masa lalu yang dimainkan oleh orang, dan hanya dalam tiga hari bermain dengan dirinya sendiri, ia mencapai tahap yang tidak dapat dicapai oleh orang biasa.
Algoritma pembelajaran mendalam digunakan untuk membuat AlphaGo Zero. Ini bermaksud bahawa kerja manusia yang sedikit diperlukan untuk mengembangkan program ini.
Pada masa yang sama, AlphaGo Zero tahu bagaimana bermain dengan baik catur dan shogi.
Ingat bahawa program ini sepenuhnya belajar sendiri. Ini boleh menimbulkan kebimbangan bagi sesetengah pihak.
"Oleh kerana AI menjadi lebih kuat dan serba boleh, ada risiko ia menjadi super pintar, yaitu, ia akan mengatasi manusia di banyak atau semua bidang," kata Pusat Kajian Risiko Eksistensial.
Kami tidak tahu apa yang kami mahukan
Profesor Russell percaya bahawa hanya memberikan tugas yang sangat khusus kepada AI bukanlah jalan keluar, kerana manusia sendiri tidak dapat merumuskannya dengan cukup baik.
"Kami tidak menyedari bahawa kami tidak menyukai sesuatu sehingga ia berlaku," katanya.
"Kita perlu mengubah pendekatan yang sangat asas untuk membuat sistem AI," tambah profesor itu. Dia percaya bahawa memberi tugas kepada robot, yang kemudian mereka lakukan, pada dasarnya salah.
“Sistem mesti memahami bahawa tujuannya tidak jelas. dia cakap. - Apabila sistem sedemikian dibuat, mereka benar-benar bergantung pada orangnya. Mereka mula meminta izin sebelum melakukan sesuatu kerana mereka tidak pasti jika anda mahu."
Yang paling penting, kata profesor, mereka tidak akan menolak jika anda memutuskan untuk mematikannya, kerana mereka dirancang untuk tidak melakukan perkara yang tidak anda sukai.
Lampu Aladdin
AI hari ini diciptakan seolah-olah jin dari lampu, kata Profesor Russell. Anda menggosok lampu dan berkata, "Saya mahu ini dan itu berlaku."
Dalam Stanley Kubrick's 2001 * A Space Odyssey *, sebuah komputer yang super cerdas memberontak terhadap manusia yang memutuskan untuk mematikannya.
Dan jika kecerdasan buatan cukup kuat, ia akan melakukan apa yang anda minta.
"Masalah dengan gin adalah bahawa keinginan ketiga adalah selalu membatalkan dua yang pertama, kerana orang itu tidak mengucapkannya dengan salah."
"Mesin yang mengejar tujuan yang salah menjadi musuh manusia secara de facto, dan musuh ini jauh lebih kuat daripada kita," saintis menyimpulkan.
