Dua jutawan yang membuat kekayaan mereka dalam talian, pemilik Tesla dan Space X Elon Musk dan pengasas Facebook Mark Zuckerberg, telah mengalami perselisihan mengenai bahaya kecerdasan buatan.
Kedua-dua usahawan yakin bahawa penciptaan kecerdasan buatan (AI) sepenuhnya adalah masalah dalam masa terdekat. Tetapi Musk percaya bahawa sudah waktunya bagi umat manusia untuk memikirkan mengatur perkembangan di kawasan ini, dan Zuckerberg yakin bahawa kecerdasan buatan akan meningkatkan kehidupan orang ramai.
Pada pertengahan bulan Julai, Elon Musk telah berbicara dengan para gabenor negara-negara AS dan mendesak pihak berkuasa untuk memikirkan untuk memperkenalkan sekatan perundangan terhadap pengembangan AI.
Zuckerberg menjawab soalan mengenai bahaya AI ketika berbual dengan pengguna Facebook. Dia ditanya secara terang-terangan apakah dia menganggap ketakutan Musk itu sah. Pencipta Facebook itu mengatakan bahawa dia tidak memahami bagaimana Musk dapat secara serius meminta perlambatan dalam proses.
Dia membalas dengan tweet “Saya membincangkan perkara ini dengan Mark. Dia mempunyai pemahaman terhad mengenai masalah ini :
Present Tense menerbitkan sepenuhnya ucapan dua jutawan itu.
"Sehingga kita melihat robot berjalan di jalanan dan membunuh orang, kita tidak akan tahu bagaimana reaksi." Ketakutan Elon Musk
Video promosi:
Saya mempunyai akses ke AI terkini. Dan saya fikir orang harus benar-benar prihatin dengan isu ini. Saya tahu bagaimana kedengarannya, tetapi sehingga orang melihat robot berjalan di jalanan dan membunuh orang, mereka tidak akan tahu bagaimana bertindak balas.
Nampaknya tidak realistik. Saya fikir kita benar-benar perlu bimbang tentang AI. Dan saya berpendapat bahawa ini adalah kes yang jarang berlaku ketika kita, dalam sekatan perundangan kita, harus berada di depan kurva, dan tidak membuat keputusan kemudian, ketika sudah terlambat.
Biasanya, sekatan berfungsi seperti ini: pada mulanya, banyak perkara buruk berlaku, protes masyarakat, dan setelah bertahun-tahun terdapat badan pengawalseliaan untuk industri ini. Syarikat yang tidak suka kawalan luar menentang, dan memerlukan masa yang sangat lama. Pada masa lalu, ini telah membawa kepada akibat buruk, tetapi tidak menimbulkan ancaman mendasar bagi kewujudan umat manusia.
AI adalah risiko asas untuk kewujudan manusia. Dan inilah jenis risiko yang tidak pernah terjadi dalam kemalangan kereta, atau kecelakaan pesawat, atau masalah dadah, atau makanan buruk. Mereka bukan ancaman. Mungkin itu untuk orang tertentu, tetapi itu bukan risiko bagi seluruh masyarakat.
AI adalah ancaman eksistensial asas bagi peradaban, dan saya rasa manusia tidak menyedari hal ini. Ya, dilarang tidak menyenangkan. Tetapi dalam industri automotif kita dikendalikan oleh Jabatan Perhubungan dan banyak lagi. Dan setiap negara mempunyai badan pengawas. Dalam industri angkasa, kita dikendalikan oleh Pentadbiran Penerbangan Persekutuan. Tetapi jika anda bertanya kepada orang biasa, "Hai, anda ingin menyingkirkan pengurusan penerbangan awam, dan hanya berharap agar pengeluar tidak menabung di pesawat, kerana keuntungan menurun pada suku ini," orang itu akan berkata, "Tentu saja tidak." Kedengaran begitu.
Saya berpendapat bahawa bahkan orang-orang yang berpikiran liberal akan tetap mengatakan: "Mari kita perhatikan pengeluar pesawat, kita perlu memastikan bahawa mereka membuat pesawat yang baik." Kereta yang bagus, barang seperti itu. Oleh itu, pengawal selia mempunyai peranan untuk dimainkan. Sudah tentu, saya menentang kawalan ketat. Tapi saya rasa lebih baik kita cepat-cepat menggunakan AI.
Sudah tentu, [penemuan AI] ini akan menyebabkan kehilangan pekerjaan, kerana robot dapat melakukan segala yang lebih baik daripada kita. Iaitu, lebih baik daripada kita semua. Ya. Saya tidak tahu apa yang harus dilakukan mengenainya. Ini adalah masalah terburuk bagi saya. Ya, saya benar-benar yakin bahawa kita memerlukan kawalan negara, kerana dengan cara itu kita dapat menjamin keselamatan awam.
Syarikat terburu-buru, mereka perlu mempunyai masa untuk membuat AI, jika tidak, mereka akan menjadi tidak kompetitif. Sekiranya pesaing anda tergesa-gesa membuat AI, dan anda tidak, dia akan memusnahkan anda. Dan syarikat mengatakan: "Kami tidak mahu mati, sepertinya kami juga perlu membuat AI."
Dan di sinilah kawalan mesti masuk: "Guys, anda semua perlu melambatkan dan memastikannya selamat." Sekiranya pengulas yakin bahawa ia selamat, maka anda boleh terus berusaha. Jika tidak, perlahankan. Tetapi juruaudit mesti melakukan ini untuk semua orang yang melakukannya, jika tidak, pemegang saham akan berkata, "Hei, mengapa anda tidak mengembangkan AI lebih cepat daripada pesaing anda? Itu perlu!"
Saya percaya bahawa ini adalah risiko terbesar yang kita ambil sebagai peradaban. Saya fikir peranan negara adalah menjaga masyarakat dan memperhatikan apa yang mengancamnya. Oleh itu batasannya. Pertama, anda perlu belajar sebanyak mungkin mengenai perkara ini untuk memahami sifat masalahnya, untuk melihat kemajuan dan pencapaian luar biasa dalam bidang AI.
Tahun lalu, dalam permainan go yang cukup sukar untuk dimenangi, dan di mana orang menyangka komputer tidak akan pernah mengalahkan pemain manusia terbaik, atau ia akan berlaku 20 tahun dari sekarang, tahun lalu AlphaGo, yang dibuat oleh DeepMind, syarikat yang dibeli oleh Google mengalahkan pemain go terbaik di dunia. Dan sekarang dia boleh bermain dengan 150 pemain pada masa yang sama dan mengalahkan mereka semua.
Ini adalah kadar kemajuan yang mengagumkan, dan ia akan semakin kerap muncul. Robotik, misalnya. Terdapat robot yang belajar berjalan dari awal dalam beberapa jam. Lebih cepat daripada spesies mana pun. Tetapi yang paling berbahaya - dan ini yang paling sukar untuk difahami - kerana ia bukan sesuatu yang fizikal, ia adalah kecerdasan.
Nampaknya, apa yang dapat dilakukan oleh kecerdasan [buatan] yang kuat di Web? Contohnya, mulakan perang. Contohnya, dengan membuat berita palsu, siaran akhbar palsu dan alamat surat-menyurat, dan hanya memanipulasi maklumat. Pena lebih kuat daripada pedang.
Sebagai contoh - saya ingin tekankan, saya rasa ini sebenarnya tidak berlaku, saya mengatakan ini secara hipotesis - ingatkah pesawat Malaysia yang ditembak jatuh di atas sempadan antara Rusia dan Ukraine? Ini telah meningkatkan geseran antara Rusia dan EU.
Bayangkan jika anda mempunyai kecerdasan buatan dan tujuannya adalah untuk memaksimumkan nilai portfolio saham, salah satu caranya ialah membeli stok pertahanan, stok pengguna pendek, dan memulakan perang.
Bagaimana dia boleh melakukannya? Hack Malaysian Airlines, pelayan laluan pesawat, plot laluan di zon perang, dan kemudian hantar mesej tanpa nama bahawa "pesawat musuh terbang ke atas anda."
"Semua teknologi dapat digunakan untuk bahaya dan kebaikan." Optimisme Mark Zuckerberg
Saya mempunyai kepercayaan yang cukup kuat mengenai perkara ini. Saya sangat optimis. Saya seorang yang optimis secara amnya. Saya rasa kita dapat membuat perkara yang menjadikan dunia menjadi tempat yang lebih baik, dan saya sangat optimis mengenai AI. Saya rasa bahawa saya tidak memahami orang yang selalu skeptikal dan selalu merasa takut dengan senario-senario akhir dunia yang akan datang. Saya rasa ini benar-benar sangat buruk dan tidak bertanggungjawab, kerana dalam lima hingga sepuluh tahun akan datang, AI akan dapat memperbaiki dan meningkatkan kualiti hidup kita.
Sekiranya anda prihatin dengan keselamatan dan kesihatan orang, maka AI sudah membantu untuk mendiagnosis penyakit dengan lebih baik, dan memilih ubat-ubatan untuk orang-orang bergantung kepada apa yang mereka sakit dan bagaimana mereka dapat disembuhkan dengan lebih baik. Ramai orang akan mendapat rawatan kesihatan yang lebih baik daripada sebelumnya.
Bagi kenderaan yang memandu sendiri, ia akan lebih selamat daripada kereta yang dipandu orang. Ia hanya masalah masa. Kemalangan kereta tetap menjadi salah satu penyebab utama kematian. Dan jika mereka dapat dihilangkan dengan bantuan AI, itu akan meningkatkan kehidupan orang ramai.
Apabila saya mendengar alasannya, "Oh, anda tahu, AI akan membahayakan orang lain di masa depan," saya rasa bahawa semua teknologi boleh digunakan untuk keburukan dan kebaikan. Dan anda perlu berhati-hati semasa membuat sesuatu, anda harus berhati-hati dan memikirkan bagaimana ia akan diterapkan.
Tetapi ketika orang berkeras untuk melambatkan proses AI, saya merasa sangat kontroversial. Sangat sukar bagi saya untuk memahaminya, kerana jika anda menentang AI, maka anda menentang mesin yang lebih selamat yang tidak akan mengalami kemalangan, menentang kemungkinan diagnosis penyakit yang lebih baik. Dan saya tidak faham bagaimana sebilangan orang dapat melakukannya tanpa licik. Oleh itu, saya secara amnya lebih optimis mengenai [penciptaan AI] ini daripada mungkin banyak orang.
