Komputer pintar atau robot yang mengancam kewujudan umat manusia adalah plot fiksyen sains kegemaran. Pada kenyataannya, menurut para saintis, senario kiamat seperti itu hanya dapat dicegah dengan membuat "penjara" maya kerana mengandungi kecerdasan buatan (AI). Dan ini mesti dilakukan sebelum dia belajar untuk menyedari dan memperbaiki diri.
Sekiranya anda membiarkan jin ini keluar dari botol, maka dari oracle yang menyelesaikan masalah kita, ia boleh berubah menjadi ancaman apokaliptik, kata Roman Yampolsky, seorang saintis di University of Louisville, Kentucky, yang bekerja di bidang sains komputer. Syarat-syarat di mana AI akan dibendung mesti dirancang dengan cermat sehingga tidak dapat melepaskan diri dari ancaman, rasuah, godaan atau penggodaman komputer.
"Dia dapat menemukan banyak cara untuk mempengaruhi, melakukan kombinasi sosio-kejuruteraan yang kompleks dan menggunakan komponen perkakasan yang ada untuk tujuan yang tidak dapat kita bayangkan," Yampolsky percaya. - Perisian seperti itu mempunyai kemungkinan yang tidak terbatas untuk menjangkiti komputer dan rangkaian. AI dapat mencari cara untuk mempengaruhi jiwa manusia, memberi rasuah atau memeras orang yang bersentuhan dengannya."
Kemunculan bidang penyelidikan ilmiah baru yang menangani masalah mewujudkan "penjara" untuk kecerdasan buatan mempunyai faedah tambahan. Kajian-kajian ini sangat berguna untuk meningkatkan keselamatan komputer dan kriptografi, Yampolsky pasti. Proposalnya diperincikan dalam edisi Mac jurnal akademik Journal of Consciousness Studies.
Cara memasang perangkap untuk Skynet
Sebagai permulaan, anda boleh memasukkan kepintaran buatan di dalam "mesin maya". Biarkan ia berfungsi dalam sistem operasi biasa - mengehadkan akses AI ke perisian dan perkakasan komputer hos akan menjadikannya lebih berbahaya. Bagaimanapun, AI pintar tidak akan dapat menghantar mesej rahsia kepada penyokong manusia, mengalahkan kod Morse dengan peminat yang menyejukkan.
Menempatkan kecerdasan buatan dalam komputer tanpa akses Internet adalah cara yang baik untuk menggagalkan rancangan jahat AI untuk melindungi Bumi daripada anda dan saya. Sekiranya terdapat kegagalan lain, penyelidik selalu dapat melambatkan proses pemikiran AI dengan melambatkan kelajuan pemprosesan komputer, menekan butang "reset" secara teratur atau memutuskan sambungan AI dari bekalan kuasa.
Video promosi:
Langkah-langkah keselamatan ini dirancang untuk menangani virus komputer yang sangat cerdas dan berbahaya, tetapi sejauh mana keberkesanannya ternyata menjadi sangkaan sesiapa sahaja.
Catch-22 (novel oleh penulis Amerika J. Heller; kira-kira Mixednews) adalah bahawa kita tidak dapat melakukan ujian skala penuh idea kita sehingga pengembangan AI selesai. Tetapi untuk menjadikan AI selamat, perlu membuat satu set langkah yang sesuai, kata Yampolsky. "Pilihan terbaik adalah dengan mengenakan sekatan terhadap penggunaan sistem AI dan kemudian, jika perlu, ubah batasan tersebut sesuai dengan peningkatan kemampuan AI."
Saintis Roman Yampolsky mencadangkan penggunaan tanda "@" atau tanda lain yang digunakan hari ini untuk menunjukkan ancaman radiasi atau biologi untuk menunjukkan adanya bahaya yang berkaitan dengan kecerdasan buatan.
Jangan sekali-kali meletakkan pengawal keselamatan manusia di kenderaan
Semasa perbualan yang kelihatan tidak bersalah dengan pengawal keselamatan, tidak ada yang akan menghalang AI daripada menggunakan teknik psikologi seperti persahabatan atau pemerasan. Seseorang boleh disuap dengan menjanjikan kesihatan yang sempurna, keabadian, atau bahkan janji untuk mengembalikan saudara dan rakan dari dunia lain. Atau capai apa sahaja dengan ancaman.
Cara paling selamat untuk berkomunikasi dengan AI adalah membuatnya, ketika menyelesaikan masalah saintifik atau teknikal tertentu, pilih jawapan dari banyak pilihan yang ada, jelas Yampolsky. Ini akan membantu mengekalkan oracle super pintar pada tahap pendek.
Ramai penyelidik percaya bahawa, di sebalik semua langkah berjaga-jaga, memastikan pintar cerdas AI terkunci selama-lamanya tidak akan berfungsi. Eksperimen terbaru Eliezer Yudkowski, seorang penyelidik di Institute of Singularity mengenai penciptaan Artificial Intelligence, menunjukkan bahawa bahkan kecerdasan peringkat manusia dapat menipu seseorang dan "melepaskan diri" dari penjara.
Walaupun begitu, Yampolsky menegaskan agar AI sentiasa terpencil - ia tetap lebih baik daripada menyerah dan memberikan kebebasan sepenuhnya. Tetapi jika perkembangan AI mencapai titik di mana ia dapat memanipulasi seseorang menggunakan bawah sedar (meramalkan masa depan), telepati atau telekinesis, akibatnya tidak akan dapat diramalkan.
"Sekiranya AI seperti itu akan meningkat sendiri dan mencapai tahap yang jauh melebihi kemampuan kecerdasan manusia, akibatnya bahkan tidak dapat dibayangkan," Yampolsky memberi amaran.
