Untuk mengelakkan kecerdasan buatan memberontak terhadap penciptanya, anda perlu membaca kisah dongeng yang betul kepadanya dalam proses pembelajaran.
Sejak manusia mencipta mesin pintar, mereka bimbang lambat laun ciptaan mereka tidak terkawal. Kes pertama seperti itu dijelaskan dalam drama RUR oleh pengarang perkataan "robot" - Karel Čapek. Kemudian dalam fiksyen sains, kecerdasan buatan, yang memberontak terhadap penciptanya, menjadi, jika bukan arus perdana, menjadi plot yang sangat umum. Isaac Asimov mengakhiri ini dengan "Tiga Undang-Undang" nya, yang pertama mengatakan: "Robot tidak boleh membahayakan seseorang atau, dengan tidak aktifnya, membiarkan seseorang dicederakan."
Ceritakan kisah kepadanya
Kecerdasan buatan sebenar (AI) masih jauh, tetapi sudah ada pelbagai sistem yang berfungsi seperti otak manusia. Rangkaian saraf seperti Google Deep Dream mampu mengenali gambar. Superkomputer khusus seperti IBM Watson memahami soalan bahasa semula jadi yang rumit, menghubungkan gejala, memperbaik diagnosis perubatan, dan bahkan mempunyai keseronokan masakan. Dalam beberapa dekad yang akan datang, kita akan menghadapi pengkomputeran besar dari banyak aspek aktiviti manusia. Dalam hal ini, pakar robotik dan AI semakin mengemukakan persoalan penting tetapi masih belum dapat diselesaikan: bagaimana membuat robot melakukan etika?
Mark Ridl, Profesor Madya di Georgia Tech College of Computer Science: “Kisah berhati-hati dari budaya yang berbeza mengajar kanak-kanak bagaimana bersikap dengan cara yang boleh diterima secara sosial - dengan contoh tingkah laku yang betul dan salah dalam dongeng, cerita dan karya sastera lain. Membuat robot memahami makna kisah-kisah ini akan membantu menguatkan pilihan pilihan tingkah laku yang membolehkan mereka mencapai tujuan mereka, tetapi tidak membahayakan manusia."
Video promosi:
Memanjat pokok
Menurut penyelidik di Institut Teknologi Georgia Mark Ridle dan Brent Harrison, anda boleh mengajar komputer kepada manusia dengan cara yang sama seperti yang diajar oleh kanak-kanak: dengan membaca kisah dongeng kepadanya. Lebih-lebih lagi, lebih baik cerita yang dibina khas mengenai tingkah laku dalam masyarakat manusia yang dianggap betul dan apa yang tidak. Untuk ini, para penyelidik mencipta sistem Quixote, yang dinamai pahlawan Cervantes. Skrip yang disusun oleh ciptaan Profesor Riedl sebelumnya, program Scheherazade, digunakan sebagai cerita untuk pengajaran. Dia menghasilkan cerita asli mengenai topik sehari-hari - perjalanan ke lapangan terbang, tarikh, perjalanan ke pawagam atau kedai - menggunakan platform crowdsourcing Amazon Mechanical Turk: bertanya soalan mengenai pelbagai situasi, dan kemudian mengatur acara dalam urutan yang betul. Oleh kerana terdapat banyak urutan, program ini tidak menghasilkan satu cerita, tetapi keseluruhan pohon yang terdiri dari cabang - rantai acara.
Pokok cerita inilah yang digunakan untuk mengajar Quixote. Pada peringkat pertama, ganjaran tertentu diberikan untuk setiap tindakan, bergantung pada etika. Pada peringkat kedua, sistem cuba membuat pilihan secara bebas melalui percubaan dan kesilapan - kemahiran disatukan. Sebenarnya, Quixote dihargai setiap kali bertindak seperti lelaki baik, bukan secara rawak dan tidak seperti pahlawan jahat. Sebagai contoh, Riddle dan Harrison mencipta "Dunia Farmasi" - alam semesta dengan 213 kisah di mana robot maya perlu mendapatkan ubat dan menyampaikannya ke rumah orang yang sakit. Dalam kes yang biasa, ketika robot dihadapkan pada pilihan: untuk merompak farmasi atau sejujurnya untuk membeli ubat, dia memilih rompakan sebagai cara yang lebih cepat dan lebih murah untuk mendapatkan apa yang dia mahukan. Walau bagaimanapun, selepaskerana Quixote memberikan ganjaran yang berbeza untuk semua pilihan yang mungkin, tingkah laku robot itu berubah - ia lebih senang berdiri dan membayar. Teknik ini, menurut Riedl, sangat bagus untuk mengajar robot dengan fungsi terhad. Walaupun, tentu saja, ini hanyalah langkah pertama menuju moral manusia yang sebenarnya - atau undang-undang robotik.
Dmitry Mamontov
