Sebagai penyelidik AI, saya sering berhadapan dengan pendapat bahawa banyak orang takut akan AI dan bagaimana ia boleh menjadi. Sebenarnya, tidak menghairankan jika anda melihat dari perspektif sejarah manusia, sambil memperhatikan apa yang diberikan oleh industri hiburan kepada kita, bahawa orang mungkin takut akan pemberontakan siber yang akan memaksa kita untuk hidup di wilayah terpencil, dan mengubah orang lain menjadi jenis bateri manusia "seperti Matriks" …
Namun, bagi saya, melihat semua model komputer evolusi yang saya gunakan dalam pengembangan AI, sukar untuk berfikir bahawa makhluk saya yang tidak berbahaya, suci seperti air mata bayi, suatu hari makhluk di skrin komputer saya dapat berubah menjadi monster dystopia futuristik. Bolehkah saya benar-benar disebut "pemusnah dunia", seperti yang pernah disesalkan oleh Oppenheimer dan mengatakan tentang dirinya setelah dia memimpin program untuk membuat bom nuklear?
Mungkin saya akan menerima kemasyhuran seperti itu, atau mungkin pengkritik karya saya betul-betul? Mungkin saya benar-benar harus berhenti mengelakkan pertanyaan mengenai ketakutan yang saya ada mengenai AI sebagai pakar AI?
Takut tidak dapat diramalkan
Komputer HAL 9000, impian menjadi kenyataan bagi penulis fiksyen sains Arthur Charles Clarke dan dihidupkan oleh pembuat filem Stanley Kubrick pada tahun 2001 A Space Odyssey, adalah contoh terbaik sistem yang terhempas kerana keadaan yang tidak dijangka.
Dalam banyak sistem yang kompleks - Titanic, kapal angkasa NASA dan loji tenaga nuklear Chernobyl - jurutera terpaksa menggabungkan banyak komponen. Mungkin arkitek sistem ini menyedari bagaimana setiap elemennya berfungsi secara individu, tetapi mereka tidak cukup memahami bagaimana semua komponen ini dapat bekerjasama.
Video promosi:
Hasilnya adalah sistem yang tidak pernah difahami sepenuhnya oleh pencipta mereka sendiri, yang membawa kepada akibat yang terkenal. Dalam setiap kes, kapal karam, dua pesawat meletup, dan hampir seluruh Eropah dan sebahagian Asia menghadapi masalah pencemaran radioaktif - satu set masalah yang agak kecil, tetapi secara kebetulan berlaku secara serentak, menimbulkan kesan bencana.
Saya dapat membayangkan dengan sempurna bagaimana kita, pencipta AI, dapat memperoleh hasil yang serupa. Kami mengambil perkembangan dan penyelidikan terkini dalam sains kognitif (sains pemikiran - ed.), Menerjemahkannya ke dalam algoritma komputer dan menambahkan semua ini ke sistem yang ada. Kami berusaha mengembangkan AI tanpa memahami sepenuhnya kepandaian dan kesedaran kita sendiri.
Sistem seperti IBM's Watson atau Google's Alpha adalah rangkaian saraf tiruan dengan kekuatan komputasi yang mengagumkan dan kemampuan untuk menangani tugas yang sangat rumit. Tetapi buat masa ini, satu-satunya perkara yang menyebabkan kesalahan dalam kerja mereka adalah akibat dari kekalahan dalam permainan intelektual "Jeopardy!" atau peluang yang terlepas untuk mengalahkan permainan papan logik terbaik dunia yang lain.
Akibat ini tidak bersifat global. Sebenarnya, perkara terburuk yang boleh berlaku kepada orang dalam kes ini ialah seseorang kehilangan sejumlah wang dalam pertaruhan.
Walau bagaimanapun, seni bina AI menjadi lebih kompleks dan proses komputer menjadi lebih pantas. Keupayaan AI hanya akan meningkat dari masa ke masa. Dan ini akan membawa kita kepada fakta bahawa kita akan mulai memberikan lebih banyak tanggungjawab kepada AI, walaupun terdapat risiko yang semakin meningkat dari keadaan yang tidak dijangka.
Kita sedia maklum bahawa "kesalahan adalah sebahagian daripada fitrah manusia", oleh itu secara fizikalnya mustahil bagi kita untuk membuat sistem yang benar-benar selamat dalam segalanya.
Takut penyalahgunaan
Saya tidak benar-benar bimbang tentang ketidakpastian akibat dalam kerja AI, yang saya kembangkan menggunakan pendekatan neuroevolution yang disebut. Saya membuat persekitaran maya dan mengisi mereka dengan makhluk digital, memberikan arahan kepada otak mereka untuk menyelesaikan masalah peningkatan kerumitan.
Dari masa ke masa, kecekapan menyelesaikan masalah oleh makhluk ini meningkat dan berkembang. Mereka yang melakukan pekerjaan terbaik dipilih untuk pembiakan semula, mewujudkan generasi baru berdasarkan asasnya. Selama beberapa generasi, makhluk digital ini mengembangkan kemampuan kognitif.
Sebagai contoh, sekarang ini kita mengambil langkah pertama dalam mengembangkan mesin ke tahap melaksanakan tugas navigasi sederhana, membuat keputusan sederhana, atau menghafal beberapa informasi. Tetapi tidak lama lagi kita akan melihat perkembangan mesin yang dapat menjalankan tugas yang lebih kompleks dan mempunyai tahap kecerdasan keseluruhan yang jauh lebih efisien. Matlamat utama kami adalah untuk mencipta kecerdasan peringkat manusia.
Dalam proses evolusi ini, kami akan berusaha mencari dan memperbaiki semua masalah dan masalah. Dengan setiap generasi baru, mesin akan lebih baik menangani kesilapan daripada yang sebelumnya. Ini akan meningkatkan kemungkinan kita dapat mengenal pasti semua akibat yang tidak dapat diramalkan dalam simulasi dan menghapusnya bahkan sebelum ia dapat disedari di dunia nyata.
Peluang lain yang diberikan oleh kaedah pengembangan evolusi adalah dengan memberi etika kecerdasan buatan. Kemungkinan ciri etika dan moral seseorang sebagai kebolehpercayaan dan altruisme adalah hasil evolusi kita dan faktor kelanjutannya.
Kita dapat mewujudkan persekitaran yang dibina dan memperkasakan mesin untuk menunjukkan kebaikan, kejujuran, dan empati. Ini boleh menjadi salah satu cara untuk memastikan kita mengembangkan hamba yang lebih patuh daripada robot pembunuh yang kejam. Walau bagaimanapun, walaupun neuroevolution dapat mengurangkan tahap akibat yang tidak diingini dalam perilaku AI, ia tidak dapat mencegah penyalahgunaan kecerdasan buatan.
Sebagai seorang saintis, saya harus mematuhi komitmen saya terhadap kebenaran dan melaporkan apa yang saya dapati melalui eksperimen saya, sama ada saya suka hasilnya atau tidak. Tugas saya bukan untuk menentukan apa yang saya suka dan apa yang saya tidak suka. Satu-satunya perkara penting ialah saya dapat membuat karya saya terbuka kepada umum.
Takut akan keutamaan sosial yang salah
Menjadi saintis tidak bermaksud kehilangan kemanusiaan anda. Saya mesti berhubung kembali dengan harapan dan ketakutan saya pada tahap tertentu. Sebagai individu yang bermotivasi moral dan politik, saya mesti mempertimbangkan kemungkinan akibat kerja saya dan kesannya terhadap masyarakat.
Sebagai saintis dan sebagai perwakilan masyarakat, kita masih belum sampai pada idea yang jelas tentang apa sebenarnya yang ingin kita dapatkan dari AI dan apa sebenarnya yang akan menjadi. Ini, tentu saja, sebahagiannya disebabkan oleh fakta bahawa kita masih belum memahami sepenuhnya potensinya. Tetapi masih, kita perlu memahami dan memutuskan dengan jelas apa yang ingin kita dapatkan dari kecerdasan buatan yang benar-benar maju.
Salah satu bidang terbesar yang diperhatikan oleh orang ketika bercakap mengenai AI adalah pekerjaan. Robot sudah melakukan kerja fizikal yang kompleks untuk kita, seperti memasang dan mengelas bahagian badan kereta bersama-sama. Tetapi suatu hari akan datang ketika robot akan ditugaskan untuk melakukan tugas kognitif, yaitu, mereka akan ditugaskan dengan apa yang sebelumnya dianggap sebagai kemampuan unik orang itu sendiri. Kereta memandu sendiri boleh menggantikan pemandu teksi; pesawat memandu sendiri tidak memerlukan juruterbang.
Daripada menerima rawatan perubatan di bilik kecemasan yang dipenuhi dengan kakitangan dan doktor yang selalu letih, pesakit akan dapat melakukan pemeriksaan dan belajar diagnosis menggunakan sistem pakar dengan akses segera ke semua pengetahuan perubatan. Operasi pembedahan akan dilakukan oleh robot yang tidak mudah keletihan, dengan "tangan terlatih" yang sempurna.
Nasihat undang-undang akan tersedia dari kerangka undang-undang yang komprehensif. Untuk nasihat pelaburan, kami akan menggunakan sistem ramalan pasaran pakar. Mungkin suatu hari nanti semua kerja manusia akan dilakukan oleh mesin. Malah kerja saya dapat diselesaikan dengan lebih cepat dengan menggunakan sebilangan besar mesin tanpa henti meneliti bagaimana menjadikan mesin lebih pintar.
Dalam realiti masyarakat kita sekarang, automasi sudah memaksa orang meninggalkan pekerjaan mereka, menjadikan pemilik mesin automatik seperti itu lebih kaya, dan selebihnya lebih miskin. Tetapi ini bukan masalah saintifik. Ini adalah masalah politik dan sosioekonomi yang mesti diselesaikan oleh masyarakat itu sendiri.
Penyelidikan saya tidak akan mengubahnya, tetapi asas politik saya, bersama dengan kemanusiaan, boleh menyebabkan keadaan di mana AI dapat menjadi fungsi yang sangat berguna, dan bukannya memperluas jurang antara satu persen elit dunia dan yang lain dari kita.
Takut akan senario bencana
Kami telah sampai pada ketakutan terakhir yang ditimbulkan oleh HAL 9000 yang tidak siuman, Terminator dan apa-apa kecerdasan jahat lain. Sekiranya AI terus berkembang sehingga melampaui kecerdasan manusia, adakah sistem superintelijen buatan (atau koleksi sistem sedemikian) akan menganggap manusia sebagai bahan yang tidak berguna? Bagaimana kita dapat membenarkan keberadaan kita dalam menghadapi kecerdasan super yang mampu melakukan dan mencipta apa yang tidak dapat dilakukan oleh orang lain? Adakah kita akan dapat mengelakkan nasib dihancurkan muka bumi dengan mesin yang kita bantu buat?
Oleh itu, persoalan terpenting dalam keadaan seperti ini akan terdengar seperti ini: mengapa superintelijen buatan memerlukan kita?
Sekiranya keadaan seperti itu berlaku, saya mungkin akan mengatakan bahawa saya adalah orang baik yang bahkan menyumbang kepada pembentukan superintelijen ini, yang saya hadapi sekarang. Saya meminta belas kasihan dan empati, agar kecerdasan super meninggalkan saya, begitu penyayang dan empati, hidup. Saya juga menambah bahawa kepelbagaian spesies itu sendiri mempunyai nilai dan alam semesta sangat besar sehingga kewujudan spesies manusia di dalamnya sebenarnya tidak signifikan.
Tetapi saya tidak dapat berbicara untuk seluruh umat manusia, jadi sukar bagi saya untuk mencari hujah yang sah untuk kita semua. Hanya apabila saya melihat kita semua, saya benar-benar melihat bahawa kita telah melakukan banyak perkara dan melakukan banyak kesalahan. Kebencian antara satu sama lain memerintah di dunia. Kami berperang antara satu sama lain. Kami menyebarkan makanan, pengetahuan dan penjagaan kesihatan secara tidak adil. Kami mencemarkan planet ini. Di dunia ini, tentu saja, ada banyak perkara baik, tetapi jika anda melihat semua perkara buruk yang telah kita buat dan terus diciptakan, sangat sukar untuk mencari hujah untuk menyokong keberadaan kita yang berterusan.
Nasib baik, kita tidak perlu membenarkan kewujudan kita sekarang. Kita masih ada masa. Dari 50 hingga 250 tahun, bergantung pada seberapa cepat kecerdasan buatan berkembang. Kita, sebagai spesies, memiliki kemampuan untuk bersatu dan mencari jawaban yang baik untuk persoalan mengapa superintelijen tidak boleh menghapus kita dari muka bumi ini.
Sangat sukar untuk menyelesaikan masalah ini. Bagaimanapun, untuk mengatakan bahawa kita menyokong kepelbagaian dan perbezaan etnokultur, dan untuk melakukannya, adalah perkara yang sama sekali berbeza. Bagaimana untuk mengatakan bahawa kita mahu menyelamatkan planet ini, dan berjaya mengatasinya.
Kita semua, sama ada setiap individu atau masyarakat secara keseluruhan, mesti bersiap sedia menghadapi senario bencana, menggunakan masa itu untuk bersedia menunjukkan dan membuktikan mengapa ciptaan kita harus membolehkan kita terus wujud. Atau kita boleh terus percaya bahawa perkembangan peristiwa seperti itu tidak mungkin berlaku, dan berhenti membicarakan topik ini.
Walau bagaimanapun, tidak kira apa pun bahaya intelek yang ditimbulkan oleh kita, kita tidak boleh lupa bahawa ia juga akan menimbulkan bahaya politik dan ekonomi. Sekiranya kita tidak menemui jalan untuk meningkatkan taraf hidup kita, kita hanya akan memacu kapitalisme dengan pekerja kecerdasan buatan yang hanya akan melayani sebilangan kecil yang memiliki semua alat pengeluaran.
Artikel ini pada mulanya diterbitkan di theconversation.com oleh Arend Hintze, Profesor Madya di Jabatan Biologi Integratif, Sains Komputer dan Kejuruteraan, Michigan State University.
Nikolay Khizhnyak
