Mungkin salah satu ujian kecerdasan mesin yang paling sukar adalah permainan catur yang berlaku hampir 20 tahun yang lalu antara komputer Deep Blue dan juara catur dunia Garry Kasparov. Kereta itu menang. Pada masa ini, siri permainan dalam permainan logik go telah berakhir, di mana AI AlphaGo dari DeepMind (pemilik Google) dan juara go legenda dari China Li Si Dol bertanding. Dalam empat daripada lima permainan yang dimenangi oleh mesin, menunjukkan keunggulannya berbanding manusia dalam permainan ini. Permainan yang sangat kompleks antara manusia dan AI menunjukkan bahawa kecerdasan mesin telah berkembang dengan sangat kuat selama ini. Nampaknya hari yang ditakdirkan, ketika mesin benar-benar menjadi lebih pintar daripada manusia, kini semakin dekat dari sebelumnya. Namun, nampaknya banyak yang tidak memahami sama sekali, malah malah keliru tentang akibat yang mungkin menanti kita di masa depan.
Kami memandang rendah beberapa akibat yang sangat serius dan berbahaya dari perkembangan kecerdasan buatan. Tahun lalu, pengasas bersama SpaceX, Elon Musk mengeluarkan kenyataan di mana dia menyatakan keprihatinannya mengenai kemungkinan perbudakan dunia oleh kecerdasan buatan, yang seterusnya mendorong sejumlah besar komen dari kedua-dua penyokong dan penentang pendapat ini.
Untuk masa depan yang sangat revolusioner yang menanti kita, sangat mengejutkan bahawa terdapat banyak perselisihan hari ini mengenai sama ada ia akan berlaku sama sekali dan apa yang akhirnya akan berlaku. Amat pelik untuk menafikan faedah luar biasa yang dapat kita peroleh daripada membuat AI yang benar-benar pintar, tentu saja, dengan mempertimbangkan semua risiko yang mungkin berlaku. Semua soalan ini sangat sukar untuk mendapatkan jawapan yang tepat, kerana AI, tidak seperti penemuan lain dari manusia, benar-benar dapat "meremajakan" umat manusia ini atau memusnahkannya sepenuhnya.
Sekarang sukar untuk memahami apa yang harus dipercayai dan apa yang diharapkan. Namun, terima kasih kepada pelopor sains komputer, ahli sains saraf dan ahli teori perkembangan AI, gambaran yang jelas perlahan-lahan mulai jelas. Berikut adalah senarai salah tanggapan dan mitos yang paling biasa mengenai kecerdasan buatan.
Kami tidak akan pernah mencipta AI dengan kepintaran humanoid
Realiti, pada gilirannya, menunjukkan bahawa kita sudah memiliki komputer yang sesuai dan bahkan melebihi kemampuan manusia di beberapa kawasan. Contohnya, catur atau permainan yang sama, berdagang di bursa saham atau peranan sebagai pembicara maya. Komputer dan algoritma yang mengendalikannya hanya akan bertambah baik dari masa ke masa, dan hanya perlu masa sehingga ia setara dengan kemampuan manusia.
Video promosi:
Penyelidik Universiti New York, Gary Marcus pernah mengatakan bahawa "hampir semua orang" yang bekerja di AI berpendapat bahawa suatu hari mesin akan mengatasi kita:
"Satu-satunya perselisihan antara penyokong dan skeptis adalah waktu kejadian ini."
Futuris seperti Ray Kurzweil percaya bahawa ini boleh berlaku dalam beberapa dekad yang akan datang, sementara yang lain mengatakan akan memakan waktu beberapa abad.
Skeptis AI tidak meyakinkan dalam bukti mereka bahawa penciptaan kecerdasan buatan sebagai sesuatu yang unik dan sangat mirip dengan otak manusia yang hidup dari segi teknologi adalah sesuatu yang di luar realiti. Otak kita juga mesin. Mesin biologi. Ia wujud di dunia yang sama dan mematuhi undang-undang fizik yang sama seperti yang lain. Dan dari masa ke masa, kita akan mengetahui sepenuhnya prinsip kerjanya.
AI akan mempunyai kesedaran
Terdapat konsensus umum bahawa kecerdasan mesin akan sedar. Maksudnya, AI akan berfikir dengan cara yang sama seperti manusia. Sebagai tambahan, beberapa pengkritik, misalnya, pengasas bersama Microsoft, Paul Allen percaya bahawa kerana asas teori yang tidak lengkap yang menggambarkan mekanisme dan prinsip kesedaran diri, kami belum membuat kecerdasan buatan bahkan am, iaitu kecerdasan yang mampu melaksanakan tugas intelektual yang dengannya seseorang dapat menangani. Namun, menurut Murray Shanahan, penolong profesor di Jabatan Robotik Kognitif di Imperial College London, kita tidak seharusnya menyamakan keduanya.
"Kesedaran diri pasti merupakan subjek kajian yang sangat menarik dan penting, tetapi saya tidak percaya bahawa kesedaran diri harus menjadi sifat wajib kecerdasan buatan seperti manusia," kata Shanahan.
"Secara umum, kami menggunakan istilah 'kesadaran diri' hanya untuk menunjukkan beberapa sifat psikologi dan kognitif yang biasanya dikaitkan dalam diri seseorang."
Adalah mungkin untuk membayangkan sebuah kereta yang sangat pintar yang kekurangan satu atau lebih sifat ini. Suatu hari nanti kita akan dapat membina AI yang sangat cerdas, tetapi pada masa yang sama tanpa keupayaan untuk kesedaran diri, serta pemahaman subjektif dan sedar tentang dunia di sekitar kita. Shanahan menyatakan bahawa penyatuan kecerdasan dan kesedaran diri di dalam mesin masih dapat dilakukan, tetapi kita tidak boleh mengabaikan kenyataan bahawa ini adalah dua konsep yang sama sekali terpisah antara satu sama lain.
Dan walaupun salah satu varian "Uji Turing", di mana mesin menunjukkan bahawa ia tidak berbeza dengan seseorang, berjaya dilalui, ini sama sekali tidak bermaksud bahawa mesin ini mempunyai kesedaran. Dari sudut pandang (manusia) kita, kecerdasan buatan yang maju mungkin kelihatan sebagai sesuatu yang mempunyai kesedaran diri, tetapi mesin itu sendiri akan menyedari dirinya sendiri tidak lebih dari batu atau kalkulator yang sama.
Kita tidak perlu takut pada AI
Pada bulan Januari tahun ini, pengasas Facebook Mark Zuckerberg berkongsi pemikirannya tentang bagaimana kita tidak perlu takut pada AI, sambil menambah bahawa teknologi ini dapat membawa manfaat luar biasa di seluruh dunia. Yang benar adalah, dia hanya sebahagian betul. Kami sememangnya dapat meraih faedah luar biasa dengan AI yang kami ada (dari kereta memandu sendiri hingga penemuan baru dalam bidang perubatan), tetapi tidak ada yang dapat menjamin bahawa setiap aplikasi AI akan bermanfaat.
Sistem yang sangat pintar, mungkin, akan mengetahui semua yang diperlukan untuk tugas-tugas tertentu (contohnya, menyelesaikan situasi kewangan global yang rumit atau menggodam sistem komputer musuh), namun, di luar tugas yang sangat khusus, potensi AI masih belum jelas sepenuhnya, dan oleh itu berpotensi berbahaya. Sebagai contoh, sistem DeepMind mengkhususkan diri dalam permainan go, tetapi tidak mempunyai kemampuan (dan alasan) untuk meneroka kawasan di luar wilayah ini.
Virus komputer api, yang tugasnya adalah untuk mengesan negara-negara Timur Tengah
Sebilangan besar sistem ini boleh menimbulkan risiko keselamatan yang serius. Contoh yang baik adalah virus Stuxnet yang kuat dan sangat licik, cacing ketenteraan yang diciptakan oleh tentera AS dan Israel untuk menyusup dan menyerang loji tenaga nuklear Iran. Cuma program jahat ini entah bagaimana (sengaja atau sengaja) menjangkiti salah satu loji tenaga nuklear Rusia.
Contoh lain adalah virus Flame, yang dikembangkan untuk pengintipan siber yang disasarkan di Timur Tengah. Sangat mudah untuk membayangkan bagaimana "versi masa depan" virus Stuxnet dan Flame secara bebas melampaui tugas yang diberikan dan akan dapat menjangkiti hampir keseluruhan infrastruktur sebuah negara. Dan mereka akan melakukannya dengan senyap dan tidak kelihatan.
Kepintaran buatan akan terlalu bijak untuk membuat kesilapan
Richard Luzmore, ahli matematik, penyelidik kecerdasan buatan dan pengasas syarikat robotik Surfing Samurai Robots, percaya bahawa kebanyakan senario kiamat AI kelihatan tidak mungkin kerana semuanya berdasarkan luas pada apa yang akan dikatakan oleh AI suatu hari nanti, “Saya memahami bahawa kehancuran orang adalah kesilapan dalam kod program saya, tetapi saya masih harus mengikuti tugas itu."
Luzmore percaya bahawa jika AI berkelakuan mengikut senario ini, ia akan menghadapi percanggahan logik yang akan mempersoalkan keseluruhan pangkalan pengetahuannya yang terkumpul dan akhirnya akan menyebabkan kesadarannya sendiri tentang kebodohan dan kegunaannya.
Penyelidik juga percaya bahawa orang-orang yang mengatakan bahawa "AI hanya akan melakukan apa yang termasuk dalam programnya" keliru, seperti orang yang pernah mengatakan kata-kata yang sama, tetapi terhadap komputer, menyatakan bahawa sistem komputer tidak akan pernah mempunyai kesejagatan.
Peter McIntyre dan Stuart Armstrong, kedua-duanya di Institut untuk Masa Depan Kemanusiaan di Universiti Oxford, pada gilirannya, tidak bersetuju dengan pendapat ini, dengan alasan bahawa tingkah laku AI akan wajib dan sebahagian besarnya dibenarkan oleh kod program. Para saintis tidak percaya bahawa AI tidak akan membuat kesilapan atau, sebaliknya, akan terlalu bodoh untuk memahami dengan tepat apa yang kita mahukan dari mereka.
"Secara definisi, kecerdasan buatan (ISI) adalah agen yang kepintarannya akan berkali-kali melampaui pemikiran terbaik manusia di hampir semua bidang," kata McIntyre.
"Dia pasti akan memahami apa yang kita mahukan darinya."
McIntyre dan Armstrong percaya bahawa AI hanya akan melaksanakan tugas-tugas yang telah diprogramkan, tetapi jika entah bagaimana berkembang sendiri, kemungkinan besar, ia akan berusaha untuk mengetahui sejauh mana tindakannya akan berbeza dengan tugas manusia dan yang ada di dalamnya. undang-undang.
McIntyre membandingkan situasi masa depan manusia dengan yang dihadapi oleh tikus. Tikus mempunyai naluri yang kuat untuk mencari makanan dan tempat tinggal, tetapi tujuan mereka sering bertentangan dengan orang yang tidak mahu melihatnya di rumahnya.
"Seperti pengetahuan kita tentang tikus dan keinginan mereka, sistem intelijen juga dapat mengetahui segala sesuatu tentang kita dan mengetahui apa yang kita mahukan, tetapi pada masa yang sama ia akan sama sekali tidak peduli dengan keinginan kita."
Penyelesaian mudah menghilangkan masalah kawalan AI
Seperti yang ditunjukkan dalam filem "From the Machine", sangat sukar untuk mengendalikan AI, yang akan jauh lebih pintar daripada kita
Sekiranya kita menganggap bahawa suatu hari nanti kita akan mewujudkan kecerdasan yang lebih pintar daripada manusia, maka kita harus menghadapi masalah serius, masalah kawalan. Ahli teori futuris dan kecerdasan buatan belum dapat menjelaskan bagaimana kita dapat mengurus dan membendung ISI selepas penciptaannya. Juga tidak jelas bagaimana kita dapat memastikan bahawa dia akan bersikap ramah terhadap orang. Baru-baru ini, para penyelidik di Institut Teknologi Georgia (AS) secara naif menyarankan agar AI dapat belajar dan menyerap nilai-nilai manusia dan pengetahuan tentang norma sosial dengan hanya membaca dongeng sederhana. Ya, ya, kisah dongeng dan kisah kanak-kanak sederhana yang dibaca oleh ibu bapa kepada kami pada masa kecil. Tetapi pada hakikatnya, semuanya akan menjadi jauh lebih rumit daripada semua ini.
"Banyak yang disebut 'penyelesaian' telah diusulkan untuk masalah kawalan kecerdasan buatan," kata Stuart Armstrong.
Salah satu contoh penyelesaian seperti itu ialah memprogram ISI sedemikian rupa sehingga selalu berusaha untuk menyenangkan atau menyenangkan seseorang. Alternatifnya ialah menggabungkan konsep seperti cinta atau rasa hormat ke dalam kod sumbernya. Dan untuk mengelakkan perkembangan senario seperti itu, di mana AI dapat mempermudah semua konsep ini dan memahami dunia ini melalui prisma konsep-konsep super-sederhana ini, membaginya hanya menjadi hitam putih, ia dapat diprogram untuk memahami dan menerima kepelbagaian intelektual, budaya dan sosial.
Tiga undang-undang robotik Isaac Asimov sesuai dengan konsep fiksyen, tetapi pada hakikatnya kita memerlukan sesuatu yang lebih komprehensif untuk menangani masalah kawalan
Malangnya, penyelesaian ini terlalu mudah dan kelihatan seperti usaha untuk menyesuaikan semua kerumitan suka dan tidak suka manusia dalam satu definisi atau konsep umum, atau percubaan untuk memasukkan keseluruhan kerumitan nilai-nilai manusia ke dalam satu kata, frasa atau idea. Cubalah, sebagai contoh, agar sesuai dengan kerangka ini definisi yang konsisten dan mencukupi untuk perkara seperti "hormat"
Sudah tentu, seseorang tidak boleh menganggap bahawa pilihan mudah seperti itu sama sekali tidak berguna. Banyak dari mereka menawarkan alasan yang baik untuk berfikir, dan mungkin merangsang pencarian jalan keluar untuk masalah utama,”kata Armstrong.
"Tetapi kita tidak dapat bergantung sepenuhnya kepada mereka tanpa pekerjaan yang lebih kompleks, tanpa penelitian yang jelas dan mencari akibat menggunakan penyelesaian tertentu."
Kita akan hancur oleh kecerdasan buatan
Tidak ada yang dapat menjamin bahawa AI suatu hari akan memusnahkan kita, sama seperti tidak ada yang dapat mengatakan dengan pasti bahawa kita tidak akan dapat mencari cara untuk mengawal dan menggunakan AI untuk tujuan kita sendiri. Seperti yang dikatakan oleh pakar Amerika mengenai kecerdasan buatan, Eliezer Yudkowski: "AI tidak boleh mencintai atau membenci anda, tetapi anda terbuat dari atom yang dapat digunakannya untuk sesuatu yang lain."
Ahli falsafah Oxford Nick Bostrom, dalam bukunya Superintelligence: Ways, Danger and Strategies, menulis bahawa superintelligence yang nyata suatu hari akan dapat mewujudkan dirinya sendiri, yang akan menjadikannya lebih berbahaya daripada penemuan yang pernah dibuat oleh manusia. Pemikir kontemporari terkemuka seperti Elon Musk, Bill Gates dan Stephen Hawking (ramai di antaranya percaya bahawa "AI boleh menjadi kesalahan terburuk dalam sejarah manusia") lebih cenderung setuju dengan pendapat ini dan sudah membimbangkan.
Peter McIntyer percaya bahawa untuk sebahagian besar tugas yang dapat ditentukan oleh superintelijen, orang akan kelihatan seperti pautan tambahan.
"Suatu hari nanti AI dapat membuat kesimpulan - dan harus diperhatikan bahawa ia akan menghitungnya dengan betul - bahawa orang tidak mahu menggunakannya untuk memaksimumkan keuntungan syarikat tertentu dengan apa jua kos, tanpa mengira akibatnya bagi pengguna, persekitaran dan makhluk hidup. Oleh itu, dia akan memiliki insentif besar untuk mengembangkan rencana dan strategi, berkat seseorang itu tidak akan dapat mengganggu penyelesaian tugas, dengan mengubahnya atau bahkan mematikan AI."
Menurut McIntyer, jika tugas AI bertentangan dengan tugas kita, ia akan memberikan alasan yang baik untuk tidak membiarkan kita menghentikannya. Dan jika kita menganggap bahawa tahap kepandaiannya akan jauh lebih tinggi daripada yang kita miliki, sangat mustahil untuk menghentikannya, jika mungkin.
Walau bagaimanapun, mustahil untuk mengatakan apa-apa dengan pasti sekarang, dan tidak ada yang dapat mengatakan bentuk AI mana yang harus kita hadapi dan bagaimana ia boleh mengancam umat manusia. Seperti yang pernah dikatakan oleh Elon Musk, AI sebenarnya boleh digunakan untuk mengawal, mengesan dan mengawal AI lain. Dan mungkin nilai-nilai kemanusiaan dan keramahan awal kepada orang akan diperkenalkan kepadanya.
Kepintaran buatan akan mesra
Ahli falsafah Immanuel Kant percaya bahawa kecerdasan sangat berkaitan dengan prinsip moral. Dalam karyanya Singularity: A Philosophical Analysis, ahli sains saraf David Chalmers mengambil idea Kant yang terkenal sebagai asas dan cuba menerapkannya untuk menganalisis pembentukan kecerdasan buatan.
“Sekiranya prinsip-prinsip yang dijelaskan dalam makalah ini benar, maka seiring dengan perkembangan AI yang tajam, seseorang harus mengharapkan pengembangan prinsip moral yang tajam. Pengembangan selanjutnya akan menyebabkan munculnya sistem ISI, yang akan memiliki supermorale dan superintelijen. Oleh itu, kita harus mengharapkan hanya sifat baik di pihak mereka."
Yang benar adalah bahawa idea AI maju dengan prinsip moral dan kebajikan yang luar biasa tidak menahan air. Seperti yang ditunjukkan oleh Armstrong, dunia penuh dengan penjenayah perang pintar. Akal dan moral dalam diri seseorang, misalnya, tidak berkaitan dengan cara apa pun, oleh itu saintis mempersoalkan bahawa hubungan seperti itu akan wujud dalam bentuk kecerdasan lain.
“Orang pintar yang berkelakuan tidak bermoral cenderung menimbulkan masalah dan kesakitan yang jauh lebih besar daripada rakan mereka yang kurang cerdas. Kecerdasan memberi mereka kemampuan untuk menjadi lebih canggih dalam hal buruk daripada tindakan yang baik,”kata Armstrong.
McIntyre menjelaskan bahawa kemampuan ejen untuk mencapai tugas yang diberikan tidak ada kaitan dengan tugas itu.
Kami akan sangat beruntung jika AI kita menjadi lebih bermoral, tidak hanya pintar. Sudah tentu, bergantung pada nasib adalah perkara terakhir dalam masalah ini, tetapi mungkin tuah yang akan menentukan kedudukan kita di masa depan,”kata penyelidik.
Risiko yang berkaitan dengan AI dan robotik adalah sama
Ini adalah salah tanggapan yang biasa digunakan di media dan juga di blockbusters Hollywood seperti The Terminator.
Sekiranya kecerdasan buatan seperti Skynet, misalnya, benar-benar ingin memusnahkan seluruh umat manusia, maka tidak mungkin dia akan menggunakan android paramiliter dengan senapang di tangan masing-masing. Pemikirannya yang licik dan berkesan akan memungkinkannya untuk memahami bahawa akan lebih senang digunakan, misalnya, jenis wabak biologi baru atau, misalnya, beberapa bencana nanoteknologi. Atau mungkin dia hanya akan mengambil dan menghancurkan atmosfer planet kita. AI berpotensi berbahaya bukan hanya kerana perkembangannya berkait rapat dengan perkembangan robotik. Sebab bahaya yang berpotensi terletak pada kaedah dan cara di mana dia dapat menyatakan kehadirannya ke dunia.
AI yang diketengahkan dalam fiksyen sains menggambarkan masa depan kita
Tanpa keraguan, selama bertahun-tahun, penulis dan penulis fiksyen sains telah menggunakan persekitaran fiksyen ilmiah sebagai batu loncatan untuk membuat spekulasi mengenai masa depan kita yang sebenarnya, tetapi penciptaan ISI yang sebenarnya dan akibatnya yang sebenarnya masih di luar pengetahuan pengetahuan kita yang sebenarnya. Lebih-lebih lagi, sifat AI yang tiruan dan jelas tidak berperikemanusiaan bahkan tidak memungkinkan kita untuk menganggap dengan tepat apa sebenarnya AI ini.
Dalam kebanyakan karya sci-fi, AI sedekat mungkin dengan manusia.
“Sebelum kita sebenarnya adalah sebilangan besar jenis fikiran yang paling pelbagai. Walaupun kita hanya mengambil bentuk manusia. Contohnya, fikiran anda tidak sama dengan pemikiran jiran anda. Tetapi perbandingan ini hanyalah penurunan di laut dari semua kemungkinan kepelbagaian fikiran yang ada,”kata McIntyre.
Sebilangan besar fiksyen ilmiah, tentu saja, diciptakan terutamanya untuk menceritakan sebuah kisah, dan tidak semestinya meyakinkan secara ilmiah. Sekiranya ia berlaku sebaliknya (sains lebih penting daripada plot), maka mengikuti karya seperti ini tidak akan menarik.
Bayangkan betapa membosankan semua kisah ini, di mana AI, tanpa kesadaran diri, kemampuan untuk bersukacita, suka atau benci, menghancurkan semua orang secara praktikal tanpa ada penentangan untuk mencapai tujuannya, yang, dengan cara itu, mungkin juga tidak terlalu menarik untuk pembaca atau penonton,”komen Armstrong.
AI akan mengambil pekerjaan kita
Keupayaan AI untuk mengotomatisasi proses yang kita lakukan secara manual, dan potensinya untuk memusnahkan seluruh umat manusia bukanlah perkara yang sama. Namun, menurut Martin Ford, pengarang Rise of the Robots: Technology and the Threat of a Jobless Future, konsep-konsep ini sering dicuba untuk dibandingkan dan digabungkan menjadi keseluruhan yang koheren. Sudah tentu, sangat baik kita berusaha menjangka akibat mencipta AI sejauh ini, tetapi hanya jika usaha ini tidak mengalihkan perhatian kita dari masalah yang mungkin kita hadapi dalam beberapa dekad jika kita tidak melakukan apa-apa. Dan salah satu masalah utama ialah automasi massa.
Sebilangan kecil berpendapat bahawa salah satu cabaran kecerdasan buatan adalah mencari jalan untuk mengotomatisasi banyak pekerjaan, dari pekerjaan kilang hingga beberapa pekerjaan kerah putih. Beberapa pakar meramalkan bahawa separuh daripada semua pekerjaan, sekurang-kurangnya di AS, mungkin automatik dalam masa terdekat.
Tetapi ini sama sekali tidak bermaksud bahawa kita tidak akan dapat menerima perubahan tersebut. Penting untuk memahami bahawa keinginan untuk melepaskan diri dari tekanan fizikal dan psikologi yang tidak perlu di tempat kerja sebenarnya sudah lama menjadi impian spesies manusia kita.
"Dalam beberapa dekad, AI memang akan menggantikan orang dalam banyak pekerjaan. Dan itu sebenarnya cukup bagus. Contohnya, kereta memandu sendiri akan menggantikan pengangkut lori, yang seterusnya bukan sahaja akan menurunkan kos penghantaran barang, tetapi juga menurunkan kos barang itu sendiri. Sekiranya anda bekerja sebagai pemandu trak, anda tentu saja akan tetap melampau, tetapi orang lain dalam kes ini lebih cenderung menerima kenaikan gaji mereka. Dan semakin banyak wang ini dapat dijimatkan, semakin banyak wang ini dapat dibelanjakan untuk barang dan perkhidmatan lain yang akan dilakukan oleh orang di tempat kerja mereka."
Kemungkinan besar, kecerdasan buatan akan mencari cara kesejahteraan baru dan memberi makan orang ketika mereka melakukan perkara lain. Kemajuan dalam pengembangan AI akan disertai dengan kejayaan di bidang lain. Terutama dalam sektor pembuatan. Pada masa akan datang, semua ini mungkin akan lebih mudah daripada menyulitkan kepuasan keperluan asas kita.
