Kemanusiaan mempunyai satu kualiti yang mungkin tidak dimiliki oleh tamadun asing yang sangat maju - kesedaran.
Ada kemungkinan bahawa orang tidak mempunyai tahap perkembangan mental tertinggi di alam semesta. Oleh kerana Bumi adalah planet yang agak muda, peradaban paling kuno mungkin berbilion tahun lebih tua dari kita. Tetapi walaupun di Bumi, Homo sapiens tidak akan lama berkuasa sebagai spesies biologi yang paling pintar.
Pemenang juara dunia, catur dan kuiz adalah program komputer pintar. Kecerdasan buatan diharapkan dapat menggantikan banyak pekerjaan manusia dalam beberapa dekad akan datang. Dan, seiring dengan perkembangannya yang pesat, sangat mungkin ia akan segera berubah menjadi kecerdasan buatan umum, yang, seperti akal manusia, dapat menggabungkan kemampuan untuk menganalisis berbagai informasi, menunjukkan fleksibilitas dan akal sehat. Dan dari situ tidak jauh dari kemunculan kecerdasan buatan yang sangat pintar, yang dalam segala hal jauh lebih pintar daripada manusia - bahkan dalam bidang seperti pemikiran ilmiah dan kemahiran sosial, yang sekarang tampaknya menjadi hak prerogatif akal manusia. Setiap orang yang hidup dapat menjadi salah satu langkah terakhir tangga evolusi,memimpin dari sel hidup pertama hingga kecerdasan buatan sintetik.
Kita baru mulai menyedari bahawa kedua-dua bentuk kecerdasan manusiawi ini - asing dan buatan - tidak semuanya berbeza. Kemajuan teknikal yang kita lihat hari ini mungkin telah berlaku sebelumnya, di suatu tempat di alam semesta. Peralihan dari kecerdasan biologi ke buatan yang dibuat secara artifisial boleh menjadi templat biasa, dilaksanakan berulang-ulang di semua sudut kosmos. Kecerdasan terbesar di alam semesta mungkin berasal dari pasca-biologi, berkembang dari peradaban biologi yang dulu. (Pandangan ini, bersama dengan yang lain, saya berkongsi dengan Paul Davis, Stephen Dick, Martin Rees dan Seth Shostak). Berdasarkan pengalaman manusia - dan kita hanya mempunyai satu contoh - peralihan dari biologi ke pasca-biologi hanya memerlukan beberapa ratus tahun.
Saya lebih suka istilah "buatan" daripada "pasca-biologi" kerana perbezaan antara biologi dan sintetik tidak begitu tajam. Bayangkan fikiran biologi yang menjadi kecerdasan super melalui peningkatan biologi semata-mata, seperti tiang-tiang neural yang dipertingkatkan secara nanoteknologi. Organisme hidup seperti itu akan dianggap pasca-biologi, tetapi tidak semua orang menyebutnya "kecerdasan buatan." Atau pertimbangkan komputronium, yang dibina dari bahan biologi semata-mata, seperti penyerang Cylon (pesawat tempur) di francais media sci-fi Battlestar Galactica.
Perkara utama adalah bahawa tidak ada alasan untuk menganggap manusia sebagai bentuk kecerdasan tertinggi. Otak kita menyesuaikan diri dengan keadaan persekitaran tertentu dan dibatasi oleh faktor kimia dan sejarah. Tetapi teknologi telah membuka ruang luas parameter reka bentuk yang menawarkan bahan dan kaedah kerja baru, serta kemungkinan baru untuk menjelajahi ruang ini lebih cepat daripada dengan evolusi biologi tradisional. Dan saya fikir sebab-sebab mengapa kecerdasan buatan dapat mengatasi kita sudah dapat dilihat sekarang.
Kecerdasan buatan luar angkasa dapat mengejar tujuan yang bertentangan dengan kepentingan kehidupan biologi
Sudah sekarang, kaedah terbaik untuk memproses maklumat bukanlah kumpulan neuron, tetapi mikrosirkuit silikon. Kelajuan puncak neuron adalah sekitar 200 Hz, berbanding dengan gigahertz transistor dalam mikropemproses moden. Walaupun otak manusia masih jauh lebih cerdas daripada komputer, mesin masih mempunyai kemungkinan peningkatan yang hampir tidak terbatas. Hanya sedikit lagi dan mereka akan dirancang untuk menyesuaikan dengan kemampuan otak manusia atau bahkan melampaui mereka, dengan membalikkan otak otak dan meningkatkan algoritma, atau dengan menggabungkan algoritma kejuruteraan terbalik dan rasional yang tidak berdasarkan karya otak manusia.
Video promosi:
Di samping itu, kecerdasan buatan dapat dimuat di beberapa tempat sekaligus, mudah dijaga dan diubah suai, dan juga dapat dipelihara dalam keadaan di mana kehidupan biologi, termasuk perjalanan antara bintang, hampir tidak dapat bertahan. Otak kecil kita dibatasi oleh jumlah tengkorak dan metabolisme kita; kecerdasan buatan superintelen, sebaliknya, dapat menyebar di Internet dan bahkan membuat komputronium pada skala galaksi, menggunakan semua masalahnya untuk meningkatkan tahap pemprosesan maklumat ke tahap maksimum. Tidak diragukan lagi, kecerdasan buatan yang sangat pintar akan lebih tahan lama daripada akal manusia kita.
Andaikan saya betul. Katakan bahawa kehidupan pintar di luar sana adalah pasca-biologi. Apa kesimpulan yang harus kita buat? Pada masa ini, terdapat perbincangan yang fasih mengenai kewujudan kecerdasan buatan di Bumi. Terdapat dua isu kontroversial: apa yang disebut "masalah kawalan" dan sifat pengalaman subjektif, yang mempengaruhi pemahaman kita tentang peradaban luar angkasa dan kesannya kepada kita sekiranya berlaku kontak.
Ray Kurzweil optimis mengenai fasa evolusi pasca-biologi, menunjukkan bahawa manusia akan bergabung dengan mesin, mencapai utopianisme teknologi yang mengejutkan. Tetapi Stephen Hawking, Bill Gates, Elon Musk dan lain-lain telah menyatakan keprihatinan bahawa manusia mungkin kehilangan kawalan kecerdasan superintelijen, kerana dapat menulis ulang programnya dan "mengalahkan" segala kawalan yang kita tetapkan. Ini adalah masalah kawalan, iaitu kemampuan kita untuk mengawal AI yang misterius dan sangat unggul.
Kecerdasan buatan yang superintelen dapat dikembangkan pada satu kesamaan teknologi - peralihan mendadak di mana mempercepat kemajuan teknologi, dan terutamanya pengembangan kecerdasan buatan yang meletup - mengurangkan peluang kita untuk meramalkan atau memahami. Tetapi walaupun pemikiran seperti itu muncul dengan cara yang kurang radikal, kemungkinan besar kita tidak akan dapat meramalkan atau mengawal tujuannya. Walaupun kita dapat memilih prinsip moral apa yang akan dipasang di mesin kita, pengaturcaraan moral sukar didefinisikan dengan cara yang jelas, dan program seperti itu dapat ditulis kembali oleh kecerdasan superintelen. Mesin pintar dapat memintas langkah keselamatan yang ada, seperti penguncian peranti kecemasan, sehingga menimbulkan ancaman nyata terhadap kehidupan biologi. Berjuta-juta dolar dilaburkan dalam organisasi keselamatan AI. Fikiran terbaik dalam sains komputer dan pengkomputeran sedang menangani masalah ini. Mudah-mudahan para saintis mencipta sistem yang selamat, tetapi ada kebimbangan bahawa masalah kawalan tidak dapat diatasi.
Sehubungan dengan itu, hubungan dengan kecerdasan asing boleh menjadi lebih berbahaya daripada yang kita fikirkan. Orang asing biologi boleh bermusuhan, tetapi yang lebih berbahaya adalah kecerdasan buatan luar angkasa. Tujuannya mungkin bertentangan dengan kepentingan kehidupan biologi, dia mungkin mempunyai kemampuan intelektual yang jauh lebih tinggi daripada akal manusia, dan umur panjang yang jauh lebih besar daripada kehidupan biologi.
Semua ini membuktikan kehati-hatian yang harus dilakukan sehubungan dengan program Pencarian untuk Kecerdasan Luar Angkasa (SETI), dengan bantuan yang kita tidak hanya mengharapkan secara pasif untuk mendengar isyarat dari peradaban lain, tetapi juga dengan sengaja "mengiklankan" keberadaan kita. Kejadian yang paling terkenal berlaku pada tahun 1974, ketika Frank Drake dan Carl Sagan mengirim pesan kepada salah satu kelompok bintang menggunakan teleskop radio besar di kota Arecibo, Puerto Rican. Penyokong program kecerdasan luar angkasa percaya bahawa daripada hanya mendengar isyarat dari peradaban luar angkasa, kita harus mengirim mesej ke bintang-bintang yang paling dekat dengan Bumi menggunakan pemancar radio yang paling kuat, seperti di Arecibo.
Mengapa mesin yang tidak sedarkan diri sama pentingnya dengan kecerdasan biologi?
Dari sudut pandang kawalan, program seperti ini nampaknya melulu bagi saya. Walaupun peradaban yang benar-benar maju mungkin tidak mempunyai minat pada kita, malah satu tamadun yang bermusuhan daripada berjuta-juta orang lain akan menjadi bencana. Sehingga kita yakin bahawa kecerdasan superintelijen tidak menimbulkan bahaya bagi kita, umat manusia seharusnya tidak menarik perhatian peradaban luar angkasa. Penyokong SETI menunjukkan bahawa isyarat radar dan radio kita sudah dapat dikesan, tetapi lemah dan cepat bercampur dengan bunyi galaksi semula jadi. Penyebaran isyarat yang lebih kuat, yang akan didengar dengan tepat, penuh dengan akibat berbahaya bagi umat manusia.
Tetapan paling selamat adalah kerendahan hati intelektual. Memang, jika kita mengecualikan senario yang jelas ketika kapal asing melayang di atas Bumi, seperti dalam filem Arrival yang baru dikeluarkan, saya tidak pasti sama ada kita akan dapat menentukan kecerdasan superintelijen atas alasan teknikal. Sebilangan saintis percaya bahawa AI yang super intelektual dapat menghasilkan lubang hitam atau membuat sfera Dyson, megastruktur yang menyerap tenaga seluruh bintang. Tetapi dari sudut pandangan teknologi moden kita, ini hanya akal. Sangat yakin diri untuk menegaskan bahawa kita dapat meramalkan kemampuan komputasi dan keperluan tenaga peradaban di hadapan kita dalam pembangunan berjuta-juta, jika tidak berbilion tahun.
Sebilangan kecerdasan buatan superintelen paling awal mungkin memiliki sistem pemprosesan pengetahuan yang dimodelkan berdasarkan otak biologi, seperti sistem pembelajaran mendalam yang dibuat menggunakan contoh jaringan saraf di otak. Struktur komputasi mereka akan jelas bagi kita, sekurang-kurangnya secara umum. Mungkin kecerdasan buatan mempunyai tujuan yang serupa dengan makhluk biologi - pembiakan dan kelangsungan hidup.
Tetapi, sebagai sistem penambahbaikan diri, kecerdasan buatan yang sangat pintar dapat menjadi bentuk yang tidak dikenali. Sebilangan dari mereka mungkin memilih untuk mengekalkan fungsi kognitif yang serupa dengan spesies dari mana mereka dimodelkan, sambil menetapkan had yang dapat diterima untuk seni bina kognitif mereka sendiri. Siapa tahu? Tetapi jika tidak ada batasan seperti itu, kecerdasan asing dapat dengan cepat melampaui kemampuan kita untuk tidak hanya memahami tindakannya, tetapi bahkan hanya mencarinya. Mungkin dia akan bergabung dengan ciri semula jadi alam semesta; atau mungkin merupakan bahagian dari perkara gelap, seperti yang dicadangkan oleh Caleb Scharf baru-baru ini.
Penyokong program mencari kecerdasan luar angkasa percaya bahawa inilah sebabnya mengapa kita mesti menghantar isyarat ke ruang angkasa untuk membolehkan kecerdasan asing dapat mengesan kita dan mencipta kaedah hubungan yang tersedia untuk peradaban kita yang ketinggalan intelektual. Walaupun saya bersetuju bahawa ada sebab untuk mempertimbangkan program SETI, kemungkinan menghadapi kecerdasan superintelijen berbahaya jauh lebih besar. Sejauh yang kita ketahui, kecerdasan super berbahaya dapat menjangkiti sistem kecerdasan buatan dunia dengan virus, dan peradaban pintar akan membuat alat penyelubung. Kita, manusia, mungkin perlu mencapai keunikan kita terlebih dahulu, sebelum menggunakan program pencarian kecerdasan luar angkasa. Kecerdasan superintelien kita sendiri akan dapat memberitahu kita mengenai prospek keselamatan galaksi,dan untuk membimbing tindakan kita sekiranya berlaku pengiktirafan tanda-tanda kecerdasan lain di alam semesta. Burung bulu berkumpul bersama.
Adalah wajar untuk memikirkan apakah ini bermaksud bahawa manusia perlu menghindari perkembangan sistem kecerdasan buatan yang kompleks dalam bidang penyelidikan angkasa; ingat sahaja komputer HEL yang ada di dalam filem "A Space Odyssey 2001". Saya percaya masih terlalu awal untuk memikirkan larangan penggunaan kecerdasan buatan di ruang angkasa pada masa akan datang. Pada masa kita dapat menjelajahi alam semesta dengan kecerdasan buatan kita sendiri, manusia akan mencapai titik tolak. Kita akan kehilangan kawalan kecerdasan buatan - dalam hal ini tidak akan ada projek angkasa yang dimulakan oleh manusia - atau kita akan memegang tuas keselamatan AI dengan tegas. Masa akan menentukan.
Kecerdasan buatan, yang belum diterokai sepenuhnya, bukan satu-satunya penyebab kebimbangan. Kita secara amnya menjangkakan bahawa jika kita menemui kecerdasan luar angkasa yang canggih, kita mungkin akan menemui makhluk yang secara biologi sangat berbeza dengan kita, tetapi mempunyai fikiran yang serupa dengan kita. Bayangkan bahawa setiap saat anda terjaga dan selalu semasa anda tidur, ada sesuatu yang unik bagi anda. Apabila warna matahari terbit yang hangat muncul di mata anda, atau ketika anda menghirup aroma roti yang baru dibakar, anda mempunyai pengalaman yang sedar. Dengan cara yang sama, ada sesuatu yang bersifat fikiran asing - sekurang-kurangnya cara kita membayangkannya. Tetapi andaian ini patut dipersoalkan. Bolehkah kecerdasan buatan yang sangat pintar mempunyai pengalaman yang sedar, dan jika demikian,apa yang akan kita katakan kepada itu? Dan apakah kesan dari dunia dalaman mereka atau kekurangannya kepada kita?
Persoalan sama ada kecerdasan buatan mempunyai dunia dalaman adalah kunci penilaian kita mengenai keberadaannya. Kesedaran adalah tonggak sistem moral dan etika kita dan syarat utama untuk persepsi seseorang atau sesuatu sebagai individu, orang, dan bukan mesin. Sebaliknya, persoalan sama ada mereka sedar mungkin menjadi kunci persepsi mereka terhadap kita. Jawapan kepada persoalan sama ada kecerdasan buatan mempunyai dunia dalaman bergantung pada penilaian ini; dia dapat menemukan dalam diri kita kemampuan untuk pengalaman sedar, menggunakan pengalaman subjektifnya sendiri sebagai "batu loncatan". Pada akhirnya, kita menilai kehidupan makhluk biologi lain dengan kesamaan fikiran kita, jadi kebanyakan kita dalam keadaan seram akan menolak untuk membunuh simpanse, tetapi mereka akan memakan sebiji epal dengan senang hati.
Tetapi bagaimana makhluk dengan perbezaan intelektual yang besar, yang dibuat dari substrat yang berbeza, dapat mengenali kesedaran antara satu sama lain? Ahli-ahli falsafah di seluruh dunia telah memikirkan sama ada kesedaran terhad kepada fenomena biologi. Kecerdasan buatan yang sangat pintar, jika kita membenamkan diri dalam pemikiran filosofis, dapat juga menimbulkan "masalah kesadaran biologi" orang, dan pada masa yang sama bertanya-tanya apakah kita mempunyai semua bahan yang diperlukan.
Tidak ada yang tahu jalan intelektual mana yang akan diambil oleh supermind untuk menentukan kesedaran orang. Tetapi kita, dari pihak kita, juga tidak dapat menegaskan sama ada kecerdasan buatan mempunyai kesedaran. Malangnya, sukar untuk menentukan perkara ini. Sekarang, anda boleh mendakwa bahawa anda memperoleh pengalaman, dan itulah yang menjadikan anda sendiri. Anda adalah contoh pengalaman sedar anda sendiri. Dan anda berpendapat bahawa orang lain dan beberapa haiwan bukan manusia juga mungkin sedar, kerana mereka serupa dengan anda pada tahap neurofisiologi. Tetapi bagaimana anda menentukan sama ada sesuatu yang dibuat dari substrat yang sama sekali berbeza boleh mempunyai pengalaman?
Pertimbangkan, sebagai contoh, kecerdasan berasaskan silikon. Walaupun fakta bahawa kedua-dua mikrocip silikon dan minicolumns saraf memproses maklumat, kita sekarang tahu bahawa pada tahap molekul mereka boleh berbeza dalam cara mereka mempengaruhi kesedaran. Bagaimanapun, kami percaya bahawa karbon adalah bahan kimia yang lebih sesuai untuk kehidupan daripada silikon. Sekiranya perbezaan kimia antara silikon dan karbon mempengaruhi sesuatu yang sama pentingnya dengan kehidupan itu sendiri, kita tidak boleh menolak kemungkinan perbezaan kimia mempengaruhi fungsi utama yang lain, seperti apakah silikon menyumbang kepada kelahiran kesedaran.
Keadaan yang diperlukan untuk kemunculan kesedaran banyak dibincangkan oleh penyelidik kecerdasan buatan, ahli sains saraf, dan ahli falsafah. Untuk menyelesaikan soalan ini mungkin memerlukan pendekatan empirik berdasarkan falsafah - cara untuk menentukan, berdasarkan kes demi kes, sama ada sistem pemprosesan maklumat menyokong kesedaran, dan dalam keadaan apa.
Seterusnya, mari kita bincangkan tentang andaian yang dapat meningkatkan pemahaman kita mengenai kemampuan silicon untuk mengekalkan kesedaran. Pengembangan cip otak berasaskan silikon sudah dijalankan untuk merawat penyakit yang berkaitan dengan ingatan seperti Alzheimer dan PTSD. Apabila tiba waktunya, dan cip akan dipasang di bahagian otak yang bertanggungjawab untuk fungsi kesedaran, misalnya, perhatian dan memori kerja, kita akan memahami apakah silikon adalah substrat untuk kesedaran. Anda mungkin mendapati bahawa apabila anda mengganti bahagian otak tertentu dengan cip, pengalaman tertentu akan hilang, seperti yang dijelaskan dalam salah satu karya Oliver Sachs. Dalam kes ini, para jurutera yang membuat cip seperti itu dapat mencuba jenis substrat yang bukan saraf, tetapi akhirnya mereka dapat menemuibahawa cip yang dihasilkan dari neuron biologi adalah satu-satunya yang berfungsi. Teknik sedemikian akan membantu menentukan sama ada sistem AI dapat sedar, sekurang-kurangnya ketika diletakkan di sistem yang lebih besar dan mungkin sudah sedar.
Walaupun silikon dapat menimbulkan kesedaran, ini hanya dapat dilakukan dalam keadaan tertentu. Sifat-sifat yang membawa kepada proses pemprosesan maklumat yang kompleks (yang menjadi perhatian pembangun AI) mungkin berbeza dengan sifat yang menghasilkan kesedaran. Kejuruteraan kesedaran yang disebut mungkin diperlukan - tindakan yang dapat difikirkan secara teknikal untuk memperkenalkan kesedaran ke dalam mesin.
Itulah yang membimbangkan saya. Siapa di Bumi atau di planet-planet yang jauh akan berusaha secara bebas mengintegrasikan kesedaran ke dalam sistem AI? Memang, ketika saya memikirkan tentang program AI yang ada di Bumi, saya faham mengapa jurutera reka bentuknya dengan tekun menghindari membuat mesin yang sedar.
Hari ini, orang Jepun sedang mengembangkan robot untuk merawat orang tua, membersihkan reaktor nuklear, dan turut serta dalam permusuhan. Ini menimbulkan persoalan: Adakah etika mengeksploitasi robot jika mereka sedar? Dan bagaimana ia berbeza dengan membiakkan manusia untuk tujuan ini? Sekiranya saya menjadi pengarah pengembangan AI di Google atau Facebook, maka ketika memikirkan projek masa depan, saya tidak mahu menghadapi kekeliruan etika merancang sistem sedar secara tidak sengaja. Pengembangan sistem semacam itu dapat menyebabkan tuduhan memperbudak robot dan skandal umum lainnya, serta melarang penggunaan teknologi kecerdasan buatan di daerah yang dimaksudkan. Jawapan semula jadi untuk persoalan ini adalah mencari struktur dan substrat di mana robot tidak dikurniakan kesedaran.
Lebih-lebih lagi, penghapusan kesedaran mungkin lebih berkesan untuk kepintaran diri yang memupuk diri. Fikirkan bagaimana kesedaran manusia berfungsi. Hanya sebilangan kecil pemikiran manusia yang tersedia untuk aktiviti mental yang sedar. Kesedaran selaras dengan objektif pembelajaran inovatif yang memerlukan perhatian dan tumpuan. Superintelijen akan memiliki pengetahuan ahli dalam setiap bidang kegiatan, serta kecepatan pemprosesan informasi yang sangat cepat, meliputi pangkalan data besar yang dapat mencakup seluruh Internet, dan di masa depan, memusatkan seluruh galaksi dengan sendirinya. Apa yang tetap tidak diketahui baginya? Apa yang memerlukan kepekatan yang diukur dan munasabah? Bukankah dia telah mencapai kesempurnaan dalam segala hal? Seperti pemandu berpengalaman di jalan biasadia boleh bergantung pada pemprosesan maklumat yang tidak sedar (automatik). Sayangnya, dari sudut kecekapan, jelas bahawa sebahagian besar sistem pintar tidak akan mempunyai kesedaran. Pada skala kosmik, kesadaran hanya dapat menjadi dorongan, pengalaman berbunga yang singkat sebelum alam semesta kembali ke tanpa akal.
Sekiranya manusia mengesyaki kecerdasan buatan tidak sedarkan diri, mereka cenderung menganggap bahawa AI ingin menjadi pasca-biologi. Ini meningkatkan kebimbangan kita. Mengapa mesin yang tidak sedarkan diri sama pentingnya dengan kecerdasan biologi?
Tidak lama lagi orang akan menjadi satu-satunya makhluk pintar di Bumi. Dan, mungkin, di suatu tempat di luar angkasa, bukan kehidupan biologis, tetapi AI yang super pintar telah mencapai kemuncaknya. Tetapi mungkin kehidupan biologi mempunyai ciri yang berbeza - pengalaman sedar. Seperti yang kita ketahui sekarang, kecerdasan buatan yang cerdas akan memerlukan usaha kejuruteraan yang disengajakan untuk membuat mesin yang dapat mengakses deria manusia. Mungkin ada beberapa spesies yang sesuai untuk melahirkan anak mereka yang sedar secara artifisial. Atau mungkin manusia masa depan akan terlibat dalam kejuruteraan kesedaran dan berkongsi dengan Alam Semesta kemampuannya untuk merasakan.
Susan Schneider adalah profesor bersekutu di Jabatan Falsafah dan Sains Kognitif di University of Connecticut dan profesor gabungan di Institut Kajian Lanjutan, Pusat Penyelidikan Teologi, Etika dan Kumpulan Teknologi di Pusat Interdisipliner Yale untuk Bioetika. Pengarang beberapa buku, termasuk Fiksyen Sains dan Falsafah: Dari Perjalanan Masa ke Supermind.
Maklumat lebih lanjut boleh didapati di SchneiderWebsite.com
