Hampir semua orang yang menyelami topik kecerdasan buatan membuat kesimpulan bahawa sama ada ia akan membawa kita ke kiamat yang berapi-api, atau ke utopia ajaib. Tidak ada pilihan antara. Sudah tentu, ini sebahagiannya disebabkan oleh fakta bahawa slogan seperti "Akhir sudah dekat!" atau "Utopia akan datang!" Tapi masih…
Sebahagiannya merangkumi bagaimana perasaan orang tentang perubahan, terutama yang besar. Millennialism tidak ada kaitan dengan menjadi milenium, dilahirkan pada tahun 90-an, dan mengingati siri Buffy the Vampire Slayer. Ini adalah gaya berfikir tentang masa depan yang dikaitkan dengan rasa takdir yang mendalam. Milenialisme adalah "harapan bahawa dunia akan hancur dan digantikan oleh dunia yang sempurna dan bahawa penebus akan datang yang akan menjatuhkan kejahatan dan menghibur orang-orang benar."
Oleh itu, kepercayaan milenium menghubungkan idea kemusnahan dan penciptaan. Antaranya ialah idea-idea perubahan besar, apokaliptik, gempa yang akan menghancurkan struktur dunia lama dan membina sesuatu yang baru. Sistem kepercayaan yang serupa terdapat di banyak agama utama di dunia, dan bahkan dalam agama-agama yang tidak begitu ateis dan agnostik yang mempercayai teknologi.
Lihat, sebagai contoh, bagaimana futuris menunggu keunggulan teknologi. Menurut Ray Kurzweil, Singularity adalah penciptaan syurga. Semua orang akan kekal berkat bioteknologi yang akan menyembuhkan penyakit kita; otak kita boleh dimuat naik ke awan; ketidaksamaan dan penderitaan akan hilang sebagai fenomena. "Pemusnahan dunia" digantikan oleh istilah kegemaran Silicon Valley: gangguan, atau perubahan industri radikal. Dan seperti kepercayaan milenium yang lain, pandangan akhir anda bergantung pada sama ada anda sedang menunggu akhir dunia atau kelahiran utopia.
Terdapat banyak alasan yang baik untuk ragu-ragu dengan pemikiran seperti ini. Mungkin yang paling memikat ialah kepercayaan milenial hanya menggambarkan sikap orang terhadap perubahan; lihatlah berapa banyak variasi kepercayaan ini yang tumbuh di dunia.
Kepercayaan ini terdapat dalam aspek teologi Kristian, walaupun mereka menjadi popular dalam bentuk moden mereka pada abad ke-19 dan ke-20. Idea seperti Kesedihan Abadi - bertahun-tahun penderitaan dan kesusahan - dan Pengangkatan, ketika orang benar akan dibangkitkan dan kejahatan dihukum. Selepas kehancuran ini, dunia akan dibina semula, atau orang-orang akan masuk ke syurga.
Walaupun ateisme dogmatis, terdapat banyak kepercayaan serupa dalam Marxisme. Satu-satunya persoalan adalah berkaitan dengan sejarah. Sama seperti orang percaya mencari isyarat yang mengisyaratkan pemenuhan ramalan, Marxis mencari tanda-tanda bahawa kita berada di tahap akhir kapitalisme. Mereka percaya bahawa masyarakat pasti akan merosot dan merosot ke bahagian paling bawah - sebenarnya, seperti yang dipercayai oleh orang Kristian.
Menurut Marxisme, apabila eksploitasi kelas pekerja oleh orang kaya menjadi tidak berkesinambungan, kelas pekerja mengumpulkan dan menjatuhkan penindas. "Kesedihan" digantikan dengan "revolusi". Kadang-kadang tokoh revolusi seperti Lenin atau Marx sendiri disambut sebagai mesiah yang mendekatkan Milenium; retorik mereka pasti mengandungi tuntutan untuk pemusnahan sistem lama, di runtuhan yang "kita akan membina kita, kita akan membina dunia baru." Pekerja yang benar akan mendapat hak mereka, dan borjuasi yang jahat akan dihancurkan.
Video promosi:
Bahkan dalam mitologi Norse terdapat unsur ini, seperti yang dicatat oleh James Hughes dalam karangannya dalam buku Nick Bostrom, Global Catastrophic Risks. Di Ragnarok, manusia dan dewa dikalahkan dalam pertempuran apokaliptik terakhir, tetapi kerana ini sedikit suram, orang-orang Skandinavia menambahkan idea tanah baru di mana orang-orang yang selamat akan hidup secara harmoni.
Kiamat juga telah menjadi jejak budaya. Ambil kepercayaan orang Mesir kuno dan kepercayaan mereka tentang akhirat; tuan Osiris dunia bawah menimbang jantung manusia bersama dengan bulu. Sekiranya hati si mati terlalu tertekan oleh pelanggaran, syaitan akan memakannya dan harapan untuk akhirat akan hilang.
Mungkin perkara seperti ini akan berlaku semasa singulariti. Apabila teknologi kita bertambah baik, dan oleh itu kekuatan kita, hati kita, hati orang, akan ditimbang dengan bulu. Sekiranya mereka menjadi terlalu berat - dengan kebodohan, kesombongan, prasangka, kejahatan - kita akan gagal ujian dan hancur. Tetapi jika kita melalui dan keluar dari keunikan itu, syurga menanti kita. Seperti sistem kepercayaan lain, tidak ada ruang untuk orang-orang kafir; seluruh masyarakat akan berubah secara radikal, sama ada anda suka atau tidak. Kekaguman teknologi.
Nampaknya setiap perkembangan besar menimbulkan reaksi sedemikian. Dan senjata nuklear juga. Sama ada ia akan menjadi jerami terakhir dan kita akan memusnahkan diri kita, atau tenaga nuklear dapat digunakan untuk menciptakan dunia yang lebih baik. Pada awal zaman nuklear, orang bercakap mengenai elektrik "terlalu murah untuk dikira." Para saintis yang mengerjakan bom sering berfikir bahawa dengan kekuatan yang merosakkan di tangan manusia, kita hanya perlu berkumpul dan bekerjasama sebagai spesies.
Ketika kita melihat jawaban yang sama, berulang-ulang, dalam keadaan yang berbeza, muncul dalam bidang yang berbeza, sama ada sains, agama atau politik, kita perlu mempertimbangkan bias manusia. Kami menyukai kepercayaan milenium, jadi apabila idea kecerdasan buatan yang melampaui kecerdasan manusia muncul, kami segera menerapkan corak yang sudah biasa.
Kami tidak menyukai fakta. Kami tidak menyukai maklumat tersebut. Kita tidak rasional seperti yang kita fikirkan. Kami mencipta naratif. Ahli fizik memerhatikan dunia, dan kita membuat pemerhatian kita sendiri ke dalam teori naratif, cerita tentang bola biliar kecil yang terbang di sana sini dan bertembung antara satu sama lain, atau mengenai ruang dan waktu yang membongkok, membengkok dan mengembang. Sejarawan cuba memberi makna kepada aliran peristiwa yang tidak berkesudahan. Kami menyukai cerita: kisah-kisah yang menggambarkan masa lalu, masa kini, dan mereka juga mempersiapkan kita untuk masa depan.
Naratif milenium itu indah dan menarik. Dia membawa anda perubahan sosial. Dia dapat membenarkan penderitaan harian anda jika anda bersedih. Dia memberi anda harapan bahawa hidup anda penting dan bermakna. Ini memberi anda gambaran tentang hal-hal yang berjalan dalam arah tertentu, sesuai dengan peraturan, dan bukan hanya dalam keadaan huru-hara. Dia berjanji bahawa orang benar akan diselamatkan dan bidaah dihukum, walaupun ada penderitaan dalam perjalanan. Akhirnya, narasi milenium menjanjikan syurga di hujung terowong.
Kita harus berhati-hati dengan narasi milenium ketika kita memikirkan tentang perkembangan teknologi, singulariti, dan risiko eksistensial. Kami menjerit "serigala!" Berkali-kali ketika mereka tidak ada di sana. Mungkin sekarang dunia tidak berada di ambang bencana. Sudah tentu, kisah ini tidak begitu menarik. Sudah tentu, semua orang mahukan pengakhiran yang mempesonakan.
Tetapi gali lebih dalam dan anda akan mendapati bahawa kepercayaan milenial tidak selalu menjadi yang paling menjanjikan, kerana mereka mengeluarkan ejen manusia dari persamaan. Kita harus percaya pada warna kelabu dan meninggalkan kiamat jahat dengan AI bermata merah dan utopia yang luar biasa dengan AI yang maha kuasa yang memuja orang.
Ilya Khel
