Hampir semua orang yang menyelami topik kecerdasan buatan mesti membuat kesimpulan bahawa kecerdasan buatan akan membawa kita kepada kiamat yang mengerikan, atau secara langsung ke utopia yang luar biasa. Dan praktikalnya tidak ada pilihan pertengahan. Sudah tentu, ini sebahagiannya ditentukan oleh kenyataan bahawa slogan-slogan keras seperti "Akhir sudah dekat!" atau, misalnya, "Utopia akan datang!" Tapi masih…
Sebahagiannya berpengaruh pada bagaimana perasaan orang tentang perubahan, terutama perubahan besar. Millennialism tidak ada kaitan dengan dilahirkan pada tahun 90-an, menjadi "milenial" dan mengingati siri mengenai Buffy pemenang vampire. Ini adalah gaya berfikir tentang masa depan yang dikaitkan dengan rasa takdir yang mendalam. Milenialisme adalah "harapan bahawa dunia kita akan hancur dan digantikan oleh dunia yang sempurna dan bahawa penebus akan muncul yang akan menjatuhkan semua kejahatan dan dapat menghibur orang benar."
Oleh itu, kepercayaan milenium menghubungkan idea penciptaan dan kehancuran. Antaranya ialah idea-idea pergeseran apokaliptik, gempa besar yang dapat menghancurkan struktur dunia lama dan membina sesuatu yang baru. Sistem kepercayaan yang serupa terdapat di banyak agama dunia, dan bahkan dalam agama-agama yang tidak begitu agnostik dan ateis, yang lebih mempercayai teknologi dan bukannya pada intipati ketuhanan.
Pertimbangkan, misalnya, bagaimana futuris menjangkakan keunikan teknologi. Menurut Ray Kurzweil, keunikan itu serupa dengan penciptaan syurga. Semua orang akan kekal, kerana bioteknologi akan muncul yang dapat menyembuhkan penyakit kita; dan otak kita boleh dimuat ke awan; penderitaan dan ketidaksamaan akan hilang sebagai fenomena. “Destruction of the world” digantikan oleh istilah kegemaran Silicon Valley: gangguan, yang merupakan perubahan radikal dalam industri. Dan, seperti halnya kepercayaan milenial lain, pandangan terakhir anda sangat bergantung pada apa yang anda harapkan: kelahiran utopia atau akhir dunia.
Terdapat banyak alasan yang sangat baik untuk ragu-ragu dengan pemikiran seperti ini. Mungkin alasan yang paling menarik adalah bahawa semua kepercayaan milenial hanya menggambarkan sikap orang terhadap perubahan; lihatlah berapa banyak variasi kepercayaan ini yang tumbuh di dunia.
Kepercayaan ini terdapat dalam aspek teologi Kristian, walaupun mereka menjadi popular dalam bentuk moden mereka pada abad kesembilan belas dan kedua puluh. Idea seperti Kesedihan Abadi, kesusahan dan penderitaan bertahun-tahun, dan Pengangkatan, ketika orang benar akan dibangkitkan dan kejahatan akan dihukum. Setelah semua kehancuran ini, dunia akan diciptakan semula, atau orang-orang akan masuk ke syurga.
Walaupun ateisme dogmatis, terdapat banyak kepercayaan serupa dalam Marxisme. Satu-satunya persoalan adalah berkaitan dengan sejarah. Sama seperti orang percaya mencari isyarat yang dapat mengisyaratkan pemenuhan semua ramalan, Marxis mencari tanda-tanda bahawa kita berada di tahap akhir kapitalisme. Mereka percaya bahawa masyarakat merosot dan pasti akan merosot ke bahagian bawah - sebenarnya, seperti yang difikirkan oleh orang Kristian.
Seperti yang dikatakan oleh Marxisme, apabila eksploitasi kelas pekerja oleh orang kaya tidak dapat dilaksanakan, kelas pekerja mengumpulkan dan menggulingkan penindas. "Kesedihan" digantikan dengan "revolusi". Kadang-kadang tokoh revolusi seperti Lenin atau Marx sendiri diisytiharkan sebagai mesiah yang mendekatkan Milenium; retorik mereka selalu mengandungi seruan untuk pemusnahan sistem lama, di atas runtuhan yang "kita akan bangunkan kita, kita akan membina dunia baru." Pekerja yang benar akan mendapat apa yang mereka layak, dan borjuasi yang jahat akan dihancurkan.
Video promosi:
Bahkan dalam mitologi Norse terdapat unsur ini, seperti yang dicatat oleh James Hughes dalam karangannya dalam buku Nick Bostrom, Risiko Bencana Global. Di Ragnarok, manusia dan dewa dikalahkan dalam pertempuran apokaliptik terakhir, tetapi kerana ini sedikit suram, orang-orang Skandinavia menambahkan idea tanah baru di mana orang-orang yang selamat akan hidup secara harmoni.
Kiamat juga telah menjadi jejak budaya. Ambil kepercayaan orang Mesir kuno dan kepercayaan mereka tentang akhirat; tuan Osiris dunia bawah menimbang jantung manusia bersama dengan bulu. Sekiranya hati si mati terlalu tertekan oleh pelanggaran, syaitan akan memakannya dan harapan untuk akhirat akan hilang.
Mungkin sesuatu yang serupa akan berlaku semasa single. Apabila teknologi kita bertambah baik, dan oleh itu kekuatan kita, hati kita, hati orang, akan ditimbang dengan bulu. Sekiranya mereka menjadi terlalu berat - dengan kebodohan, kesombongan, prasangka, kejahatan - kita akan gagal ujian dan hancur. Tetapi jika kita melalui dan keluar dari keunikan itu, syurga menanti kita. Seperti sistem kepercayaan lain, tidak ada ruang untuk orang-orang kafir; seluruh masyarakat akan berubah secara radikal, sama ada anda suka atau tidak. Kekaguman teknologi.
Setiap perkembangan besar nampaknya menimbulkan tindak balas yang serupa. Dan senjata nuklear juga. Sama ada ia akan menjadi jerami terakhir dan kita akan menghancurkan diri kita, atau tenaga nuklear dapat digunakan untuk menciptakan dunia yang lebih baik. Pada awal zaman nuklear, orang bercakap mengenai elektrik "terlalu murah untuk dikira." Para saintis yang mengerjakan bom sering berfikir bahawa dengan kekuatan yang merosakkan di tangan manusia, kita hanya perlu berkumpul dan bekerjasama sebagai spesies.
Apabila kita melihat jawapan yang sama, berulang-ulang, dalam keadaan yang berbeza, yang timbul dalam bidang yang berbeza, sama ada sains, politik atau agama, kita perlu mempertimbangkan bias manusia. Kami menyukai kepercayaan milenium, jadi apabila idea kecerdasan buatan yang melampaui kecerdasan manusia muncul, kami segera menerapkan corak yang sudah biasa.
Kami tidak menyukai fakta. Kami tidak menyukai maklumat tersebut. Kita tidak rasional seperti yang kita fikirkan. Kami mencipta naratif. Ahli fizik memerhatikan dunia, dan kita membuat pemerhatian kita sendiri ke dalam teori naratif, cerita tentang bola biliar kecil yang terbang di sana sini dan bertembung antara satu sama lain, atau mengenai ruang dan waktu yang membongkok, membengkok dan mengembang. Sejarawan cuba memberi makna kepada aliran peristiwa yang tidak berkesudahan. Kami menyukai cerita: kisah-kisah yang menggambarkan masa lalu, masa kini, dan mereka juga mempersiapkan kita untuk masa depan.
Naratif milenium sangat indah dan menarik. Dia membawa anda perubahan sosial. Dia dapat membenarkan penderitaan harian anda jika anda bersedih. Dia memberi anda harapan bahawa hidup anda penting dan bermakna. Ini memberi anda gambaran tentang hal-hal yang berjalan dalam arah tertentu, sesuai dengan peraturan, dan bukan hanya dalam keadaan huru-hara. Dia berjanji bahawa orang benar akan diselamatkan dan bidaah dihukum, walaupun ada penderitaan dalam perjalanan. Akhirnya, narasi milenium menjanjikan syurga di hujung terowong.
Kita perlu berhati-hati dengan narasi milenium ketika kita memikirkan perkembangan teknologi, singulariti, dan risiko eksistensial. Kami menjerit "serigala!" Berkali-kali ketika mereka tidak ada di sana. Mungkin sekarang dunia tidak berada di ambang bencana. Sudah tentu, kisah ini tidak begitu menarik. Sudah tentu, semua orang mahukan pengakhiran yang mempesonakan.
Tetapi gali lebih dalam dan anda akan dapati bahawa kepercayaan milenium tidak selalu menjanjikan, kerana mereka mengeluarkan ejen manusia dari persamaan. Kita harus mempercayai warna abu-abu dan meninggalkan kiamat jahat dengan AI bermata merah dan utopia luar biasa dengan AI yang maha kuasa yang memuja orang.
