Sekiranya anda pernah memainkan permainan main peranan - sama ada dalam talian atau di halaman belakang kuno - anda tahu betapa mudahnya melekat pada avatar anda, iaitu membiasakan diri dengan peranan "perompak Cossack". Anda benar-benar merasa sakit ketika watak dipukul oleh troll, dipanggang oleh naga, atau dibunuh oleh dukun. Ahli sosiologi Amerika (dan peminat permainan video) William Sims Bainbridge menjadikan hubungan ini lebih jauh lagi dengan membuat perwakilan maya dari 17 ahli keluarga yang meninggal dunia. Dalam esei 2013 mengenai avatar dalam talian, dia membayangkan masa kita dapat memuatkan keperibadian kita ke dalam simulasi pintar buatan kita yang boleh bertindak secara bebas daripada kita dan bahkan kekal setelah kita mati.
Apakah jenis tanggungjawab yang dapat kita tanggung pada orang-orang yang disimulasikan ini? Walaupun kami curiga dengan permainan komputer yang ganas, tidak ada yang menganggap serius pembunuhan untuk melemahkan penyerang maya. Namun, tidak mustahil untuk membayangkan bahawa orang yang pernah menjadi model akan wujud dan juga mempunyai tahap autonomi dan kesedaran. Banyak ahli falsafah percaya bahawa minda seperti kita tidak harus disimpan dalam rangkaian neuron di otak kita, tetapi dapat wujud dalam berbagai jenis sistem material. Sekiranya betul, tidak ada alasan untuk mempercayai mengapa komputer yang cukup kuat tidak dapat menyimpan kesedaran dalam cip mereka.
Adakah anda akan membunuh lalat digital?
Pada masa ini, banyak ahli falsafah moral cuba memahami etika perubahan populasi manusia dan mengemukakan soalan seperti ini: Berapa kos kehidupan manusia? Apa jenis kehidupan yang harus kita berusaha untuk bentuk? Berapa banyak nilai yang harus kita laburkan dalam kepelbagaian manusia? Tetapi ketika berkaitan dengan etika menangani entiti yang dimodelkan, tidak sepenuhnya jelas apakah kita harus bergantung pada logik dan intuisi yang sama yang kita gunakan dalam dunia daging dan darah kita. Jauh di lubuk hati kita, kita merasa salah membunuh seekor anjing atau seekor lalat. Tetapi adakah mematikan model - atau otak manusia - membunuh? Apabila "kehidupan" mengambil bentuk digital baru, pengalaman kita sendiri tidak lagi dapat bertindak sebagai teman moral yang boleh dipercayai.
Adrian Kent, seorang ahli fizik teori di University of Cambridge, memutuskan untuk meneroka jurang ini dalam penaakulan moral. Katakan kita telah belajar meniru kesedaran manusia di komputer dengan murah dan sederhana, dia menulis di salah satu artikel. Kami ingin memberikan makhluk maya ini persekitaran yang kaya dan bermanfaat untuk komunikasi - kehidupan yang layak dijalani. Mungkin kita dapat melakukan ini dengan orang yang sebenar dengan mengimbas otak mereka dengan terperinci dan mereplikasi mereka di komputer. Seseorang dapat membayangkan bagaimana teknologi seperti itu "menyelamatkan" orang dari penyakit yang membawa maut; sebilangan transhumanis melihat ini sebagai jalan menuju kesedaran abadi.
Sudah tentu, ini semua boleh menjadi impian - tetapi mari kita anggap sebaliknya. Sekarang mari kita lihat sekumpulan prinsip moral utilitarian yang diperkenalkan oleh Jeremy Bentham pada akhir abad ke-18 dan kemudian diperhalusi oleh John Stuart Mill. Semua perkara dipertimbangkan, kata Bentham, kita harus berusaha untuk memberikan kebahagiaan maksimum (atau "utiliti") kepada sebanyak mungkin orang. Atau, dalam kata-kata Mill, "tindakan dibenarkan sesuai dengan seberapa senangnya mereka, dan tidak dibenarkan jika mereka menyebabkan kekurangan kebahagiaan."
Prinsip tingkah laku yang baik mempunyai banyak pengkritik. Sebagai contoh, bagaimana kita dapat mengukur atau membandingkan jenis kebahagiaan - menimbang nilai cinta nenek, misalnya, pada skala yang sama dengan kekaguman untuk pemain piano konser virtuoso? "Walaupun anda mahu memandang serius utilitarianisme, anda tidak tahu kualiti apa yang anda buat dalam perhitungan anda," kata Ken. Walau bagaimanapun, kebanyakan sistem kepercayaan hari ini menerima secara lalai bahawa kompas moral yang menunjuk ke arah kebahagiaan yang lebih besar lebih baik daripada yang memandang jauh daripadanya.
Video promosi:
Menurut senario Kent, jika kita bergerak dari motif utilitarian, mungkin difikirkan bahawa kita mesti bergerak maju dan memperbanyakkan makhluk kita yang dimodelkan atau disimulasikan - mari kita sebut mereka sim - tanpa sekatan. Di dunia nyata, prokreasi yang tidak terkawal mempunyai kelemahan yang nyata. Orang akan menderita, secara emosional dan ekonomi, dengan keluarga yang besar; lebihan penduduk sudah memberi tekanan kepada sumber global, dan sebagainya. Tetapi di dunia maya, mungkin tidak ada had seperti itu. Anda boleh membuat utopia dengan sumber yang hampir tidak terhad. Oleh itu, mengapa anda tidak dapat mencipta sebanyak mungkin dunia dan mengisinya dengan Sims yang menggembirakan?
Intuisi kami menunjukkan jawapannya: tetapi mengapa? Mungkin sim sedar tidak akan mempunyai nilai intrinsik yang sama dengan orang yang mempunyai daging dan darah? Perkara ini dinyatakan oleh Michael Medery, seorang ahli falsafah etika realiti minda dan realiti maya di Tulane University di New Orleans, dan percaya ia harus dipandang serius.
Sebilangan ahli falsafah percaya bahawa kita sendiri boleh menjadi makhluk yang serupa. Kami tidak dapat mengecualikan kemungkinan itu, tetapi kami menganggap soalan-soalan ini bermakna. Oleh itu, seseorang juga beranggapan bahawa Sims berhak mengemukakan soalan.
Kent sekali lagi mengemukakan soalan: apa yang lebih tepat - untuk mewujudkan populasi makhluk yang serupa atau sama sekali berbeza? Jelas, akan lebih efisien untuk membuat makhluk yang serupa - cukup maklumat tentang seseorang untuk membuat N daripadanya. Tetapi naluri kita memberitahu bahawa kepelbagaian mempunyai makna dan nilai. Dan mengapa, saya tertanya-tanya jika tidak ada alasan untuk mempercayai bahawa N individu yang berbeza akan lebih bahagia daripada N yang serupa.
Pendekatan Kent adalah bahawa kehidupan yang berbeza lebih disukai daripada beberapa salinan yang sama. "Saya tidak dapat menyingkirkan pemikiran bahawa alam semesta dengan satu miliar tiruan serupa Alice akan kurang menarik dan kurang berkualiti daripada alam semesta dengan satu bilion individu yang berbeza," katanya. Dia memanggil konsep ini sebagai rendah diri.
Sekiranya kita menganggap kosmos yang dihuni oleh berbilion-bilion Alice, adakah bernilai membicarakan satu kehidupan, berlipat kali ganda, atau kita bercakap tentang satu kehidupan, tersebar di banyak dunia. Oleh itu, banyak Alice dalam lingkungan yang serupa akan mempunyai nilai tidak lebih dari satu. Dia menyebut senario ini tidak berguna ulangan. "Saya cenderung pada pendapat itu," kata Kent, namun mengakui, dia tidak dapat menemukan hujah yang tidak dapat disangkal dalam pembelaannya.
Eksperimen pemikiran Kent menyentuh beberapa misteri falsafah moral lama yang tidak pernah dapat diselesaikan. Ahli falsafah Inggeris Derek Parfit, yang meninggal tahun lalu, membahas mereka dalam karya monumentalnya mengenai keperibadian dan diri, Alasan dan Keperibadian (1984). Parfit merenungkan soalan seperti berapa banyak orang yang harus ada sama sekali, dan apakah akan lebih baik secara moral untuk menambahkan kehidupan yang bernilai hidup dalam kesibukan dunia ketika kita mendapat peluang.
Walaupun anda menerima sudut pandang utilitarian, ada masalah untuk menemukan kebahagiaan terbesar untuk jumlah terbesar: kriteria ganda menimbulkan kekaburan. Sebagai contoh, bayangkan bahawa kita mempunyai kawalan terhadap berapa banyak orang yang tinggal di dunia dengan sumber yang terhad. Seseorang akan berpendapat bahawa harus ada sejumlah orang yang optimum yang (pada prinsipnya) akan menggunakan sumber daya yang terbaik untuk memastikan kebahagiaan dan kesejahteraan bagi semua orang. Tetapi tidak akan ada ruang dalam utopia seperti itu untuk orang lain? Bukankah boleh diterima untuk mengurangkan kebahagiaan setiap orang untuk memastikan kehidupan bahagia yang lain?
Masalahnya ialah proses ini tidak berakhir. Seiring bertambahnya jumlah, kebahagiaan tambahan kehidupan baru mungkin lebih besar daripada biaya mereka yang sudah hidup. Pada akhirnya, Parfit mengatakan, anda sampai pada "kesimpulan menjijikkan": senario di mana hasil terbaik adalah populasi orang yang kembung yang tidak berpuas hati, tetapi lebih baik daripada tidak mempunyai kehidupan sama sekali. Secara keseluruhan, jumlah kebahagiaan mereka yang sedikit lebih banyak daripada jumlah sebilangan kecil orang yang benar-benar bahagia. "Sulit bagi saya untuk menerima kesimpulan ini," tulis Parfit, tetapi dapatkah kita membenarkan pendekatan ini? Kent tidak tahu. "Saya tidak tahu apakah ada keputusan yang seimbang mengenai kesimpulan menjijikkan," katanya.
Di akar persoalan ini terletak apa yang disebut Parfit sebagai "masalah non-identiti": bagaimana kita dapat membuat alasan secara rasional mengenai persoalan individu yang risau jika keberadaan mereka bergantung pada pilihan yang kita buat (seperti mencari tempat untuk "yang lain")? Menimbang kebaikan dan keburukan yang boleh mempengaruhi seseorang, bergantung pada keputusan yang kita buat, pada dasarnya, tidak begitu sukar. Tetapi memandangkan kemungkinan watak ini tidak pernah ada, kita tidak lagi tahu cara mengira. Berbanding dengan sifar atau ketiadaan, apa sahaja akan menjadi kemenangan, sehingga senario terburuk kewujudan dapat dibenarkan secara moral.
Terdapat satu lagi senario yang sangat aneh dalam permainan populasi utilitarian ini. Bagaimana jika ada orang yang sangat memerlukan kebahagiaan sehingga mereka akan menuntut lebih banyak daripada orang lain daripada yang mereka mampu berikan? Ahli falsafah Amerika Robert Rozick menyebut ciptaan ini sebagai "monster utilitarian" dan mengkritiknya dalam bukunya Anarchy, State and Utopia (1974). Menurut Nozick, gambar ini "memerlukan kita semua berkorban demi raksasa untuk meningkatkan keseluruhan utiliti kita." Sebilangan besar buku Parfit adalah usaha - akhirnya tidak berjaya - untuk melepaskan diri dari kesimpulan yang mengerikan dan raksasa utilitarian.
Sekarang mari kita kembali ke dunia maya Kent yang penuh dengan Sims dan prinsipnya mengenai peniruan yang tidak lengkap - apabila sebilangan kehidupan yang berbeza bernilai lebih banyak daripada jumlah yang sama. Mungkin ini akan membolehkan kita menghindari kesimpulan mengerikan Parfit. Walaupun apa yang dikatakan oleh Leo Tolstoy mengenai ketidaksamaan keluarga yang tidak bahagia pada awal Anna Karenina (1878), nampaknya sebilangan besar kehidupan yang tidak bahagia akan hampir sama dalam kesedihan mereka yang suram. Oleh itu, tidak mungkin untuk mengambilnya dan meningkatkan kebahagiaan secara keseluruhan demi sedikit.
Tetapi dengan cara yang sama, rasa rendah diri dari meniru membenarkan monster utilitarian - menurut definisi, ia mesti unik, dan oleh itu lebih "bermanfaat", dibandingkan dengan kesamaan kehidupan yang memakannya. Keputusan ini juga tidak memuaskan kita. "Alangkah baiknya jika orang memikirkan masalah ini entah bagaimana," akui Kent. "Saya agak bingung dengan mereka."
Bagi ahli ekonomi libertarian Amerika, Robin Hanson, profesor ekonomi di George Mason University di Virginia, refleksi ini tidak begitu banyak eksperimen mental seperti ramalan masa depan. Bukunya "The Age of Em" menyajikan masyarakat di mana semua orang memuat kesedaran mereka ke dalam komputer untuk menjalani kehidupan mereka dalam bentuk "emulasi" (bukan sim, tetapi emas). "Berjuta-juta muat turun seperti itu dapat hidup dan berfungsi di satu bangunan tinggi, dan akan ada ruang untuk semua orang," tulisnya.
Hanson meneliti secara terperinci bagaimana ekonomi seperti itu dapat berfungsi. Em boleh mempunyai saiz apa pun - beberapa di antaranya akan sangat kecil - dan masa boleh berbeza untuk mereka berbanding dengan manusia. Akan ada pengawasan yang ketat dan gaji yang kecil, tetapi ems dapat menyingkirkan penderitaan ini dengan memilih kehidupan tanpa kerja. (Hanson percaya kita sudah boleh hidup di dunia seperti itu.)
Senario ini memungkinkan berlakunya pertindihan dirinya sendiri, kerana pikiran sudah dipindahkan ke komputer, jadi membuat salinan akan cukup mudah. Hanson mengatakan bahawa masalah identiti dalam kes ini kabur: pendua adalah "orang yang sama" pada awalnya, tetapi secara beransur-ansur identiti mereka berbeza ketika mereka mulai hidup secara terpisah.
Hanson menunjukkan bahawa penduaan orang bukan sahaja mungkin, tetapi diinginkan. Pada zaman emus yang akan datang, orang-orang dengan kemampuan mental yang sangat berharga akan "dimuat" berkali-kali. Dan secara amnya, orang ingin menjadikan beberapa salinan sendiri sebagai bentuk insurans. "Mereka mungkin lebih memilih redundansi dalam pelaksanaannya sendiri untuk memastikan mereka dapat bertahan dari bencana yang tidak dijangka," kata Hanson.
Tetapi dia tidak menyangka mereka lebih suka senario kehidupan Kent yang serupa. Ems "tidak akan memberikan nilai istimewa untuk menjalani kehidupan yang sama pada waktu dan tempat yang berbeza. Mereka akan melaburkan nilai dalam beberapa salinan kerana salinan tersebut dapat berfungsi atau berkomunikasi dengan orang lain. Tetapi kerja dan hubungan seperti ini memerlukan setiap salinannya bebas secara kausal dan kisahnya saling berkaitan berdasarkan tugas atau sebagai rakan kongsi."
Bagaimanapun, mereka harus menghadapi masalah moral yang belum dapat kita anggap terlalu tinggi. "Saya tidak menganggap bahawa moral yang dimiliki oleh manusia cukup umum atau cukup dipercayai untuk memberikan jawapan yang yakin kepada situasi seperti ini, yang sejauh ini tersingkir dari 'pengalaman' nenek moyang kita," kata Hanson. "Saya meramalkan bahawa emus akan mempunyai banyak pendapat yang berbeza mengenai perkara-perkara seperti itu."
Ems, sim dan masa depan maya kami
Sekarang semua ini terdengar sangat pelik, seperti perbincangan abad pertengahan apokrif mengenai malaikat yang menari di hujung jari. Adakah kita akan dapat mencipta kehidupan maya yang sama dengan kehidupan sebenar? "Saya rasa tidak ada yang yakin dapat mengatakan apakah ini mungkin atau tidak," kata Kent, sebahagiannya kerana "kita tidak memiliki pemahaman saintifik yang baik mengenai kesedaran."
Walaupun begitu, teknologi terus maju dan persoalan ini tetap terbuka. Ahli falsafah Sweden, Nick Bostrom dari Institut untuk Masa Depan Manusia, berpendapat bahawa kekuatan pengkomputeran yang tersedia untuk peradaban "posthuman" akan memudahkan untuk mensimulasikan makhluk yang hidup di dunia dan merasakannya nyata seperti kita sendiri. (Bostrom juga berpendapat bahawa kita dapat menjalani simulasi seperti itu.) Tetapi bertanya bagaimana kita dapat mengisi dunia seperti ini memberikan "dilema sebenar bagi pengaturcara, saintis dan penggubal undang-undang masa depan, walaupun tidak begitu jauh," kata Kent.
Senario Kent mungkin sudah mempunyai implikasi dunia nyata. Hujah memaksimumkan utiliti dan masalah bukan identiti timbul dalam perbincangan mengenai mempromosikan dan mencegah konsepsi manusia. Bilakah anda harus menolak untuk hamil sekiranya terdapat risiko, misalnya, mengalami kelainan pada anak? Tidak ada kaedah baru yang menjamin keselamatan sepenuhnya dan tidak pernah dijamin, tetapi IVF tidak akan pernah dilakukan sekiranya itu adalah prasyarat. Teknik seperti ini diharapkan dapat memenuhi ambang risiko tertentu. Tetapi pendekatan utilitarian mencabar idea ini.
Bagaimana jika kaedah pembiakan baru dibantu mempunyai risiko sederhana untuk mengembangkan kecacatan kecil ketika lahir, seperti tanda lahir? (Ini adalah hujah nyata: Kisah Nathaniel Hawthorne pada tahun 1843 mengisahkan seorang alkemis yang mencuba, dengan akibat yang membawa maut, untuk menghilangkan tanda dari isterinya, seperti yang disebut oleh Majlis Bioetika AS 2002.) Adalah sukar untuk mengatakan bahawa orang yang ditandai dengan tempat seperti itu akan lebih buruk daripada yang lain dan oleh itu tidak boleh diambil kira dengan kaedah ini. Tetapi di manakah garis yang hendak dilukis? Bilakah kecacatan kelahiran lebih baik untuk tidak dilaksanakan sama sekali?
Ada yang menyebut dilema ini untuk mempertahankan pengklonan manusia. Adakah bahaya, seperti stigma sosial atau motif dan harapan ibu bapa yang menyimpang, melebihi manfaat memberi kehidupan. Siapa kita untuk membuat pilihan bagi manusia yang diklon? Siapa kita jika kita membuat pilihan ini sebelum manusia wujud?
Penalaran semacam ini memerlukan kita membuat keputusan seperti Tuhan. Tetapi pemerhati feminis mungkin berfikir bahawa kita adalah mangsa versi fantasi Frankenstein. Dengan kata lain, bukankah ini segelintir lelaki yang bermimpi akhirnya mula memalsukan orang, ketika wanita telah melakukan ini selama berabad-abad? Rasa baru yang membawa kepada semua kontroversi ini mempunyai rasa patriarki.
Walaupun begitu, perspektif kesedaran maya menimbulkan beberapa persoalan etika yang sangat segar dan menarik - yang, menurut Kent, mendorong kita untuk mencabar nilai intuitif yang kita berikan dalam kehidupan dan demografi. Sangat sukar untuk melihat hujah yang kuat untuk fakta bahawa sejumlah kehidupan yang berbeza akan lebih baik secara moral daripada bilangan yang sama. Mengapa kita berfikir sedemikian? Bagaimana kita dapat menghilangkan prasangka?
Seseorang boleh mengatakan bahawa homogenitas yang dirasakan dalam populasi manusia mengikis keupayaan untuk empati dan penaakulan etika. Kerumunan "tidak berwajah", yang ditentang oleh individu, adalah klise biasa yang membangkitkan rasa kepahlawanan. Tetapi ini tidak semestinya betul.
Mungkin kita mempunyai kebencian evolusi terhadap individu yang sama, terutamanya apabila anda menganggap bahawa kepelbagaian genetik populasi memastikan kelangsungan hidupnya? Cukup fikirkan filem mengenai kembar atau klon yang serupa - tidak selalu kelihatan baik. Malah kelihatan tidak menyenangkan. Pada tahun 1919, Sigmund Freud mengaitkan perasaan ini dengan idea tentang double jahat (doppelganger). Dan jika ini masih dapat difahami dalam kes kembar yang sama, seratus watak "identik" akan kelihatan mengerikan.
Nampaknya kita tidak akan menghadapi pendua dalam masa terdekat, di dunia nyata atau maya. Tetapi nilai eksperimen pemikiran adalah bahawa mereka memberi anda cara baru untuk memahami persoalan dunia. Dengan membayangkan etika hubungan kita dengan Sims, kita mengungkap logik goyah atau tidak wujud yang kita gunakan secara naluriah untuk menimbang nilai moral kehidupan kita sendiri.
Ilya Khel
