Sebelum anda adalah bahagian kedua artikel dari siri "Tunggu, bagaimana semua ini dapat menjadi kenyataan, mengapa masih tidak dibincangkan di setiap sudut." Dalam siri sebelumnya, menjadi diketahui bahawa ledakan kecerdasan secara beransur-ansur menjalar ke manusia planet Bumi, ia berusaha untuk berkembang dari fokus sempit ke kecerdasan universal dan, akhirnya, kecerdasan buatan.
"Mungkin kita menghadapi masalah yang sangat sukar, dan tidak diketahui berapa banyak masa yang diperuntukkan untuk penyelesaiannya, tetapi masa depan umat manusia mungkin bergantung pada penyelesaiannya." - Nick Bostrom.
Bahagian pertama artikel bermula dengan cukup bersalah. Kami membincangkan kecerdasan buatan yang difokuskan secara sempit (AI, yang mengkhususkan diri dalam menyelesaikan satu masalah tertentu, seperti menentukan laluan atau bermain catur), di dunia kita terdapat banyak masalah. Kemudian mereka menganalisis mengapa sukar untuk mengembangkan kecerdasan buatan arah umum (AGI, atau AI, yang, dari segi kemampuan intelektual, dapat dibandingkan dengan manusia dalam menyelesaikan masalah), begitu sukar. Kami menyimpulkan bahawa langkah eksponensial kemajuan teknologi mengisyaratkan bahawa AGI mungkin akan hampir tiba. Pada akhirnya, kami memutuskan bahawa sebaik sahaja mesin mencapai kecerdasan manusia, perkara berikut dapat terjadi:
Seperti biasa, kami melihat layar, tidak mempercayai bahawa kecerdasan buatan (ISI, yang jauh lebih pintar daripada orang lain) dapat muncul sepanjang hayat kami, dan memilih emosi yang paling sesuai dengan pendapat kami mengenai isu ini.
Video promosi:
Sebelum kita menyelami spesifik ISI, mari kita mengingatkan diri sendiri apa artinya mesin menjadi pintar.
Perbezaan utama terletak di antara kecerdasan cepat dan kecerdasan berkualiti. Sering kali, perkara pertama yang terlintas dalam fikiran ketika memikirkan komputer yang pintar cerdas adalah bahawa ia dapat berfikir jauh lebih pantas daripada seseorang - berjuta-juta kali lebih cepat, dan dalam lima minit ia akan memahami apa yang diperlukan seseorang selama sepuluh tahun. ("Saya kenal kung fu!")
Kedengarannya mengagumkan, dan ISI semestinya berfikir lebih pantas daripada mana-mana orang - tetapi ciri pemisahan utama adalah kualiti inteleknya, yang agak lain. Manusia jauh lebih pintar daripada monyet, bukan kerana mereka berfikir lebih cepat, tetapi kerana otak mereka mengandung sejumlah modul kognitif yang cerdas yang menjalankan perwakilan linguistik yang kompleks, perencanaan jangka panjang, pemikiran abstrak, yang tidak dapat dilakukan oleh monyet. Sekiranya anda mempercepat otak monyet seribu kali, ia tidak akan menjadi lebih pintar daripada kita - walaupun setelah sepuluh tahun, ia tidak akan dapat mengumpulkan konstruktor mengikut arahan, yang memerlukan seseorang maksimum beberapa jam. Ada perkara yang tidak akan dipelajari monyet, tidak kira berapa jam yang dihabiskannya atau seberapa pantas otaknya berfungsi.
Sebagai tambahan, monyet itu tidak tahu bagaimana manusiawi, kerana otaknya tidak dapat menyedari kewujudan dunia lain - monyet itu mungkin tahu apa itu seseorang dan apa itu pencakar langit, tetapi tidak akan pernah memahami bahawa bangunan pencakar langit itu dibina oleh orang. Di dunianya, semuanya milik alam, dan monyet bukan sahaja tidak dapat membina sebuah pencakar langit, tetapi juga memahami bahawa ada yang dapat membinanya. Dan ini adalah hasil dari perbezaan kecil dalam kualiti kecerdasan.
Dalam skema kecerdasan umum yang kita bicarakan, atau hanya dengan standard makhluk biologi, perbezaan kualiti kecerdasan antara manusia dan monyet sangat kecil. Dalam artikel sebelumnya, kami meletakkan kebolehan kognitif biologi di tangga:
Untuk memahami betapa seriusnya mesin super intelijen, letakkan dua kedudukan lebih tinggi daripada orang yang berada di tangga itu. Mesin ini mungkin hanya sedikit pintar, tetapi keunggulannya berbanding kemampuan kognitif kita akan sama dengan milik kita - berbanding monyet. Dan seperti simpanse tidak akan pernah memahami bahawa bangunan pencakar langit boleh dibina, kita mungkin tidak akan pernah memahami apa yang akan difahami oleh mesin beberapa langkah lebih tinggi, walaupun mesin itu cuba menerangkannya kepada kita. Tetapi ini hanya beberapa langkah. Mesin yang lebih pintar akan melihat semut di dalam diri kita - ia akan mengajar kita perkara-perkara termudah dari kedudukannya selama bertahun-tahun, dan percubaan ini akan menjadi sia-sia.
Jenis kecerdasan super yang akan kita bicarakan hari ini jauh melebihi tahap ini. Ini adalah ledakan kecerdasan - apabila kereta menjadi lebih pintar, semakin cepat ia dapat meningkatkan kecerdasannya sendiri, secara bertahap meningkatkan momentum. Mungkin memerlukan masa bertahun-tahun untuk mesin seperti ini melampaui simpanse dalam kepintaran, tetapi mungkin beberapa jam untuk melampaui kita dengan beberapa langkah. Mulai saat ini, kereta sudah boleh melonjak empat langkah setiap saat. Itulah sebabnya kita harus memahami bahawa segera setelah berita pertama bahawa mesin telah mencapai tahap kecerdasan manusia muncul, kita mungkin menghadapi realiti hidup bersama di Bumi dengan sesuatu yang akan jauh lebih tinggi daripada kita di tangga ini (atau mungkin, dan berjuta-juta kali lebih tinggi):
Dan kerana kami telah membuktikan bahawa sama sekali tidak berguna untuk memahami kehebatan mesin yang hanya dua langkah di atas kita, mari kita tentukan sekali-sekali bahawa tidak ada cara untuk memahami apa yang akan dilakukan oleh ISI dan apa akibatnya bagi kita. Sesiapa yang mendakwa sebaliknya tidak memahami apa maksud superintelijen.
Evolusi telah berkembang secara perlahan dan secara beransur-ansur otak biologi selama beratus-ratus juta tahun, dan jika manusia membuat mesin yang pintar, dalam arti tertentu kita akan mengatasi evolusi. Atau ia akan menjadi bahagian evolusi - mungkin evolusi berfungsi sedemikian rupa sehingga kecerdasan berkembang secara beransur-ansur hingga mencapai titik perubahan yang menandakan masa depan baru untuk semua makhluk hidup:
Atas sebab-sebab yang akan kita bincangkan kemudian, sebahagian besar komuniti saintifik percaya bahawa persoalannya bukanlah sama ada kita akan sampai ke titik tolak ini, tetapi kapan.
Di mana kita berakhir selepas ini?
Saya rasa tidak ada seorang pun di dunia ini, saya atau anda, yang tidak dapat mengatakan apa yang akan terjadi ketika kita mencapai titik tolak. Ahli falsafah Oxford dan ahli teori AI terkemuka Nick Bostrom percaya bahawa kita dapat menghasilkan semua hasil yang mungkin menjadi dua kategori yang luas.
Pertama, melihat sejarah, kita mengetahui perkara berikut mengenai kehidupan: spesies muncul, wujud untuk jangka waktu tertentu, dan kemudian tidak dapat dilupakan dari keseimbangan hidup dan mati.
"Semua spesies mati" telah menjadi peraturan yang dapat dipercayai dalam sejarah seperti "semua orang mati suatu hari nanti." 99.9% spesies telah jatuh dari log kehidupan, dan jelas bahawa jika spesies tergantung di log ini terlalu lama, hembusan angin semula jadi atau asteroid tiba-tiba akan mengubah log tersebut. Bostrom memanggil kepunahan keadaan penarik - tempat di mana semua spesies seimbang sehingga tidak jatuh di mana tidak ada spesies yang kembali.
Dan walaupun kebanyakan saintis mengakui bahawa ISI akan mempunyai kemampuan untuk menghancurkan orang sehingga pupus, banyak juga yang percaya bahawa menggunakan kemampuan ISI akan membolehkan individu (dan spesies secara keseluruhan) mencapai tahap kedua daya tarikan - keabadian spesies. Bostrom percaya bahawa keabadian spesies adalah daya tarik sama seperti kepunahan spesies, iaitu, jika kita sampai ke ini, kita akan ditakdirkan untuk kekal. Oleh itu, walaupun semua spesies hingga hari ini jatuh dari tongkat ini ke dalam kepunahan kepunahan, Bostrom percaya bahawa balak itu mempunyai dua sisi, dan di sana tidak muncul kecerdasan seperti di Bumi yang akan memahami bagaimana jatuh ke sisi lain.
Sekiranya Bostrom dan yang lain betul, dan berdasarkan semua maklumat yang ada pada kami, mereka mungkin benar, kita harus menerima dua fakta yang sangat mengejutkan:
1. Kemunculan ISI untuk pertama kalinya dalam sejarah akan membuka kemungkinan spesies mencapai keabadian dan keluar dari kitaran kepupusan maut.
2. Kemunculan ISI akan mempunyai kesan besar yang tidak dapat dibayangkan sehingga, kemungkinan besar, akan mendorong umat manusia melepaskan pancaran ini ke satu arah atau yang lain.
Ada kemungkinan bahawa ketika evolusi mencapai titik perubahan seperti itu, ia selalu mengakhiri hubungan orang dengan arus kehidupan dan menciptakan dunia baru, dengan atau tanpa orang.
Ini menimbulkan pertanyaan menarik yang tidak akan ditanyakan oleh bummer: Bilakah kita akan sampai ke titik puncak ini, dan di mana ia akan meletakkan kita? Tidak ada seorang pun di dunia yang tahu jawapan untuk soalan dua kali ini, tetapi banyak orang pintar telah mencuba selama beberapa dekad. Selebihnya artikel, kami akan mengetahui dari mana asalnya.
* * *
Mari kita mulakan dengan bahagian pertama soalan ini: bilakah kita harus mencapai titik tolak? Dengan kata lain: berapa banyak masa yang tersisa sehingga mesin pertama mencapai kecerdasan?
Pendapat berbeza dari satu kes ke kes yang lain. Ramai, termasuk Profesor Vernor Vinge, saintis Ben Herzel, pengasas bersama Sun Microsystems, Bill Joy, futuris Ray Kurzweil, bersetuju dengan pakar pembelajaran mesin Jeremy Howard ketika dia menyampaikan grafik berikut di TED Talk:
Orang-orang ini berpandangan bahawa ISI akan segera hadir - pertumbuhan eksponensial ini, yang nampaknya lambat bagi kita hari ini, akan meletup dalam beberapa dekad akan datang.
Yang lain, seperti pengasas bersama Microsoft, Paul Allen, ahli psikologi penyelidikan Gary Marcus, pakar komputer Ernest Davis, dan usahawan teknologi Mitch Kapor, percaya bahawa pemikir seperti Kurzweil memandang serius besarnya masalah itu, dan mereka fikir kita tidak hampir sama dengan titik tolak.
Kem Kurzweil berpendapat bahawa satu-satunya anggapan rendah yang berlaku adalah mengabaikan pertumbuhan eksponensial, dan orang yang ragu-ragu dapat dibandingkan dengan mereka yang melihat Internet yang berkembang pesat pada tahun 1985 dan berpendapat bahawa ia tidak akan memberi kesan kepada dunia dalam waktu terdekat.
Keraguan mungkin menangkis bahawa kemajuan lebih sukar untuk mengambil setiap langkah berikutnya ketika datang ke pengembangan kecerdasan eksponensial, yang meneutralkan sifat eksponensial khas kemajuan teknologi. Dan lain-lain.
Kem ketiga, di mana Nick Bostrom berada, tidak setuju dengan yang pertama atau yang kedua, dengan alasan bahawa a) semua ini benar-benar boleh berlaku dalam masa terdekat; dan b) tidak ada jaminan bahawa ini akan berlaku sama sekali atau bahawa ia akan memakan masa lebih lama.
Yang lain, seperti ahli falsafah Hubert Dreyfus, percaya bahawa ketiga-tiga kumpulan naif percaya bahawa akan ada titik tolak sama sekali, dan kemungkinan besar kita tidak akan pernah sampai ke ISI.
Apa yang berlaku apabila kita mengumpulkan semua pendapat ini?
Pada tahun 2013, Bostrom melakukan tinjauan di mana dia mewawancarai ratusan pakar dalam bidang kecerdasan buatan semasa siri persidangan mengenai topik berikut: "Apakah ramalan anda untuk mencapai AGI di peringkat manusia?" dan meminta kami untuk menamakan tahun yang optimis (di mana kami akan mempunyai AGI dengan peluang 10 peratus), anggapan yang realistik (tahun di mana kami akan mempunyai AGI dengan kebarangkalian 50 peratus) dan anggapan yakin (tahun paling awal di mana AGI akan muncul sejak 90 -peluang peratusan). Inilah hasilnya:
- Rata-rata tahun optimis (10%): 2022
- Rata-rata tahun realistik (50%): 2040
- Rata-rata pesimis tahun (90%): 2075
Rata-rata responden percaya bahawa dalam 25 tahun kita akan mempunyai AGI dan bukannya tidak. Peluang AGI 90 peratus berlaku pada tahun 2075 bermaksud bahawa jika anda masih cukup muda sekarang, kemungkinan besar akan berlaku sepanjang hayat anda.
Satu kajian berasingan yang baru-baru ini dilakukan oleh James Barratt (pengarang buku The New Invention, yang terkenal dan sangat bagus, petikan yang saya sampaikan kepada pembaca Hi-News.ru) dan Ben Hertzel pada Persidangan AGI, sebuah persidangan AGI tahunan, hanya menunjukkan pendapat orang berbanding tahun kita sampai ke AGI: 2030, 2050, 2100, kemudian atau tidak pernah. Inilah hasilnya:
- Menjelang 2030: 42% responden
- Menjelang 2050: 25%
- Menjelang 2100: 20%
- Selepas jam 2100: 10%
- Tidak pernah: 2%
Sama dengan hasil Bostrom. Dalam tinjauan Barratt, lebih dari dua pertiga daripada mereka yang disurvei percaya AGI akan berada di sini menjelang 2050, dan kurang dari separuh percaya AGI akan muncul dalam 15 tahun akan datang. Ini juga mengejutkan bahawa hanya 2% responden, pada dasarnya, tidak melihat AGI pada masa depan kita.
Tetapi AGI bukanlah titik tolak seperti ISI. Bilakah, menurut pakar, kita akan mempunyai ISI?
Bostrom bertanya kepada para pakar kapan kami akan mencapai ASI: a) dua tahun setelah mencapai AGI (iaitu, hampir seketika kerana ledakan kecerdasan); b) selepas 30 tahun. Hasil?
Pendapat rata-rata adalah bahawa peralihan cepat dari AGI ke ISI akan berlaku dengan kebarangkalian 10%, tetapi dalam 30 tahun atau kurang, ia akan berlaku dengan kebarangkalian 75%.
Dari data ini, kita tidak tahu tarikh apa yang disebut oleh responden sebagai 50% kemungkinan ASI, tetapi berdasarkan dua jawapan di atas, mari kita anggap ia adalah 20 tahun. Artinya, pakar AI terkemuka di dunia percaya bahawa titik perubahan akan datang pada tahun 2060 (AGI akan muncul pada tahun 2040 + diperlukan 20 tahun untuk peralihan dari AGI ke ISI).
Sudah tentu, semua statistik di atas bersifat spekulatif dan hanya mewakili pendapat pakar dalam bidang kecerdasan buatan, tetapi mereka juga menunjukkan bahawa kebanyakan orang yang berkenaan bersetuju bahawa menjelang tahun 2060 kemungkinan AI akan tiba. Hanya dalam 45 tahun.
Mari beralih ke soalan kedua. Apabila kita sampai ke titik tolak, sisi pilihan yang manakah yang menentukan kita?
Superintelligence akan mempunyai kekuatan yang paling kuat, dan persoalan kritikal bagi kita adalah seperti berikut:
Siapa atau apa yang akan mengawal kekuatan ini dan apa yang akan menjadi motivasi mereka?
Jawapan untuk soalan ini akan bergantung pada sama ada ISI mendapat perkembangan yang sangat hebat, perkembangan yang sangat menakutkan, atau sesuatu di antaranya.
Sudah tentu, komuniti pakar juga berusaha menjawab soalan-soalan ini. Tinjauan Bostrom menganalisis kemungkinan kemungkinan kesan AGI terhadap umat manusia, dan ternyata dengan peluang 52 persen semuanya akan berjalan dengan baik dan dengan peluang 31 peratus semuanya akan menjadi buruk atau sangat buruk. Tinjauan pendapat yang dilampirkan pada akhir topik sebelumnya, yang dilakukan di antara anda, pembaca Hi-News yang dikasihi, menunjukkan hasil yang sama. Untuk hasil yang agak neutral, kebarangkalian hanya 17%. Dengan kata lain, kita semua percaya bahawa AGI akan menjadi masalah besar. Perlu juga diperhatikan bahawa tinjauan ini menyangkut kemunculan AGI - dalam hal ISI, peratusan berkecuali akan lebih rendah.
Sebelum kita lebih mendalam memikirkan sisi baik dan buruk soalan, mari kita gabungkan kedua-dua sisi soalan - "bilakah ini akan berlaku?" dan "adakah ini baik atau buruk?" ke dalam jadual yang merangkumi pandangan kebanyakan pakar.
Kami akan bercakap mengenai kem utama dalam satu minit, tetapi pertama, tentukan kedudukan anda. Kemungkinan besar, anda berada di tempat yang sama dengan saya sebelum saya mula menggarap topik ini. Terdapat beberapa sebab mengapa orang sama sekali tidak memikirkan topik ini:
- Seperti yang disebutkan di bahagian pertama, filem-filem itu benar-benar membingungkan orang dan fakta, dengan menyajikan senario yang tidak realistis dengan kecerdasan buatan, yang menyebabkan fakta bahawa kita sama sekali tidak harus mengambil AI. James Barratt menyamakan situasi ini dengan dikeluarkan oleh Pusat Pengendalian Penyakit (CDC) dengan amaran serius mengenai vampir di masa depan kita.
- Oleh kerana apa yang disebut bias kognitif, sangat sukar bagi kita untuk mempercayai bahawa sesuatu itu nyata sehingga kita mempunyai bukti. Seseorang dengan yakin dapat membayangkan para saintis komputer tahun 1988 secara berkala membincangkan akibat-akibat yang luas dari Internet dan apa yang mungkin terjadi, tetapi orang-orang hampir tidak percaya bahawa ia akan mengubah hidup mereka sehingga ia benar-benar berlaku. Cuma komputer tidak tahu bagaimana melakukan ini pada tahun 1988, dan orang hanya melihat komputer mereka dan berfikir, “Benarkah? Adakah ini yang akan mengubah dunia? Imajinasi mereka dibatasi oleh apa yang diajarkan oleh pengalaman peribadi mereka kepada mereka, mereka tahu apa itu komputer, dan sukar untuk membayangkan apa yang mampu dilakukan oleh komputer di masa depan. Perkara yang sama berlaku sekarang dengan AI. Kami mendengar bahawa ia akan menjadi perkara yang seriusTetapi kerana kita belum menghadapinya secara langsung dan, secara umum, kita melihat manifestasi AI yang agak lemah di dunia moden kita, agak sukar bagi kita untuk mempercayai bahawa ia akan mengubah hidup kita secara radikal. Bertentangan dengan prasangka inilah banyak pakar dari semua kem, dan juga orang-orang yang berminat, menentang untuk berusaha menarik perhatian kita melalui kebisingan egosentrisme kolektif setiap hari.
- Walaupun kita mempercayai semua ini - berapa kali hari ini anda berfikir tentang hakikat bahawa anda akan menghabiskan sisa kekekalan dalam masa kosong? Sedikit, setuju. Walaupun fakta ini jauh lebih penting daripada apa yang anda lakukan dari hari ke hari. Ini kerana otak kita biasanya tertumpu pada perkara kecil, sehari-hari, tidak kira betapa sukarnya keadaan jangka panjang yang kita hadapi. Cuma kita dibuat.
Salah satu tujuan artikel ini adalah untuk membuat anda keluar dari kem yang disebut "Saya ingin memikirkan perkara lain" dan menempatkan anda di kem pakar, walaupun anda hanya berdiri di persimpangan jalan antara dua garis putus-putus di petak di atas, sama sekali tidak membuat keputusan.
Dalam penyelidikan, menjadi jelas bahawa pendapat kebanyakan orang cepat menuju ke "kem utama," dan tiga perempat pakar jatuh ke dalam dua subkamp di kem utama.
Kami akan mengunjungi kedua-dua kem ini sepenuhnya. Mari mulakan dengan keseronokan.
Mengapa masa depan boleh menjadi impian terbesar kita?
Semasa kita meneroka dunia AI, secara mengejutkan terdapat banyak orang di zon selesa kita. Orang-orang di dataran kanan atas penuh dengan kegembiraan. Mereka percaya bahawa kita akan berada di sisi log yang baik, dan mereka juga percaya bahawa kita pasti akan sampai ke sini. Bagi mereka, masa depan hanyalah yang terbaik yang hanya dapat diimpikan.
Maksud yang membezakan orang-orang ini dari pemikir lain bukanlah mereka ingin berada di sisi bahagia - tetapi mereka pasti bahawa dia sedang menunggu kita.
Keyakinan ini keluar dari kontroversi. Pengkritik percaya ia datang dari kegembiraan yang mempesona yang membayangi sisi negatif yang berpotensi. Tetapi para penyokong mengatakan ramalan suram selalu naif; teknologi berterusan dan akan selalu membantu kita lebih banyak daripada membahayakan kita.
Anda bebas memilih mana-mana pendapat ini, tetapi mengesampingkan keraguan dan melihat sisi gembira dari balok keseimbangan, cuba menerima kenyataan bahawa semua yang anda baca mungkin sudah berlaku. Sekiranya anda memperlihatkan dunia keselesaan, teknologi, dan kelimpahan yang tidak berkesudahan kepada para pemburu, nampaknya mereka fiksyen ajaib - dan kami bersikap sederhana, tidak dapat mengakui bahawa transformasi yang tidak dapat difahami sama menanti kami di masa depan.
Nick Bostrom menerangkan tiga jalan yang dapat ditempuh oleh sistem AI superintelen:
Oracle yang dapat menjawab sebarang pertanyaan yang tepat, termasuk soalan rumit yang tidak dapat dijawab oleh manusia - misalnya, "bagaimana membuat enjin kereta lebih efisien?" Google adalah jenis "oracle" primitif.
Seorang jin yang akan melaksanakan apa-apa arahan tahap tinggi - menggunakan penyusun molekul untuk membuat versi baru dan lebih berkesan dari enjin kereta - dan akan menunggu perintah seterusnya.
Seorang yang berdaulat yang akan memiliki akses yang luas dan kemampuan untuk berfungsi secara bebas di dunia, membuat keputusan sendiri dan memperbaiki prosesnya. Dia akan mencipta kaedah pengangkutan persendirian yang lebih murah, cepat dan lebih selamat daripada kereta.
Soalan-soalan dan tugas-tugas ini, yang nampaknya sukar bagi kita, akan tampak seperti sistem superintelijen seolah-olah seseorang meminta untuk memperbaiki keadaan "pensil saya jatuh dari meja", di mana anda hanya akan mengambilnya dan meletakkannya kembali.
Eliezer Yudkowski, seorang pakar kecerdasan buatan Amerika, menyatakannya dengan baik:
"Tidak ada masalah yang sulit, hanya masalah yang sulit untuk tahap kecerdasan tertentu. Melangkah selangkah lebih tinggi (dari segi kepintaran), dan beberapa masalah tiba-tiba akan beralih dari kategori "mustahil" ke kem "jelas". Selangkah lebih tinggi - dan semuanya akan menjadi jelas."
Terdapat banyak saintis, penemu dan usahawan yang tidak sabar yang telah memilih zon keselesaan yakin dari meja kami, tetapi kami hanya memerlukan satu panduan untuk berjalan menuju yang terbaik di dunia terbaik ini.
Ray Kurzweil tidak jelas. Ada yang memuja ideanya, ada yang memandang rendah. Ada yang tinggal di tengah - Douglas Hofstadter, membincangkan idea-idea buku Kurzweil, dengan fasih menyatakan bahawa "seolah-olah anda mengambil banyak makanan yang baik dan sedikit kotoran anjing, dan kemudian mencampurkan semuanya sedemikian rupa sehingga mustahil untuk memahami apa yang baik dan apa yang buruk."
Sama ada anda suka ideanya atau tidak, mustahil untuk menyebarkannya tanpa bayangan yang menarik. Dia mula mencipta sesuatu semasa remaja, dan pada tahun-tahun berikutnya dia mencipta beberapa perkara penting, termasuk pengimbas flatbed pertama, pengimbas pertama yang menukar teks menjadi pertuturan, synthesizer muzik Kurzweil yang terkenal (piano elektrik sebenar pertama), dan pengecam pertuturan pertama yang berjaya secara komersial. Dia juga pengarang lima buku sensasi. Kurzweil dihargai kerana ramalannya yang berani, dan rekodnya cukup bagus - pada akhir tahun 80-an, ketika Internet masih di peringkat awal, dia menganggap bahawa pada tahun 2000-an Web akan menjadi fenomena global. The Wall Street Journal menyebut Kurzweil sebagai "genius yang gelisah," Forbes sebagai "mesin berfikir global," Inc. Majalah - "Pewaris sah Edison", Bill Gates - "yang terbaik dari merekayang meramalkan masa depan kecerdasan buatan. " Pada tahun 2012, pendiri Google Larry Page menjemput Kurzweil ke jawatan CTO. Pada tahun 2011, dia mengasaskan Universiti Singularity, yang dihoskan oleh NASA dan sebahagiannya ditaja oleh Google.
Biografinya penting. Ketika Kurzweil bercakap tentang visi masa depannya, ia kelihatan seperti gila gila, tetapi yang paling gila adalah bahawa dia jauh dari gila - dia adalah orang yang sangat cerdas, berpendidikan dan waras. Anda mungkin menganggap dia salah dalam ramalannya, tetapi dia tidak bodoh. Ramalan Kurzweil dikongsi oleh banyak pakar zon selesa, Peter Diamandis dan Ben Herzel. Inilah yang difikirkannya akan berlaku.
Kronologi
Kurzweil percaya bahawa komputer akan mencapai tahap kecerdasan buatan umum (AGI) pada tahun 2029, dan menjelang 2045 kita tidak hanya akan memiliki kecerdasan buatan, tetapi juga dunia yang sama sekali baru - masa yang disebut sebagai singulariti. Kronologinya mengenai AI masih dianggap keterlaluan, tetapi selama 15 tahun terakhir, perkembangan pesat sistem kecerdasan buatan (AI) yang sangat memaksa telah memaksa banyak pakar untuk berpihak kepada Kurzweil. Ramalannya masih lebih bercita-cita tinggi daripada tinjauan Bostrom (AGI pada tahun 2040, ISI pada tahun 2060), tetapi tidak banyak.
Menurut Kurzweil, tiga revolusi serentak dalam bioteknologi, nanoteknologi dan, yang lebih penting, AI mendorong keunikan 2045. Tetapi sebelum kita melangkah lebih jauh - dan nanoteknologi mengikuti kepintaran buatan - mari luangkan masa sebentar untuk nanoteknologi.
Beberapa perkataan mengenai nanoteknologi
Kami biasanya memanggil teknologi nanoteknologi yang menangani manipulasi jirim dalam julat 1-100 nanometer. Nanometer adalah satu bilion meter, atau sepersejuta milimeter; dalam jarak 1-100 nanometer, virus (diameter 100 nm), DNA (lebar 10 nm), molekul hemoglobin (5 nm), glukosa (1 nm) dan banyak lagi dapat ditampung. Sekiranya nanoteknologi menjadi subjek kami, langkah seterusnya adalah memanipulasi atom individu yang kurang daripada satu urutan magnitud (~, 1 nm).
Untuk memahami di mana manusia menghadapi masalah yang cuba memanipulasi jirim pada skala seperti itu, mari melompat ke skala yang lebih besar. Stesen Angkasa Antarabangsa berada 481 kilometer di atas Bumi. Sekiranya manusia adalah raksasa dan memukul ISS dengan kepala mereka, mereka akan menjadi 250,000 kali lebih besar daripada yang ada sekarang. Sekiranya anda membesarkan apa-apa dari 1 hingga 100 nanometer 250.000 kali, anda mendapat 2.5 sentimeter. Nanoteknologi adalah setara dengan manusia, yang mengorbit ISS, berusaha memanipulasi sesuatu ukuran sebutir pasir atau bola mata. Untuk sampai ke tahap seterusnya - mengawal atom individu - gergasi perlu meletakkan objek dengan berhati-hati dengan diameter 1/40 milimeter. Orang biasa akan memerlukan mikroskop untuk melihatnya.
Buat pertama kalinya, Richard Feynman bercakap mengenai nanoteknologi pada tahun 1959. Kemudian dia berkata: "Prinsip-prinsip fizik, sejauh yang saya tahu, tidak menentang kemungkinan mengendalikan sesuatu benda dengan atom. Pada prinsipnya, seorang ahli fizik dapat mensintesis sebarang bahan kimia yang ditulis oleh seorang ahli kimia. Bagaimana? Dengan meletakkan atom di mana ahli kimia mengatakan untuk mendapatkan zatnya. " Ini adalah kesederhanaan keseluruhan. Sekiranya anda tahu bagaimana menggerakkan molekul atau atom individu, anda boleh melakukan hampir semua perkara.
Nanoteknologi menjadi bidang ilmiah yang serius pada tahun 1986 ketika jurutera Eric Drexler mengemukakan asasnya dalam buku manianya, Machines of Creation, tetapi Drexler sendiri percaya bahawa mereka yang ingin mempelajari lebih lanjut mengenai idea moden dalam nanoteknologi harus membaca bukunya 2013. Kelimpahan Penuh (Kelimpahan Radikal).
Setelah sampai ke dasar nanoteknologi, kita dapat menggunakannya untuk membuat alat teknikal, pakaian, makanan, bioproduk - sel darah, pejuang virus dan barah, tisu otot, dan sebagainya - apa sahaja. Dan dalam dunia yang menggunakan nanoteknologi, kos bahan tidak lagi terkait dengan kelangkaan atau kerumitan proses pembuatannya, melainkan dengan kerumitan struktur atomnya. Dalam dunia nanoteknologi, berlian mungkin lebih murah daripada pemadam.
Kami belum dekat lagi. Dan tidak sepenuhnya jelas sama ada kita memandang rendah atau memandang tinggi kerumitan jalan ini. Walau bagaimanapun, semuanya menuju ke tahap bahawa nanoteknologi tidak jauh. Kurzweil menganggap bahawa menjelang tahun 2020 kita akan memilikinya. Negara-negara dunia tahu bahawa nanoteknologi dapat menjanjikan masa depan yang hebat, dan oleh itu mereka melaburkan banyak miliaran di dalamnya.
Cuba bayangkan apa kemungkinan yang akan diperoleh komputer yang super pintar jika sampai ke penghimpun skala nano yang boleh dipercayai. Tetapi nanoteknologi adalah idea kami, dan kami berusaha untuk menunggangnya, sukar bagi kami. Bagaimana jika mereka hanya gurauan untuk sistem ISI, dan ISI itu sendiri akan menghasilkan teknologi yang akan berkali-kali lebih hebat daripada apa yang pada dasarnya dapat kita anggap? Kami bersetuju: tidak ada yang dapat membayangkan apa yang akan dilakukan oleh superintelijen buatan? Adalah dipercayai bahawa otak kita tidak dapat meramalkan sedikit pun apa yang akan berlaku.
Apa yang boleh dilakukan oleh AI untuk kita?
Bersenjata dengan superintelligence dan semua teknologi yang dapat dihasilkan oleh superintelligence, ISI mungkin akan dapat menyelesaikan semua masalah manusia. Pemanasan global? ISI akan menghentikan pelepasan karbon terlebih dahulu dengan mencipta sejumlah bahan bakar bukan fosil yang cekap untuk menjana tenaga. Dia kemudian akan menghasilkan kaedah yang berkesan dan inovatif untuk membuang lebihan CO2 dari atmosfera. Kanser dan penyakit lain? Bukan masalah - penjagaan kesihatan dan perubatan akan berubah dengan cara yang mustahil untuk dibayangkan. Kebuluran dunia? ISI akan menggunakan teknologi nano untuk membuat daging yang serupa dengan daging semula jadi, dari awal, dan daging asli.
Nanoteknologi dapat mengubah timbunan sampah menjadi tong daging segar atau makanan lain (tidak semestinya dalam bentuk biasa - bayangkan kiub epal raksasa) dan mengedarkan semua makanan ini ke seluruh dunia menggunakan sistem pengangkutan canggih. Sudah tentu, ini akan menjadi baik bagi haiwan yang tidak lagi perlu mati kerana makanan. ISI juga dapat melakukan banyak perkara lain, seperti memelihara spesies yang terancam punah atau bahkan mengembalikan spesies yang sudah pupus dari DNA yang diawetkan. ISI dapat menyelesaikan masalah makroekonomi kita yang paling sukar - perdebatan ekonomi kita yang paling sukar, masalah etika dan falsafah, perdagangan global - semuanya akan sangat jelas bagi ISI.
Tetapi ada sesuatu yang sangat istimewa yang boleh dilakukan oleh ISI untuk kita. Memikat dan menggoda yang akan mengubah segalanya: ISI dapat membantu kita mengatasi kematian. Memahami kemampuan AI secara beransur-ansur, mungkin anda akan mempertimbangkan semula semua idea anda mengenai kematian.
Tidak ada alasan evolusi untuk memperpanjang jangka hayat kita lebih lama daripada yang berlaku sekarang. Sekiranya kita hidup cukup lama untuk melahirkan dan membesarkan anak-anak sehingga mereka dapat membela diri, evolusi sudah cukup. Dari sudut pandang evolusi, 30+ tahun sudah cukup untuk pembangunan, dan tidak ada alasan mutasi untuk memanjangkan umur dan mengurangkan nilai pemilihan semula jadi. William Butler Yates menyebut spesies kita "jiwa yang melekat pada binatang yang mati." Tidak menggembirakan.
Dan kerana kita semua mati suatu hari nanti, kita hidup dengan idea bahawa kematian tidak dapat dielakkan. Kami berfikir tentang penuaan dari masa ke masa - terus maju dan tidak dapat menghentikan proses ini. Tetapi pemikiran kematian itu khianat: ditangkap olehnya, kita lupa untuk hidup. Richard Feynman menulis:
"Ada sesuatu yang indah dalam biologi: tidak ada yang ada dalam sains ini yang membicarakan tentang keperluan kematian. Sekiranya kita ingin membuat mesin gerak kekal, kita menyedari bahawa kita telah menemui undang-undang yang cukup dalam fizik yang menunjukkan kemustahilan ini, atau undang-undang itu salah. Tetapi tidak ada apa-apa dalam biologi yang menunjukkan kematian yang tidak dapat dielakkan. Ini mendorong saya untuk percaya bahawa ini tidak dapat dielakkan, dan hanya menunggu masa sebelum ahli biologi menemui punca masalah ini, penyakit sejagat yang dahsyat ini, ia akan disembuhkan."
Faktanya ialah penuaan tidak ada kaitan dengan masa. Penuaan adalah apabila bahan fizikal badan haus. Bahagian kereta juga merosot - tetapi penuaan tidak dapat dielakkan? Sekiranya anda terus membaiki kereta anda kerana bahagiannya habis, ia akan kekal selamanya. Tubuh manusia tidak berbeza - hanya lebih kompleks.
Kurzweil membincangkan mengenai nanobots pintar yang disambungkan dengan Wi-Fi di aliran darah yang dapat melakukan banyak tugas untuk kesihatan manusia, termasuk memperbaiki atau mengganti sel-sel yang sudah usang di mana saja di badan. Memperbaiki proses ini (atau mencari alternatif yang disarankan oleh ASI yang lebih pintar) bukan sahaja menjaga kesihatan badan, tetapi juga dapat membalikkan penuaan. Perbezaan antara badan berusia 60 tahun dan 30 tahun terletak pada segelintir masalah fizikal yang dapat diperbaiki dengan teknologi yang tepat. ISI dapat membina sebuah kereta yang akan dimasuki seseorang ketika berumur 60 tahun dan meninggalkan ketika mereka berumur 30 tahun.
Bahkan otak yang rosak dapat diperbaharui. ISI pasti tahu bagaimana melakukan ini tanpa mempengaruhi data otak (keperibadian, ingatan, dll.). Seorang lelaki berusia 90 tahun yang mengalami degradasi otak yang lengkap dapat menjalani latihan semula, memperbaharui dan kembali ke awal hidupnya. Mungkin kelihatan tidak masuk akal, tetapi badannya adalah segelintir atom, dan ISI pasti dapat memanipulasinya dengan mudah, struktur atom apa pun. Tidak begitu tidak masuk akal
Kurzweil juga percaya bahawa bahan buatan akan menyatu dengan lebih banyak ke dalam badan seiring berjalannya waktu. Sebagai permulaan, organ boleh diganti dengan versi mesin yang sangat canggih yang akan bertahan selamanya dan tidak akan pernah gagal. Kemudian kita dapat melakukan reka bentuk semula badan yang lengkap, menggantikan sel darah merah dengan nanobot sempurna yang bergerak sendiri, menghilangkan keperluan untuk jantung sama sekali. Kita juga dapat meningkatkan kemampuan kognitif kita, mula berfikir berbilion kali lebih cepat, dan mengakses semua maklumat yang tersedia untuk manusia melalui awan.
Kemungkinan untuk memahami cakrawala baru tidak akan ada habisnya. Orang berjaya memberikan seks dengan tujuan baru, mereka melakukannya untuk kesenangan, bukan hanya untuk pembiakan. Kurzweil berpendapat bahawa kita boleh melakukan perkara yang sama dengan makanan. Nanobots dapat memberikan nutrisi yang ideal langsung ke sel-sel tubuh, yang memungkinkan zat-zat tidak sihat melewati tubuh. Ahli teori Nanoteknologi Robert Freitas telah mengembangkan pengganti sel darah yang, apabila dilaksanakan di dalam tubuh manusia, memungkinkannya untuk tidak bernafas selama 15 minit - dan ini diciptakan oleh seseorang. Bayangkan bila ISI akan mendapat kuasa.
Bagaimanapun, Kurzweil percaya bahawa manusia akan mencapai tahap di mana mereka menjadi buatan sepenuhnya; masa ketika kita melihat bahan biologi dan memikirkan bagaimana primitifnya; ketika kita akan membaca tentang peringkat awal sejarah manusia, kagum dengan bagaimana kuman, kecelakaan, penyakit, atau usia tua boleh membunuh seseorang yang bertentangan dengan kehendaknya. Pada akhirnya, manusia akan mengalahkan biologi mereka sendiri dan menjadi kekal - inilah jalan menuju sisi bahagia balok keseimbangan yang telah kita bicarakan sejak awal. Dan orang yang mempercayai ini juga yakin bahawa masa depan seperti itu menanti kita, tidak lama lagi.
Anda mungkin tidak akan terkejut kerana idea-idea Kurzweil telah mendapat kritikan keras. Keunikannya pada tahun 2045 dan kehidupan abadi bagi orang-orang disebut "kenaikan kutu buku" atau "penciptaan cerdas orang dengan IQ 140". Yang lain mempersoalkan jangka masa yang optimis, pemahaman tentang tubuh manusia dan otak, mengingatkan undang-undang Moore, yang belum hilang. Bagi setiap pakar yang mempercayai idea Kurzweil, ada tiga orang yang menganggap dia salah.
Tetapi perkara yang paling menarik tentang ini adalah bahawa kebanyakan pakar yang tidak bersetuju dengannya umumnya tidak mengatakan bahawa ini mustahil. Daripada mengatakan "omong kosong, ini tidak akan pernah terjadi", mereka mengatakan sesuatu seperti "semua ini akan berlaku jika kita sampai ke ISI, tetapi ini adalah tangkapan." Bostrom, salah satu pakar AI yang memberi amaran akan bahaya AI, juga mengakui:
"Hampir tidak ada masalah yang tersisa yang tidak dapat diselesaikan oleh superintelijen atau bahkan membantu kita menyelesaikannya. Penyakit, kemiskinan, kehancuran persekitaran, penderitaan pelbagai jenis - semua kecerdasan super dengan bantuan nanoteknologi dapat diselesaikan dalam sekejap. Superintelligence juga dapat memberi kita jangka hayat tanpa had dengan menghentikan dan membalikkan proses penuaan menggunakan nanomedicine atau kemampuan untuk memuat naik kita ke cloud. Superintelligence juga dapat mewujudkan peluang untuk peningkatan kemampuan intelektual dan emosi yang tidak berkesudahan; dia dapat menolong kita menciptakan dunia di mana kita akan hidup dalam kegembiraan dan pengertian, mendekati cita-cita kita dan membuat impian kita menjadi kenyataan."
Ini adalah petikan dari salah seorang pengkritik Kurzweil, bagaimanapun, yang mengakui bahawa semua ini mungkin berlaku jika kita dapat membuat ASI yang selamat. Kurzweil hanya mendefinisikan apa yang seharusnya menjadi superintelijen buatan, jika mungkin. Dan jika dia adalah tuhan yang baik.
Kritikan yang paling jelas terhadap penyokong zon selesa adalah bahawa mereka boleh dianggap salah dalam menilai masa depan ISI. Dalam bukunya The Singularity, Kurzweil menumpukan 20 halaman daripada 700 kemungkinan ancaman ISI. Persoalannya bukan ketika kita sampai ke ISI, persoalannya adalah apakah motivasinya. Kurzweil menjawab pertanyaan ini dengan hati-hati: “ISI berasal dari banyak usaha yang berbeza dan akan disatukan secara mendalam ke dalam infrastruktur peradaban kita. Sebenarnya, ia akan tertanam rapat di dalam badan dan otak kita. Dia akan mencerminkan nilai kita kerana dia akan menjadi satu dengan kita."
Tetapi jika jawapannya adalah, mengapa begitu banyak orang pintar di dunia ini bimbang tentang masa depan kecerdasan buatan? Mengapa Stephen Hawking mengatakan bahawa pengembangan ISI "dapat mengujakan akhir umat manusia"? Bill Gates mengatakan bahawa dia "tidak memahami orang yang tidak terganggu" mengenainya. Elon Musk takut bahawa kita "memanggil iblis." Mengapa banyak pakar menganggap ISI sebagai ancaman terbesar bagi umat manusia?
Berdasarkan bahan dari waitbutwhy.com, kompilasi oleh Tim Urban. Artikel ini menggunakan bahan-bahan dari karya Nick Bostrom, James Barratt, Ray Kurzweil, Jay Niels-Nilsson, Stephen Pinker, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog dan Kai Sotal, Susan Schneider, Stuart Russell dan Peter Norvig, Theodore Modis Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Pengarang: Ilya Khel
Bahagian tiga: mengapa mungkin penemuan terakhir kita?
