Bab dari buku yang diterbitkan oleh Muzium Politeknik
Manusia dan robot - di manakah sempadan di antara mereka dan bahaya apa yang ditimbulkan oleh jarak kita? Berdasarkan pengalaman peribadi, banyak wawancara dan data dari penyelidikan terbaru, saintis yang paling dihormati di lapangan, David Mindell, menawarkan pandangan di sebalik tabir aplikasi robotik yang paling inovatif. Indicaror. Ru menerbitkan bab dari bukunya “Rise of the Machines Dibatalkan! Mitos mengenai robotisasi”.
Manusia dikendalikan - jauh - autonomi
Jauh di malam hari, tinggi di atas Lautan Atlantik di ruang terbuka yang luas antara Brazil dan Afrika, sebuah pesawat penumpang berjadual terperangkap dalam cuaca buruk. Es beku menyumbat tiub kecil di hidung pesawat, yang menentukan kelajuannya dan mengirimkan data ke komputer yang mengendalikan pesawat. Komputer boleh terus terbang tanpa maklumat ini, tetapi program yang disertakan di dalamnya tidak memberikan penjajaran seperti itu. Sistem fly-by-wire automatik menyerah dan mematikan, memindahkan kawalan kepada orang - juruterbang duduk di kokpit kapal: Pierre-Cedric Bonin, 32 tahun, dan David Robert, 37 tahun. Bonin dan Robert, kedua-duanya santai dan sedikit letih, terkejut apabila mereka tiba-tiba mendapati bahawa mereka harus secara manual menerbangkan kapal terbang besar pada ketinggian tinggi dalam keadaan cuaca buruk, dan bahkan pada waktu malam. Dan dalam keadaan yang lebih baik, adalah tugas sukar yang tidak dihadapi oleh juruterbang akhir-akhir ini. Komander kru, Marc Dubois, 58 tahun, tidak menaiki pesawat pada masa itu, tetapi sedang berehat di kabin. Juruterbang terpaksa menghabiskan masa berharga untuk memanggilnya ke dalam kokpit. Walaupun pada kenyataannya ketika komputer dimatikan, pesawat berada pada level dalam penerbangan mendatar lurus, para pilot mengalami kesulitan untuk memahami parameter udara yang sedikit. Salah satunya menarik pegangan kawalan ke arah dirinya sendiri, yang lain mendorongnya ke hadapan. Pesawat itu meneruskan penerbangan tingkat lurus selama kira-kira satu minit, dan kemudian mula jatuh. Juruterbang terpaksa menghabiskan masa berharga untuk memanggilnya ke dalam kokpit. Walaupun pada kenyataannya ketika komputer dimatikan, pesawat berada pada level dalam penerbangan mendatar lurus, para pilot mengalami kesulitan untuk memahami parameter udara yang sedikit. Salah satunya menarik pegangan kawalan ke arah dirinya sendiri, yang lain mendorongnya ke hadapan. Pesawat itu meneruskan penerbangan tingkat lurus selama kira-kira satu minit, dan kemudian mula jatuh. Juruterbang terpaksa menghabiskan masa berharga untuk memanggilnya ke dalam kokpit. Walaupun pada kenyataannya ketika komputer dimatikan, pesawat berada pada level dalam penerbangan mendatar lurus, para pilot mengalami kesulitan untuk memahami parameter udara yang sedikit. Salah satunya menarik pegangan kawalan ke arah dirinya sendiri, yang lain mendorongnya ke hadapan. Pesawat itu meneruskan penerbangan tingkat lurus selama kira-kira satu minit, dan kemudian mula jatuh.dan kemudian mula jatuh.dan kemudian mula jatuh.
Pada 1 Jun 2009, Penerbangan Air France 447 melayang ke laut, menewaskan lebih dari 200 penumpang dan anak kapal. Dia menghilang ke ombak hampir tanpa jejak. Dalam sistem penerbangan antarabangsa yang saling berkaitan di seluruh dunia, tidak dapat difahami bahawa pesawat itu akan hilang begitu sahaja. Kerja carian yang diselaraskan berskala besar diatur. Hanya beberapa hari kemudian, jejak pesawat ditemui di dasar laut. Walaupun demikian, untuk mencari bahagian utama bangkai kapal terbang dan kotak hitam, berkat yang mungkin dapat diketahui penyebab tragedi, perlu dilakukan pencarian di wilayah luas dasar laut, yang maju dengan perlahan tanpa harapan. Lebih dari dua tahun kemudian, pada kedalaman 3.2 km, hampir di titik di mana pesawat itu jatuh ke permukaan laut,kenderaan bawah air autonomi yang disebut Remus 6000 meluncur senyap melalui kegelapan di bawah tekanan tiang air yang mengerikan. Bergerak sedikit lebih pantas daripada pejalan kaki, robot yang berbentuk seperti torpedo itu tetap tinggi ketinggian kira-kira 60 m di atas bawah. Dalam kedudukan ini, pengimbas akustiknya menerima gambar yang paling jelas. Isyarat akustik bergerak sekitar 800 m ke semua arah, robot mengumpulkan gigabait maklumat melalui isyarat yang dikembalikan.robot itu mengumpulkan maklumat gigabait melalui isyarat yang dikembalikan.robot itu mengumpulkan maklumat gigabait melalui isyarat yang dikembalikan.
Permukaannya bergunung, sehingga dasar laut naik tajam. Walaupun mempunyai kepintaran buatan, robot kadang-kadang melanda permukaan, paling sering tanpa akibat. Tiga dari robot ini bekerja secara harmoni: sementara dua dari mereka mencari di bawah air, yang ketiga berada di atas kapal di permukaan. "Pit stop" seperti itu memakan masa tiga jam, di mana orang yang melayani robot menulis semula maklumat, mengisi semula bateri dan menetapkan rancangan pencarian baru. Di kapal itu, sepasukan dua belas jurutera dari Institut Penyelidikan Oceanografi Woods Hole, yang diketuai oleh Mike Purcell, yang mempelopori reka bentuk dan pengembangan kenderaan carian, bekerja selama dua belas jam shift. Mereka dimuat seperti pasukan mekanik Formula 1.
Apabila peranti naik ke permukaan, para jurutera memerlukan masa sekitar 45 minit untuk memuat turun maklumat yang dikumpulkannya ke dalam komputer, kemudian setengah jam lagi untuk memprosesnya sehingga dapat dilihat dengan cepat di monitor. Penyiasat Perancis dan Jerman dan wakil Air France mengintip ke atas bahu mereka. Tindakan mereka nampak terhitung dan bijaksana, tetapi ketegangan tergantung di udara: kepentingannya terlalu tinggi dari segi kebanggaan negara Perancis, dan dari segi reputasi pengeluar Airbus, dan dari segi keselamatan semua perjalanan udara.
Video promosi:
Beberapa ekspedisi sebelumnya tidak berjaya. Di Perancis, Brazil dan di seluruh dunia, keluarga mangsa menunggu berita. Menguraikan maklumat dari pengimbas akustik memerlukan analisis yang teliti yang tidak dapat dipercayai sepenuhnya oleh komputer. Purcell dan jurutera beliau bergantung pada pengalaman bertahun-tahun yang terkumpul. Pada monitor mereka, mereka mengkaji batu-batu bawah yang berbatu demi kilometer. Kerja rutin ini berlangsung selama lima hari, sehingga monotonya terganggu: pengumpulan serpihan muncul di layar, dan kemudian para saintis sampai ke kawasan bencana - mereka menerima isyarat kuat dari objek asal buatan di padang pasir lautan. Sekurang-kurangnya mereka menganggap, tetapi masih tidak dapat mengatakan dengan pasti. Para jurutera memprogramkan semula kenderaan tersebut sehingga mereka kembali ke kawasan bencana dan bergerak berulang-alik melaluinya. Kali ini, robot harus cukup dekat untuk kamera mengambil gambar pada ketinggian kira-kira 9 m di atas bawah dengan cahaya lampu sisi. Ketika kenderaan membawa gambar ke permukaan, jurutera dan penyiasat melihat kawasan bencana dan menerima jawapan: mereka menemui bangkai kapal terbang yang menjadi kuburan ratusan orang. Tidak lama kemudian, pasukan lain kembali ke lokasi tragedi dengan jenis robot yang berbeza - kenderaan bawah air yang dikendalikan dengan jarak jauh. Tidak lama kemudian, pasukan lain kembali ke lokasi tragedi dengan jenis robot yang berbeza - kenderaan bawah air yang dikendalikan dengan jarak jauh. Tidak lama kemudian, pasukan lain kembali ke lokasi tragedi dengan jenis robot yang berbeza - kenderaan bawah air yang dikendalikan dengan jarak jauh.
Ia adalah alat tugas berat yang direka khas untuk bekerja secara mendalam. Ia disambungkan ke kapal menggunakan kabel. Dengan menggunakan peta yang dihasilkan dari pencarian yang berjaya, ROV menempatkan kotak hitam - perakam suara dan perakam data pesawat - dan mengangkatnya ke permukaan. Rekod minit akhir juruterbang yang ditakdirkan diambil dari kedalaman lautan, dan kini para penyiasat dapat mencipta keadaan takdir yang menyebabkan kebingungan di atas kapal terbang robot. Kemudian kenderaan bawah laut memulakan misi menyedihkan - untuk mengambil mayat orang mati.
Kemalangan Air France Flight 447 dan operasi untuk mencari runtuhannya menghubungkan automasi moden dan robotik dalam dua persekitaran yang melampau: di pinggir stratosfera dan di kedalaman laut. Pesawat jatuh ke laut kerana kesalahan dalam interaksi manusia dengan sistem automatik. Kemudian serpihannya ditemui oleh orang yang menggunakan robot terkawal dan autonomi.
Walaupun kata-kata "automatik" dan "autonomous" (dalam makna yang paling umum) menyiratkan bahawa sistem tersebut beroperasi secara bebas, dalam kedua-dua kes kegagalan atau kejayaan itu bukan disebabkan oleh mesin dan orang yang bertindak secara berasingan, tetapi disebabkan oleh tindakan gabungan mesin. dan orang. Juruterbang manusia memperjuangkan nyawa pesawat yang automatik untuk keselamatan dan kebolehpercayaan yang lebih besar; banyak kapal yang saling berkaitan, satelit dan pelampung terapung percuma membantu mencari lokasi nahas; jurutera memproses maklumat yang diterima dari robot dan bertindak di atasnya.
Kenderaan automatik dan autonomi terus dikembalikan kepada penciptanya - manusia - untuk maklumat, tenaga, dan arahan. Tragedi Air France Flight 447 menjelaskan bahawa dengan terus menyesuaikan diri dan mengubah persekitaran kita, kita membuat semula diri kita sendiri. Bagaimana juruterbang menjadi begitu ketagihan dengan komputer sehingga mereka menjatuhkan pesawat yang berfungsi dengan sempurna di laut? Apa peranan manusia dalam bidang seperti pengangkutan dan pengangkutan, penyelidikan dan aktiviti ketenteraan, ketika semakin banyak tugas-tugas penting yang nampaknya dilakukan oleh mesin? Pandangan yang melampau adalah bahawa manusia hampir "tidak lagi digunakan", bahawa robot "benar-benar memerlukan satu kemas kini perisian" untuk menjadi sepenuhnya autonomi, seperti yang ditulis oleh Scientific Amerika baru-baru ini. Pandangan ini memberitahu kitabahawa robot semakin maju - kita semakin menemui mereka dalam persekitaran yang biasa. Kebimbangan mengenai keupayaan kecerdasan buatan yang tidak diketahui dan dipersoalkan timbul dari kepercayaan bahawa kita berada di puncak "superintelligence." Dunia kita berada di ambang perubahan, sebenarnya, ia sudah berubah di bawah pengaruh robot dan automasi.
Tiba-tiba, projek baru muncul, mewujudkan impian lama mesin pintar yang membantu kami memenuhi tugas profesional kami, memudahkan kerja fizikal dan tugas rutin dalam kehidupan seharian. Robot yang ada dan bekerja berdekatan dengan manusia pada tahap fizikal, kognitif dan emosi menjadi topik penyelidikan yang semakin luas dan menjanjikan. Autonomi - impian bahawa robot suatu hari akan bertindak sebagai entiti bebas sepenuhnya - tetap menjadi sumber inspirasi, inovasi dan ketakutan. Keseronokan disebabkan oleh keparahan percubaan; bentuk tepat teknologi ini jauh dari lengkap, dan yang kurang pasti adalah implikasi sosial, psikologi dan kognitifnya.
Bagaimana robot kita akan mengubah kita? Dalam gambar dan rupa apa kita akan membuatnya? Apa yang akan tersisa dari bidang aktiviti tradisional kita - saintis, peguam, doktor, askar, pengurus dan juga pemandu dan pegawai kebersihan - apabila tugas-tugas ini akan dilakukan oleh mesin? Bagaimana kita akan hidup dan bekerja? Kita tidak perlu membuat spekulasi: untuk sebagian besar, masa depan ini sudah tiba hari ini, jika tidak dalam kehidupan sehari-hari, maka dalam keadaan yang melampau, di mana kita telah menggunakan robot dan automasi selama beberapa dekad. Manusia tidak dapat wujud sendiri di lapisan atas atmosfer, di kedalaman lautan, di angkasa lepas. Oleh kerana keperluan untuk menghantar orang ke keadaan berbahaya ini, robotik dan automasi dibuat dan dilaksanakan di kawasan ini lebih awal daripada bidang aktiviti lain yang lebih biasa bagi kita.
Dalam persekitaran yang melampau, hubungan antara manusia dan robot diuji untuk kekuatan. Perkembangan paling inovatif muncul dalam persekitaran seperti itu. Di sini para jurutera mempunyai kebebasan seluas-luasnya untuk bereksperimen. Walaupun terdapat pengasingan fizikal, di sinilah kesan kognitif dan sosial dari pelbagai peranti mula-mula muncul. Dengan nyawa manusia, peralatan mahal dan misi kritikal yang dipertaruhkan, autonomi mesti selalu dibatasi oleh pertimbangan keselamatan dan kebolehpercayaan. Dalam keadaan seperti itu, kesia-siaan dan urusan kehidupan sehari-hari mereda ke latar belakang, dan kita dapati, mengasingkan diri dari kegelapan di sekitarnya yang serpihan, kiasan hantu kehidupan manusia dalam dunia teknologi. Proses sosial dan teknologi di kokpit kapal terbang atau di dalam kenderaan laut dalam tidak berbeza secara asasnya dari proses serupa di kilang, di pejabat atau di dalam kereta. Tetapi dalam keadaan yang melampau, ia kelihatan lebih jelas dan oleh itu lebih mudah difahami.
Setiap penerbangan kapal terbang adalah cerita, sama seperti setiap ekspedisi oseanografi, penerbangan angkasa atau operasi ketenteraan. Melalui kisah orang dan mesin tertentu, kita dapat mengumpulkan data mengenai dinamika halus. Dalam keadaan yang melampau, kita mendapat idea tentang masa depan kita, apabila teknologi seperti itu dapat dilaksanakan di bidang aktiviti manusia seperti pengangkutan jalan raya, penjagaan kesihatan, pendidikan, dll. Peranti yang dikendalikan oleh seseorang dari jarak jauh atau secara autonomi membuka kemungkinan interaksi baru antara orang dan mesin secara kualitatif, bentuk kehadiran baru dan pengalaman baru, dan pada masa yang sama menarik perhatian kita kepada bahaya, aspek etika dan akibat yang tidak diingini semasa tinggal di sekitar mesin pintar. Kita melihat masa depan di mana kehadiran dan pengetahuan manusia menjadi lebih penting,daripada sebelumnya, tetapi dengan cara yang tidak biasa dan tidak biasa. Dan kereta ini sungguh hebat.
Saya bukan satu-satunya orang yang mengagumi kapal terbang, kapal angkasa dan kapal selam sepanjang hidup saya. Sebenarnya, pahlawan-pahlawan cerita yang akan saya ceritakan di bawah ini dibimbing bukan hanya dengan mencari faedah praktikal - mereka juga didorong oleh semangat untuk teknologi baru. Bukan suatu kebetulan bahawa kisah-kisah seperti itu sering dijelaskan dalam karya fiksyen sains mengenai manusia dan mesin. Kisah manusia dan mesin yang berinteraksi pada tahap kemungkinan mereka menawan, mengejutkan dan membangkitkan harapan untuk menjadi siapa kita. Keghairahan ini kadang-kadang tercermin dalam kepercayaan naif pada perspektif teknologi. Tetapi secara beransur-ansur, minat seperti itu membawa kita kepada persoalan falsafah dan humanistik utama:siapakah kita? Bagaimana kita berhubung dengan pekerjaan kita dan satu sama lain? Bagaimana ciptaan kita meluaskan pengalaman kita? Bagaimana kita dapat hidup di dunia yang berubah ini? Soalan-soalan ini timbul sendiri apabila anda mula bercakap dengan orang yang membuat dan mengendalikan robot dan mesin. Saya ingin berkongsi dengan anda maklumat yang saya terima sendiri, dari temu bual paling terperinci dan hasil penyelidikan terkini dari Massachusetts Institute of Technology dan organisasi lain, dalam rangka ujian robotik dan automasi yang dilakukan dalam keadaan ekstrem kedalaman lautan, semasa penerbangan udara (sivil dan tentera) dan di angkasa. Ini bukan masa depan khayalan, tetapi apa yang berlaku hari ini: kita akan melihat bagaimana orang mengawal robot dan menerima maklumat melalui peranti autonomi, kita akan menganalisis bagaimana interaksi ini mempengaruhi kerja mereka,pengalaman hidup, kemahiran dan kebolehan.
Kisah kami bermula di mana saya sendiri bermula - di kedalaman lautan. Dua puluh lima tahun yang lalu, ketika saya seorang jurutera mengembangkan komputer dan alat tertanam untuk robot laut dalam, saya kagum apabila mengetahui bahawa teknik ini mengubah oseanografi, kaedah saintifik, dan bahkan sifat profesion oseanografi dengan cara yang tidak dapat diramalkan. Pemahaman ini menyebabkan saya mempunyai dua kerjaya selari. Sebagai saintis, saya telah mengkaji interaksi antara manusia dan mesin, dari kapal berperisai semasa Perang Saudara Amerika hingga komputer dan perisian yang membantu angkasawan Apollo mendarat di bulan.
Sebagai jurutera, saya telah mengintegrasikan data yang diperoleh dari penyelidikan ini ke dalam projek moden - mengembangkan robot dan peranti untuk digunakan dalam interaksi rapat dengan manusia. Dalam beberapa cerita saya muncul sebagai peserta, yang lain - sebagai pemerhati, dan yang lain - dalam kedua-dua penyamaran ini sekaligus. Selama bertahun-tahun mengumpulkan pengalaman, mencari dan bercakap dengan orang, saya menjadi yakin bahawa kita mesti mengubah fikiran kita mengenai robot. Bahkan bahasa di mana kita berbicara mengenai mereka agak diambil dari fiksyen sains abad ke-20 dan tidak ada kaitan dengan pencapaian teknikal pada zaman kita. Sebagai contoh, pesawat yang dikendalikan dari jarak jauh disebut drone, seolah-olah mereka adalah automatik tanpa akal, padahal sebenarnya dikawal ketat oleh manusia.
Robot sering disajikan (dan dijual) sebagai perantara yang sepenuhnya autonomi, tetapi walaupun autonomi terhad hari ini sering hanya wujud dalam imaginasi manusia. Robot yang kami gunakan dengan begitu meluas dan bervariasi tidak mengancam automatik - ia disertakan dalam rangkaian sosial dan teknikal seperti kita. Di bawah ini kita akan melihat banyak contoh bagaimana kita bekerjasama dengan mesin kita. Ini semua mengenai kombinasi. Sudah tiba masanya untuk mempertimbangkan fungsi apa yang sebenarnya dilakukan oleh robot moden untuk lebih memahami hubungan kita dengan ciptaan tangan manusia yang sering mengagumkan ini. Saya memberikan anda kesimpulan empirikal yang disokong oleh penyelidikan: tidak kira apa yang dilakukan robot di makmal, sebenarnya, di mana kehidupan manusia dan sumber daya yang dipertaruhkan,kami berusaha untuk mengehadkan autonomi mereka kepada sebilangan besar kelulusan dan peluang yang diperlukan untuk campur tangan manusia.
Saya tidak berpendapat bahawa mesin pintar, dan saya tidak mengatakan bahawa suatu hari mereka mungkin tidak cukup pintar. Sebaliknya, pendapat saya adalah bahawa mesin seperti itu tidak terpencil dari manusia. Mari senaraikan tiga mitos abad ke-20 yang berkaitan dengan robotik dan automasi. Mitos pertama adalah kemajuan linear - idea bahawa teknologi akan beralih dari kawalan manusia langsung ke alat kawalan jauh, dan kemudian ke robot autonomi sepenuhnya. Kata-kata dari ahli falsafah Peter Singer, yang selalu bersuara dalam mempertahankan sistem autonomi, menangkap inti dari mitos ini. Dia menulis bahawa "kemampuan orang-orang untuk menjaga kendali atas apa yang terjadi sedang dibatalkan baik oleh mereka yang memimpin dan secara langsung oleh teknologi, dan oleh itu orang akan segera dikeluarkan dari gelung kawalan." Tetapi tidak ada alasan untuk menganggapevolusi itu akan mengikuti jalan ini, bahawa "teknologi itu sendiri", seperti yang ditulis oleh Singer, akan membawa kepada sesuatu yang serupa. Sebenarnya, ada bukti bahawa manusia secara beransur-ansur berhubungan dengan mesin mereka.
Kami selalu mendapati bahawa orang, yang dikendalikan dari jauh oleh mereka dan kenderaan autonomi berkembang secara selari, saling mempengaruhi. Sebagai contoh, kenderaan udara tanpa pemandu tidak akan dapat terbang di ruang udara nasional AS tanpa perubahan yang sesuai untuk kenderaan berawak. Atau untuk mengambil contoh lain: kemajuan baru dalam robotik dalam bidang penyelenggaraan kapal angkasa tercermin dalam karya angkasawan dengan Teleskop Angkasa Hubble. Teknologi yang paling maju (dan kompleks) bukanlah teknologi yang berfungsi secara berasingan dari orang, tetapi teknologi yang paling mendalam tertanam dalam sistem sosial dan bertindak balas dengan lebih cepat terhadap apa yang berlaku di dalamnya. Yang kedua adalah mitos penggantian, idea bahawa mesin secara beransur-ansur akan mula mengambil alih semua tugas yang dilakukan manusia. Mitos ini adalah versi abad kedua puluh dari apa yang saya namakan sebagai fenomena Iron Horse.
Pada mulanya, orang membayangkan bahawa kereta api akan meniadakan keperluan untuk kuda, tetapi kereta api telah menunjukkan diri mereka sebagai kuda yang sangat tidak penting. Keretapi berlaku ketika orang belajar untuk melakukan perkara baru dengan pertolongan mereka. Penyelidik faktor manusia dan saintis kognitif berpendapat bahawa automata jarang hanya "mekanis" tugas manusia. Sebaliknya, mereka cenderung menjadikan tugas lebih sukar, selalunya dengan meningkatkan beban kerja (atau mengagihkannya). Pesawat yang dikendalikan dari jarak jauh tidak melakukan tugas yang sama dengan pesawat berawak; mereka mengambil fungsi baru. Robot yang dikendalikan dari jarak jauh di Marikh tidak meniru karya ahli geologi di lapangan;mereka dan orang-orang yang bekerja dengan mereka belajar melakukan penyelidikan lapangan di persekitaran baru dengan menggunakan mekanisme jarak jauh.
Akhirnya, kita mempunyai mitos ketiga - mitos autonomi sepenuhnya, idea utopia bahawa robot dapat bertindak sepenuhnya secara bebas hari ini atau masa depan. Ya, automata, tentu saja, dapat memikul beberapa tugas yang sebelumnya dilakukan oleh manusia, dan mereka memang mampu bertindak secara mandiri untuk jangka waktu tertentu tertentu sebagai tindak balas terhadap perubahan persekitaran. Tetapi mesin yang tidak bergantung pada arah manusia adalah mesin yang tidak berguna. Hanya batu yang dapat benar-benar autonomi (tetapi bahkan batu diciptakan dan diletakkan di tempatnya berkat persekitarannya). Automasi mengubah tahap penglibatan manusia dalam operasi mesin, tetapi tidak menghilangkan keperluan untuk sepenuhnya. Dalam sistem apa pun, walaupun sistem yang kelihatan seperti autonomi, kita selalu dapat mencari antara muka berkat yang dapat dikendalikan oleh seseorang,membaca maklumat dan berkat yang menjadi berguna. Untuk memetik salah satu laporan terbaru dari Majlis Sains Pertahanan Jabatan AS, "Tidak ada sistem autonomi sepenuhnya, sama seperti tidak ada tentera, pelaut, kapal terbang, atau tentera laut yang sepenuhnya autonomi."
Untuk berfikir dalam istilah abad ke-21 dan untuk mengubah pandangan kita mengenai robotik, automasi, dan terutama idea autonomi yang lebih baru, kita harus memahami bagaimana niat, rancangan dan andaian manusia mengubah inti pati mesin yang mereka hasilkan. Setiap pengendali, mengendalikan mesinnya, berinteraksi dengan pereka dan pengaturcara, yang kehadirannya di dalam mesin tidak akan berubah - bahkan dalam bentuk elemen struktur atau garis kod yang dibuat bertahun-tahun yang lalu. Komputer dalam pesawat Air France Flight 447 dapat terus menerbangkan pesawat walaupun dengan data kecepatan udara yang terhad, tetapi manusia telah memprogramnya sehingga mereka tidak dapat melakukannya. Walaupun perisian mengambil tindakan yang tidak dapat diramalkan, perisian tersebut bertindak dalam kerangka skema dan batasan yang ditentukan oleh penciptanya. Itu,bagaimana sistem itu dikembangkan, oleh siapa dan untuk tujuan apa, menentukan keupayaannya dan cara berinteraksi dengan orang yang menggunakannya. Tujuan saya adalah untuk menjauhkan diri dari mitos-mitos ini dan memahami konsep autonomi dalam konteks abad ke-21.
Melalui kisah-kisah yang berikut, saya berhasrat untuk membentuk semula wacana umum dan membuat peta konsep untuk era baru. Untuk membuat peta seperti itu, bercakap mengenai peranti dan robot dalam buku ini, saya akan beroperasi dengan konsep yang dikendalikan oleh manusia, jarak jauh dan autonomi. Yang pertama adalah analog dari kata "manned" yang tidak selalu sesuai, oleh itu dalam beberapa kes "terkawal" akan bermaksud "dikendalikan oleh seseorang di dalam kenderaan". Sudah tentu ini adalah jenis alat lama dan biasa seperti kapal, kapal terbang, kereta api, dan kereta - mesin yang dilalui orang. Biasanya, sistem yang dikendalikan oleh manusia tidak dianggap robot sama sekali, walaupun mereka semakin menyerupai robot dengan manusia di dalamnya. Jauh, bentuk singkatan kenderaan yang dikendalikan dari jarak jauh, hanya menunjukkan di mana pengendali berkaitan dengan kenderaan. Walaupun tugas kognitif untuk mengendalikan sistem jarak jauh hampir sama dengan tugas yang dilakukan secara langsung oleh pengendali yang hadir secara fizikal, kehadiran atau ketiadaan pengendali dan risiko yang berkaitan diberikan kepentingan budaya yang besar.
Contoh yang paling mencolok adalah peperangan jarak jauh beribu-ribu kilometer dari zon perang. Ini adalah pengalaman yang sama sekali berbeza dengan tugas askar biasa. Sebagai fenomena kognitif, kehadiran manusia saling berkaitan dengan aspek sosial. Automasi juga merupakan idea abad kedua puluh dan masih mencerminkan pandangan mekanistik bahawa mesin mengikuti prosedur yang telah ditentukan langkah demi langkah. Istilah "automatik" biasanya digunakan untuk menggambarkan komputer di dalam pesawat, walaupun mereka menggabungkan algoritma yang moden dan agak kompleks. Autonomi adalah perkataan yang lebih bergaya hari ini dan salah satu keutamaan penyelidikan utama dari Jabatan Pertahanan AS yang semakin menyusut. Sebilangan penyelidik jelas membezakan antara autonomi dan automasi, tetapi, pada pendapat saya,perbezaan antara autonomi hanya terletak pada tahap pengambilan keputusan bebas yang lebih luas daripada maklum balas sederhana; di samping itu, konsep "autonomi" merangkumi dan menyatukan banyak idea yang dipinjam dari teori kecerdasan buatan dan disiplin lain. Dan, tentu saja, idea autonomi individu dan kumpulan menjadi penyebab kontroversi berterusan dalam politik, falsafah, perubatan dan sosiologi. Ini tidak mengejutkan, kerana juruteknik sering meminjam istilah dari sains sosial untuk menggambarkan mesin mereka.idea autonomi individu dan kumpulan menjadi penyebab kontroversi berterusan dalam politik, falsafah, perubatan dan sosiologi. Ini tidak mengejutkan, kerana juruteknik sering meminjam istilah dari sains sosial untuk menggambarkan mesin mereka.idea autonomi individu dan kumpulan menjadi penyebab kontroversi berterusan dalam politik, falsafah, perubatan dan sosiologi. Ini tidak mengejutkan, kerana juruteknik sering meminjam istilah dari sains sosial untuk menggambarkan mesin mereka.
Walaupun dalam perniagaan reka bentuk, istilah "autonomi" dapat memiliki beberapa makna yang berbeza. Autonomi dalam reka bentuk kapal angkasa terdiri dari pemrosesan data yang diperlukan untuk operasi kapal angkasa di kapal (sama ada stesen automatik yang mengorbit atau robot bergerak), terpisah dari tugas seperti perancangan misi. Di Massachusetts Institute of Technology, tempat saya mengajar, kandungan kursus kejuruteraan autonomi merangkumi "perancangan jalan" - bagaimana untuk pergi dari satu titik ke satu titik, menghabiskan banyak masa dan tanpa menabrak apa-apa. Dalam sistem lain, autonomi serupa dengan kecerdasan, kemampuan untuk membuat keputusan yang akan dibuat seseorang dalam situasi tertentu, atau kemampuan untuk bertindak dalam keadaan tertentuyang tidak dijangka atau diramalkan oleh pencipta peranti ini.
Kapal selam autonomi disebut kerana beroperasi sendiri dan menentang kenderaan yang dikendalikan dari jarak jauh yang disambungkan ke kapal dengan kabel panjang. Walaupun begitu, para jurutera yang membuat kapal selam autonomi seperti itu mengatakan bahawa peranti mereka separa autonomi, kerana hanya dalam kes-kes yang jarang berlaku, mereka beroperasi tanpa hubungan dengan operator. Istilah "autonomi" menunjukkan kebebasan bertindak yang lebih besar. Ini menerangkan cara radas dikendalikan, yang merupakan faktor yang berpotensi meruap. Satu kajian baru-baru ini menunjukkan istilah "meningkatkan autonomi": dengan cara ini, penulis menekankan sifat relatif autonomi dan menyatakan bahawa autonomi "lengkap", iaitu mesin yang tidak perlu menerima maklumat dari seseorang, akan selalu tidak dapat dicapai.
Dalam buku ini, definisi autonomi yang berfungsi adalah: cara yang dikembangkan oleh manusia untuk mengubah maklumat dari persekitaran menjadi rancangan dan tindakan yang disasarkan. Tulisannya penting, dan menimbulkan kontroversi rasa yang berbeza. Tetapi kita tidak seharusnya memikirkannya. Saya sering bergantung pada bahasa (yang kadangkala tidak tepat) yang digunakan oleh orang yang saya bekerjasama. Maksud buku ini bukan dalam definisi, tetapi dalam perihal karya sebenar - bagaimana orang menggunakan sistem ini di dunia nyata, memperoleh pengalaman baru, meneliti, atau bahkan berperang dan membunuh. Apa yang sebenarnya berlaku? Sekiranya anda memperhatikan pengalaman hidup para pereka dan mereka yang menggunakan robot, maka semuanya dapat menjadi jelas. Sebagai contoh,perkataan "drone" menyembunyikan sifat robot manusia dan mengaitkan sisi negatifnya dengan idea-idea abstrak seperti "teknologi" atau "autonomi." Apabila kita memeriksa cara kerja pengendali Predator, kita mengetahui bahawa mereka tidak berperang dengan alat automatik - manusia masih mencipta, memprogram, dan mengendalikan mesin.
Terdapat perdebatan panjang mengenai etika dan polisi pembunuhan jarak jauh oleh drone dengan pengendali jarak jauh, atau kerahsiaan peranti sedemikian yang beroperasi di ruang udara dalaman AS. Tetapi perdebatan ini berkaitan dengan sifat, tempat dan masa keputusan manusia, bukan dengan mesin autonomi. Oleh yang demikian, persoalannya bukan untuk membezakan kenderaan berawak dan tanpa pemandu dan tidak menentang kenderaan yang dikendalikan manusia dengan kenderaan autonomi. Soalan utama buku ini adalah: "Di mana orang-orangnya?", "Siapa orang-orang ini?", "Apa yang mereka lakukan?", "Kapan mereka melakukannya?" Di manakah orangnya? (Di kapal … di udara … di dalam kereta … atau di pejabat?) Manipulasi pengendali Predator mirip dengan tindakan juruterbang pesawat - dia memantau keadaan sistem on-board, memahami maklumat,membuat keputusan dan mengambil langkah-langkah tertentu. Tetapi tubuhnya berada di tempat yang berbeza, mungkin beberapa ribu kilometer dari hasil kerjanya. Perbezaan ini penting. Tugasnya berbeza. Risikonya berbeza, dan begitu juga keseimbangan kekuatan.
Fikiran manusia mampu melakukan perjalanan ke tempat lain, negara lain, ke planet lain. Pengetahuan yang diperoleh melalui akal dan pancaindera berbeza dengan pengetahuan yang diperoleh melalui tubuh (tempat anda makan, tidur, berkomunikasi, membuang air besar). Kami memutuskan mana dari dua jalan untuk memperoleh pengetahuan yang harus diikuti bergantung pada keadaan tertentu, dan ini mempunyai akibatnya bagi mereka yang terlibat dalam proses tersebut. Siapakah mereka ini? (Juruterbang … jurutera … saintis … pekerja yang tidak terlatih … pengurus?) Ubah teknik, dan kemudian tugas dan intipati pakar yang mengusahakannya akan berubah. Sebenarnya, anda akan mengubah keseluruhan kontinjen orang yang mampu menguruskan sistem. Perlu bertahun-tahun belajar dan latihan untuk menjadi juruterbang, dan profesion ini berada di puncak hirarki personel. Adakah kawalan jauh pesawat memerlukan kemahiran dan sifat yang sama? Dari kelas sosial mana pekerja boleh direkrut?
Peningkatan automasi pada pesawat komersial sesuai dengan pengembangan demografi pilot di negara industri dan di seluruh dunia. Adakah penyelidik seseorang yang melakukan perjalanan dalam keadaan berbahaya, atau seseorang yang duduk di rumah di hadapan komputer? Adakah anda mesti menikmati kehidupan di kapal untuk menjadi ahli jelajah laut? Bolehkah anda meneroka Mars semasa anda berada di kerusi roda? Apa juruterbang, penyelidik dan saintis baru ini yang bekerja dengan akses jarak jauh? Apa yang mereka buat? (Terbang … kendali … memproses maklumat … berkomunikasi?) Usaha fizikal berubah menjadi memproses maklumat visual, dan kemudian menjadi tugas kognitif. Apa yang dulu memerlukan kekuatan sekarang memerlukan perhatian, kesabaran, dan reaksi cepat. Adakah juruterbang terus meletakkan tangannya pada tuas kawalan,bila dia terbang kapal terbang? Atau masukkan arahan utama ke komputer autopilot atau penerbangan untuk memprogramkan laluan penerbangan pesawat? Apakah peranan penilaian seseorang terhadap situasi tersebut? Apa peranan jurutera yang memprogram komputer on-board, atau juruteknik aeronautik yang memasangnya?
Bilakah mereka melakukannya? (Dalam masa nyata … dengan beberapa kelewatan … di muka, tahun atau bulan sebelum misi?) Penerbangan pesawat biasa berlaku dalam masa nyata: seseorang segera bertindak balas terhadap kejadian yang berlaku, dan tindakannya memberi kesan langsung. Dalam senario penerbangan ruang angkasa, peranti mungkin berada di Marikh (atau menghampiri asteroid yang jauh), dalam hal ini memerlukan masa 20 minit untuk peranti menerima perintah, dan 20 minit untuk operator melihat sesuatu telah berlaku. Atau kita boleh mengatakan bahawa kapal itu mendarat "dalam mod automatik", sedangkan pada kenyataannya kita memahami bahawa kapal itu mendarat di bawah kawalan pengaturcara yang meninggalkan petunjuk beberapa bulan atau tahun sebelum mendarat (walaupun di sini kita mungkin harus membuat penyesuaian pada konsepnya) "kawalan"). Mengendalikan sistem automatik boleh menyerupai berinteraksi dengan hantu. Soalan-soalan mudah ini menarik perhatian kita kepada penempatan semula dan penyesuaian semula.
Bentuk baru kehadiran dan aktiviti manusia tidak biasa dan tidak setara dengan yang lama - identiti budaya juruterbang yang mempertaruhkan nyawanya terbang di medan perang berbeza dengan orang yang mengendalikan kenderaan dari jauh dari stesen darat. Tetapi perubahan ini juga tidak dijangka - pengendali jarak jauh mungkin merasa lebih hadir di medan perang daripada juruterbang yang terbang tinggi di atasnya. Maklumat saintifik mengenai bulan dapat sama atau bahkan lebih lengkap ketika dikumpulkan oleh kenderaan yang dikendalikan dari jarak jauh, dan bukan oleh orang yang mendarat secara langsung di planet ini. Tetapi pengalaman budaya penerokaan bulan dalam kes ini sama sekali berbeza. Mari ganti idea kuno dengan gambar animasi kaya tentang bagaimana manusia sebenarnya mencipta dan mengawal robot dan sistem automatik di dunia nyata. Kisah-kisah di bawah ini adalah saintifik dan teknikal dan humanistik.
Kita akan melihat bahawa mesin yang digerakkan oleh manusia, jarak jauh dan autonomi membolehkan pergerakan dan reorientasi kehadiran dan tindakan manusia dalam masa dan ruang. Intipati buku ini merangkumi yang berikut: bukan penentangan sistem yang dikendalikan oleh manusia dan autonomi yang penting, melainkan persoalan - "Di manakah orang-orang itu?", "Siapa orang-orang ini?", "Apa yang mereka lakukan dan kapan?" Soalan terakhir, yang paling sukar adalah: "Bagaimana persepsi manusia berubah?", "Dan mengapa penting?"
