"The Rise of the Machines", "The Terminator Returns" … Banyak fiksyen ilmiah dibina berdasarkan fakta bahawa komputer menjadi begitu pintar sehingga mereka memahami bahawa mereka akan menjadi lebih baik tanpa seseorang. Cerita dongeng? Cara melihat. Menjelang 2050, komputer rumah yang biasa akan dapat memproses seberapa banyak maklumat yang dikumpulkan oleh semua orang di bumi.
Tetapi 2050 dengan syarat mesin akan berkembang secara beransur-ansur. Ia tidak berfungsi seperti itu. Hubungan kami dengan dunia elektronik berkembang pesat. Sekali - tetikus dilekatkan pada kereta. Sekali - Internet muncul. Dulu - ada telefon pintar dengan tablet.
Terobosan seterusnya akan datang apabila komputer dapat memahami orang. Telefon pintar sudah mempunyai aplikasi seperti Siri dan Cortana yang boleh melakukan perbualan mudah dengan kami. Tetapi masalahnya adalah untuk komputer memahami, bukan apa yang kita katakan, tetapi apa yang kita maksudkan! Contoh paling mudah: ungkapan "Dia meninggalkan saya", yang dikatakan oleh wanita yang berlumuran air mata dan bos lelaki mempunyai makna yang sama sekali berbeza.
Oleh itu: sebaik sahaja mesin belajar mengenali nuansa pertuturan manusia, di satu pihak, tangan kita akan terikat dalam arti harfiah dan kiasan. Saya bercakap dengan komputer dan semuanya berfungsi. Sebaliknya, apakah kita tidak mendekati garis berbahaya, menghilangkan penghalang terakhir dalam komunikasi antara orang dan besi tanpa jiwa?
Saya telah lama ingin membincangkan hal ini dengan saintis terkenal, pengarah penyelidikan linguistik di ABBYY, ketua jabatan linguistik komputasi di Universiti Negeri Rusia untuk Kemanusiaan dan Institut Fizik dan Teknologi Moscow, Vladimir Selegey. Tetapi ketika saya memberitahunya ketakutan apokaliptik saya, dia mengerutkan kening.
Ya, fiksyen ilmiah penuh dengan ramalan gelap tentang bagaimana mesin yang dilatih manusia akan melakukannya tanpanya. Tetapi tidak jelas bagi saya mengapa peningkatan jumlah pengetahuan yang disertakan dalam program akan memprovokasi komputer untuk membuat keputusan tanpa meminta izin daripada seseorang?
Sebenarnya, masalahnya bukanlah bahawa komputer akan belajar melakukan tanpa orang, tetapi orang akan mahu melakukannya tanpa mereka sendiri ketika menyelesaikan masalah tertentu. Inilah Chernobyl …
Video promosi:
Dan apa kaitan Chernobyl dengannya?
- Reaktor nuklear adalah model fizikal yang sangat kompleks. Nampaknya semua parameter kawalan reaktor diketahui, semuanya mematuhi undang-undang fizikal yang ketat, dan pengambilan keputusan dapat sepenuhnya dipercayakan kepada komputer. Tetapi …
Pada tahun 1986, seminggu setelah kemalangan itu, saya menghadiri seminar mengenai penggunaan kecerdasan buatan dalam industri. Walaupun begitu, jelas bahawa dengan mempercayakan pengambilan keputusan ke komputer, kita berisiko serius. Adalah biasa untuk program mengandungi kesalahan. Malah satelit mempunyai gangguan perisian.
Maksudnya, seseorang lebih dipercayai daripada komputer, walaupun dia "berfikir" jauh lebih pantas?
- Seseorang, selain semua yang lain, mempunyai motivasi. Dia menyelesaikan masalahnya - pendidikan, prokreasi, kerjaya, dia tahu bagaimana merasakan …
Tetapi bolehkah beberapa pengaturcara licik menulis program yang akan mengajar mesin pencerobohan …
- Anda boleh cuba membuat, misalnya, robot tentera yang akan membuat keputusan dengan sendirinya, menganalisis apa yang dilihat dan didengarnya. Dan ia akan sangat berbahaya. Tetapi bukan kerana robot itu tiba-tiba mempunyai keinginan untuk memusnahkan, seperti yang ditulis oleh penulis fiksyen sains. Tetapi kerana kesalahan pengaturcara, pengabaian terhadap beberapa faktor boleh menyebabkan tingkah laku robot yang tidak dapat diramalkan.
Tetapi setakat ini kita jauh dari kemampuan membuat program pembelajaran kendiri yang mampu menjana pengetahuan yang sama sekali baru. Secara kasar, bergerak secara bebas dari jadual pendaraban ke kemampuan menyelesaikan persamaan kompleks.
Pada separuh kedua abad kedua puluh, ramalan futuristik dalam bidang sains sangat popular. Segala-galanya mengenai kecerdasan komputer masuk ke dalam susu. Tidak ada yang meramalkan Internet, kebebasan luar biasa untuk mengakses maklumat, telefon bimbit. Tetapi semua orang bercakap tentang berfikir komputer.
Sebagai contoh, pada akhir tahun 60-an, sistem catur pertama KAISA kami berjaya dalam Kejohanan Dunia di kalangan komputer. Diyakini bahawa untuk mesin mengalahkan seseorang, perlu mensimulasikan algoritma permainan manusia. Untuk meletakkan akal, akal, intuisi yang sangat misterius yang membuat pemain catur membuat keputusan yang tepat.
Hari ini komputer mengalahkan seseorang. Tetapi dia tidak pernah diajar intuisi. Sejuta permainan yang dimainkan, semua pengalaman permainan, semua keputusan yang pernah dibuat oleh pemain catur telah dimuat ke dalam ingatannya. Dan mereka mengajarkan mereka untuk menggunakan ini ketika memilih rancangan permainan yang optimum, memberikan mereka dengan cepat penghitungan dan penilaian pilihan. Komputer mengalahkan juara dunia, tetapi tidak mendapat kesenangan daripadanya. Semuanya berbeza sama sekali dengan orang.
Tetapi anda adalah salah satu dari mereka yang hanya mengajar komputer untuk "menghidupkan kepala"
- Kami hanya berusaha mengajar program untuk "memahami" teks sehingga mereka dapat mengekstrak maklumat dari mereka, mengumpulkannya dan menggeneralisasikannya. Supaya orang mendapat pengetahuan yang disaring, dipilih dari berbilion sumber. Ini sangat sukar, kerana seseorang itu sendiri tidak tahu betul bagaimana kemampuan bahasanya disusun, di mana pemahamannya terhadap orang lain berdasarkan.
Terjemahan mesin statistik kini popular. Komputer sama sekali tidak memahami maksud teks yang diterjemahkan, ia hanya mengetahui cara mencari varian yang paling mungkin untuk menerjemahkan serpihan kecil (dalam beberapa perkataan), menganalisis sejumlah besar terjemahan manusia yang tersimpan dalam ingatannya. Secara umum, teksnya jelas. Tetapi akan menjadi tidak bijaksana untuk membuat keputusan yang bertanggungjawab berdasarkan terjemahan seperti itu.
Baiklah, bolehkah komputer menerjemahkan arahan saya?
- Arahan? Adakah ia berbahaya.
- Ya ke peti sejuk sederhana!
- Malah ke peti sejuk! Saya ingin program kami diterjemahkan, cuba memahami teks, memilih antara pilihan berdasarkan pengetahuan, dan bukan hanya kerana surat-menyurat ini paling sering dijumpai di pangkalan data kami.
Baiklah, katakan anda menyelesaikan masalah dan membuat sistem berkat komputer yang akan belajar memahami nuansa ucapan kita dan bahkan menerjemahkannya ke bahasa lain dengan tepat. Dan kemudian bahaya baru mengancam orang - tidak perlu berfikir. Tidak perlu melatih memori, otak. Perlu maklumat - sila, Wikipedia. Anda perlu bercakap dengan orang asing - penterjemah …
- Semakin tinggi tahap kecerdasan dan pengetahuan seseorang, semakin berguna baginya "pembantu pintar" seterusnya. Dan semakin rendah, semakin banyak peluang yang muncul untuk tidak berfikir sama sekali. Teknologi komputer membawa kepada polarisasi masyarakat. Secara kasar, kedatangan kalkulator tidak menyebabkan kemerosotan ahli matematik. Tetapi di sebilangan pelajar sekolah, jelas, terdapat penurunan tahap kemampuan yang sudah rendah.
- Anda tahu, bagi saya, petunjuk serius penurunan tahap pendidikan adalah bilangan orang yang menulis buta huruf atau tidak dapat meluahkan fikiran dan perasaan mereka tanpa menggunakan jodoh
- Ya, orang mula kurang cekap menulis. Hanya kerana, secara umum, kurang membaca teks yang diedit dan lebih banyak sumber seperti itu di mana ejaannya sangat kabur. Adakah ini membuat orang bodoh? Mungkin tidak.
Adakah anda melihat hubungan antara fakta bahawa seseorang secara buta huruf meluahkan pemikirannya dalam bahasa ibunda, dan fakta bahawa dia telah menjadi bodoh?
Saya tidak akan pergi sejauh itu. Walaupun jelas: kerana kanak-kanak mula kurang membaca, beberapa masalah timbul dengan pemindahan pengetahuan dan budaya antara generasi. Ini adalah masalah. Hari ini kita melihat bahawa seorang pelajar sekolah moden dengan tahap gred yang sama seperti 30 tahun yang lalu mengetahui sastera lebih buruk.
Ini! …
… Tetapi di sisi lain, dia tahu banyak perkara lain yang lebih baik, yang tidak ada yang menyangka mereka dapat tahu.
Adakah ini proses semula jadi?
- Ya. Lebih-lebih lagi, untuk pertama kalinya dalam sejarah umat manusia, pengetahuan dapat dipindahkan bukan dari para penatua ke yang lebih muda, seperti yang telah terjadi selama berabad-abad. Terdapat pertukaran pengetahuan dari yang lebih muda kepada para penatua, yang sebelumnya sama sekali tidak menjadi ciri budaya manusia. Seorang anak mengajar ayah atau ibu bekerja di komputer, dengan telefon bimbit, adalah sumber pelbagai pengetahuan untuk ibu bapanya. Lebih-lebih lagi kanak-kanak mengembara ke seluruh dunia. Selalunya mereka adalah sumber pengetahuan geografi dan budaya.
Dengar, tetapi di sini semuanya bermula dengan komputer. Mereka membebaskan orang walaupun dari keperluan menghafal peraturan asas tatabahasa
- Baru pada awal 90-an, saya bekerja dalam pasukan yang mengembangkan salah satu sistem pemeriksa ejaan pertama untuk bahasa Rusia. Adakah bermanfaat atau berbahaya untuk melakukan ini? Sangat berguna dari sudut pandangan saya. Sistem ini membolehkan pembuatan dokumen lebih cepat. Dan kemudian semuanya bergantung pada tahap tanggungjawab orang tersebut. Siapa kata bahawa selepas kereta tidak perlu melakukan pemeriksaan sama sekali? Sistem hanya membantu menjadikannya lebih berkesan.
Tetapi kami mempercayai komputer
- Ini hanya bermaksud bahawa orang yang membuat program ini tidak memberitahu anda bahawa terdapat banyak fenomena yang tidak dapat disahkan oleh mesin. Rundingan, misalnya.
Sayangnya, teknologi baru sering menyebabkan hilangnya kemahiran tradisional. Saya telah melakukan pembaikan di apartmen. Saya mahu memasang tingkap kayu, yang dipasang sebelumnya. Tetapi ini menjadi mustahil. Semua memasang tingkap berlapis dua. Orang, sayangnya, berhenti melakukan banyak perkara dengan tangan mereka. Apa yang perlu dilakukan, begitulah cara hidup berjalan. Malangnya.
Jadi anda seorang konformis?
- Tidak. Saya percaya bahawa melakukan perkara yang benar-benar berbahaya adalah tidak baik. Tetapi apabila anda mempunyai keuntungan dan kerugian, anda perlu menilai risikonya … Sekiranya anda membuat dadah, anda tidak berfikir bahawa bukan hanya orang baik, tetapi juga orang jahat akan bertahan akibat penggunaannya.
Dalam kes kami, serentak dengan perkembangan teknologi, perlu melatih mereka yang menggunakannya. Akibat negatif dari teknologi baru tercermin terutamanya pada mereka yang tidak melakukan pekerjaan mereka dengan baik di peringkat teknologi mana pun.
Ambil ubat, sebagai contoh. Kami ingin membantu doktor membuat keputusan, kami membuat sistem pakar komputer berdasarkan analisis sebilangan besar diagnosis yang boleh dipercayai yang dibuat oleh doktor terbaik. Ini memberi peluang kepada seorang profesional untuk beralih ke pengetahuan yang lebih besar daripada yang dia sendiri miliki. Tetapi keputusan terakhir adalah miliknya, bukan komputer! Bagi doktor yang buruk, semuanya berbeza - dia akan mempercayai apa yang tidak dapat diperiksa dengan pasti. Tetapi rata-rata, dengan munculnya teknologi seperti itu, menurut saya ubat masih semakin baik, bukan lebih buruk.
Baiklah, kami yakin bahawa akan ada lebih banyak keuntungan daripada bahaya dari sistem intelektual memahami seseorang dengan komputer. Tetapi bilakah dia akan muncul?
- Ini adalah tugas yang sangat sukar yang tidak dapat diselesaikan dengan segera. Adalah perlu untuk mengajar pengetahuan komputer mengenai bahasa dan pengetahuan tentang dunia, kaedah inferensi dan perbandingan nilai. Sesuatu yang kita tahu lakukan sekarang, sesuatu akan memakan masa bertahun-tahun. Sebagai contoh, kita memerlukan data yang boleh dipercayai mengenai penggunaan bahasa, dengan mengambil kira perbezaan individu dan sosial. Dan perbezaan ini sangat ketara. Sebagai contoh, kami membuat projek khas yang didedikasikan untuk perbezaan wilayah dalam bahasa Rusia. Mengumpulkan kamus, di mana hampir 10 ribu perkataan, yang menjadi kebiasaan bagi penduduk hanya wilayah tertentu di negara kita
Siapakah kita?
Ini adalah projek bersama yang disebut Languages of Russian Cities, yang melibatkan pakar ABBYY, saintis linguistik, peminat dari pelbagai bahagian Rusia dan negara-negara berbahasa Rusia. Kami menganalisis bahasa media daerah, jaringan sosial, keputusan, dan keputusan pihak berkuasa tempatan. Dan ini hanya sebahagian kecil dari pengetahuan yang perlu diajar kepada komputer!
Apakah perbezaan mendasar antara pendekatan anda terhadap terjemahan dan sistem yang digunakan oleh Google, misalnya?
- Sistem statistik tidak membina struktur linguistik. Mereka mencari padanan terjemahan untuk pecahan kecil 5-7 perkataan. Tetapi bahasanya diatur sedemikian rupa sehingga sering kali kata-kata yang berkaitan terletak lebih jauh, dan jika hubungan ini tidak diambil kira, kesalahan akan timbul. Tetapi selalunya butiran tersebut penting dalam terjemahan, pengabaian yang dapat mengubah makna sepenuhnya. Untuk mengambil kira semua perkara, perlu untuk mengenal pasti semasa analisis keseluruhan sistem hubungan linguistik antara kata-kata, apa yang disebut struktur ayat. Kami tidak menerjemahkan potongan ayat dari bahasa ke bahasa, kami cuba mengenal pasti struktur semantik ayat, dan kemudian mensintesis struktur ini dengan menggunakan bahasa lain.
Tetapi struktur semantik ini digunakan bukan sahaja dan tidak begitu banyak untuk tujuan terjemahan mesin. Mereka juga diperlukan untuk menyelesaikan masalah pencarian pintar dan analisis maklumat dengan berkesan, yang lebih penting hari ini untuk ABBYY sebagai syarikat komersial. Sebagai contoh, penyelesaian pertama yang dikeluarkan baru-baru ini untuk pasaran korporat didasarkan pada teknologi ini: ia hanya membolehkan anda mencari dan menganalisis data dalam aliran maklumat yang banyak disimpan dalam organisasi.
Dan bahasa mana, dari sudut pandangan anda, lebih sukar difahami?
- Secara umum diterima bahawa yang lebih sukar adalah bahasa-bahasa di mana anda perlu mempelajari lebih banyak peraturan. Tetapi dalam kes pemahaman komputer, ini tidak berlaku.
Sesuatu yang sukar bagi seseorang, contohnya, sistem infleksi yang kaya dalam bahasa Rusia atau Lithuania, mempermudah tugas komputer pada tahap analisis tertentu.
Sebagai contoh, bahasa Cina sangat sukar kerana tidak ada morfologi di dalamnya, dan oleh itu banyaknya kekaburan yang dihadapi komputer. Oleh itu, untuk analisis komputer mengenai bahasa Cina, sangat penting untuk menggunakan pengetahuan tentang dunia, lebih penting daripada, misalnya, ketika menganalisis bahasa dengan morfologi yang dikembangkan.
Kami berjaya bekerjasama dengan Rusia, Jerman, Inggeris, Perancis, Sepanyol, Cina. Analisis bahasa terbahagi kepada beberapa peringkat. Beberapa tahap mempunyai kekhususan, kesukaran untuk satu bahasa, beberapa untuk yang lain. Tetapi pada dasarnya, teknologi yang kita gunakan dapat digunakan untuk semua bahasa.
Pada pendapat anda, bilakah hari yang akan tiba ketika kita dapat menerima terjemahan yang cepat dan mudah difahami di komputer selari dengan perbualan kita. Katakan kita bercakap sekarang, dan segera dapatkan transkrip perbualan kita dalam bahasa Sepanyol?
- Tidak lama lagi. Saya tidak fikir bahawa dalam dua tahun Tetapi … Apa yang diperlukan untuk menyelesaikan masalah ini? Kita perlu memperbaiki sistem analisis pertuturan kita. Kami belum dapat melakukan perbualan spontan, memisahkannya dari kebisingan dan mendapatkan teks yang diinginkan. Dan ada kemajuan ke arah ini setiap tahun.
Tetapi semua akan berlaku perkara yang tidak dapat ditafsirkan oleh mesin dengan jelas. Dan di sini ketepatan pemahaman dan terjemahan akan bergantung pada ketersediaan sistem pengetahuan mengenai dunia, pada mekanisme inferensi logik.
Bagaimanapun, bahaya kepercayaan sepenuhnya terhadap program seperti itu akan tetap ada. Adalah suatu kesalahan untuk berfikir bahawa, katakanlah, dalam lima tahun, anda boleh menentukan surat kepada komputer, ia akan menerjemahkannya, menghantarnya kepada rakan perniagaan anda, dan semuanya akan baik-baik saja. Tidak ada yang menjamin bahawa mesin tidak akan ketinggalan "tidak" di suatu tempat atau melakukan kesalahan lain, setelah itu hubungan perniagaan anda dapat dianggap lengkap.
Maksudnya, seseorang sebagai pengawal masih boleh?
- Sudah tentu. Mempercayai teknologi secara membuta tuli adalah berbahaya.
