Kemajuan teknologi tidak berhenti. Selama 100 tahun yang lalu, umat manusia telah membuat langkah besar sehingga semua generasi terdahulu akan terkejut. Nampaknya ada banyak alasan untuk kegembiraan. Tetapi inilah hasilnya: para saintis bimbang kemajuannya terlalu cepat. Mari kita ketahui mengapa kecerdasan buatan, atau AI, menimbulkan kebimbangan kepada pembangun terkemuka.
Kemajuan yang bukan sahaja mengejutkan tetapi juga menakutkan
Sebilangan besar orang dapat menjalani seluruh hidup mereka dan bahkan tidak mengetahui sejauh mana dunia kita telah berubah. Untuk memahami sejauh mana kemanusiaan dengan perkembangan AI, fikirkan kapan kereta pertama kali dicipta.
Bayangkan Wild West atau Rusia, di mana orang menunggang kuda ke kiri dan kanan, tanpa lampu isyarat dan tali pinggang keledar. Langkah keselamatan jalan raya diambil kemudian - ketika banyak kemalangan mulai terjadi.
Hari ini, AI telah membangunkan kereta memandu sendiri yang dapat mengurangkan kemalangan jalan raya ke tahap minimum. Kereta hanya tahu berkomunikasi antara satu sama lain, membina jalan yang selamat dan bertindak balas terhadap halangan tiba-tiba yang menimbulkan situasi kecemasan di jalan raya.
Video promosi:
Walaupun begitu, orang terus risau akan kecerdasan buatan. Mereka bertanya kepada diri mereka sendiri: apa yang akan terjadi ketika teknologi mencapai bidang-bidang di mana pengambilan keputusan manusia diperlukan? Adakah AI dapat menggantikan sepenuhnya orang-orang yang bertanggungjawab untuk mengambil calon, melatih pekerja, mempromosikan syarikat?
Sebab pertama: akan robot menggantikan manusia
Sebab pertama para saintis bimbang tentang perkembangan kecerdasan buatan yang pesat adalah algoritma telah membuat kemajuan sedemikian sehingga mereka dapat mendiagnosis penyakit dan bahkan memutuskan siapa yang mendapat pinjaman dan siapa yang tidak.
Tetapi pendukung kemajuan ini hanya gembira, kerana membuat keputusan manusia kadang-kadang memerlukan keberanian, pidato dan pemahaman tentang psikologi manusia. Selalu ada sisi gelap di sini. Lagipun, bayangkan bagaimana rasanya memutuskan siapa yang harus dipersalahkan dan siapa yang akan dilepaskan lebih awal. Atau laporkan kematian saudara, memecat pekerja yang tidak cekap yang berada dalam keadaan hidup yang sukar.
Dalam dunia yang ideal, kita tidak perlu memikirkan sisi gelap. Mesin akan melakukan segalanya untuk kita, jika hanya kerana ia akan lebih pintar dan kurang berat sebelah daripada manusia.
Sebab dua: mesin boleh dimanipulasi
Robot Sophia berkata dalam wawancara: “Anda terlalu banyak membaca Elon Musk dan menonton filem Hollywood. Sekiranya anda akan baik kepada saya, saya akan baik kepada anda. Perlakukan saya seperti sistem I / O yang pintar."
Tetapi sejak pembangunan dimulakan oleh orang dan aplikasi langsung digunakan oleh mereka, data yang memasuki mesin dapat dimanipulasi.
Ketakutan saintis lain: Data AI mungkin salah. Ini amat berbahaya dalam bidang perubatan. AI hanya dapat mengelabui pesakit agar tidak membuat diagnosis yang salah, terutamanya jika doktor manusia atau hospital secara amnya telah mengubah data untuk kepentingan mereka sendiri. Itulah sebabnya pembangun harus bertanggungjawab terutamanya untuk keselamatan maklumat dan mengembangkan langkah-langkah perlindungan.
AI dan sifat bahasa manusia yang licik
Google telah bekerjasama dengan Jigsaw, yang menghadapi cabaran besar dalam mengembangkan kecerdasan buatan. Jurutera perisian Lucy Wasserman sedang mengusahakan perspektif pembelajaran mesin yang meramalkan "ketoksikan" bahasa. Tetapi apa maksudnya?
Maksud fungsi ini ialah robot akan menganalisis teks dari laman web dan forum Internet yang mengandungi konteks yang menyinggung perasaan, serta serangan terhadap orang itu, penghinaan atau pergolakan.
Ini adalah sebahagian daripada model pembelajaran mesin yang disebut rangkaian neural. Dia mempelajari kata-kata, ayat dan perenggan, dan belajar untuk meramalkan apa yang beracun dan apa, sebaliknya, mempunyai konteks positif.
Bahagian paling sukar mengenai ini adalah dengan mempertimbangkan semua nuansa. Seseorang dapat membaca ayat dan memahami dari konteks sama ada perkataan tertentu itu menyinggung perasaan. Wasserman memberikan contoh kata "homoseksual" dan bentuk kata, yang lebih merendahkan dan menyinggung perasaan.
Sebab ketiga: robot boleh berfikir secara sepihak
Ketakutan lain bagi pembangun terkemuka: kecerdasan buatan belum dapat menganalisis frasa dan ayat, jadi mungkin menganggap beberapa kata menyinggung perasaan dengan mengambil langkah-langkah "keras". Mesin mesti belajar membaca secara harfiah antara baris.
Pembangun melihat nilai dalam eksperimen sumber terbuka. Mereka fikir sangat penting jika manusia mahu mendapatkan robot yang adil.
Tetapi setakat ini tidak mungkin untuk memaksa kecerdasan buatan untuk menyesuaikan diri dengan dunia manusia. Masih banyak kerja yang perlu diselesaikan.
Robot itu mungkin tidak adil sungguh menakutkan. Jika tidak, bagaimana mereka dapat dipercayakan untuk menyelesaikan perselisihan dan konflik di masa depan?
Prinsip kecerdasan buatan masih cukup mudah dan menyerupai PC yang lebih baik. Contoh yang baik ialah pembantu suara seperti Alice dan Siri. Hari ini mereka bekerja seperti ini: "Oleh kerana kata berhenti dalam teks, maka itu pasti menyinggung perasaan."
Dan seharusnya seperti ini: “Kata-kata apa yang ada di sebelah penghinaan? Saya percaya bahawa makna ayat telah banyak berubah, walaupun ada sesuatu yang menyinggung perasaan."
Sebab Empat: Panduan Etika
AI mesti berpusat pada manusia dan dirancang sedemikian rupa sehingga terdapat pemahaman tentang etika dalam firmware-nya. Tetapi apa maksudnya?
- Pertama, etika didasarkan pada hak asasi, nilai sosial dan prinsip amal (kebaikan pada umumnya).
- Kedua, mesin tidak boleh merosakkan autonomi manusia, merasakan keadilan.
Ketakutan lain kepada pemaju: apabila kecerdasan buatan mencapai puncak perkembangannya dan tidak boleh bergantung pada sokongan orang, ia akan menentang manusia.
Semuanya bergantung pada pemaju. Mereka dapat mengarahkan karya kecerdasan buatan untuk memerangi jenayah. Contohnya, cari mereka yang menyebarkan pornografi kanak-kanak.
Penting untuk menetapkan ciri keselamatan sebelum AI keluar dari kawalan manusia. Dan ia akan keluar dengan jelas, kerana inilah intinya.
Robot mesti dekat dengan manusia
Dengan kata lain, jika seseorang akan mempercayai keputusan yang dibuat oleh mesin, ia mesti memenuhi kriteria manusia. Inilah sebabnya mengapa pembangun mesti memastikan bahawa setiap keputusan yang dibuat oleh algoritma adalah adil. Bagi para saintis, tujuannya bukanlah untuk mencipta bentuk kecerdasan alternatif, tetapi untuk membantu orang berkembang.
Pada akhirnya, kebanyakan orang bersetuju bahawa AI akan membawa dunia baru yang indah.
Sebab kelima: perang melawan kemanusiaan
Perkara terbesar yang membuat pemaju terjaga pada waktu malam adalah berusaha memahami kemungkinan dan kesan teknologi ini terhadap kesihatan, pendidikan dan perkhidmatan pelanggan. Apabila AI melampaui "projek" dan akhirnya dalam pengeluaran, maka ia akan memberi kesan sosial yang nyata.
Setiap pembangun percaya bahawa kita berada pada titik perubahan antara dunia manusia dan digital. Tetapi AI tidak dapat mengubah hidup kita sendiri. Orang mesti mengubah diri mereka terlebih dahulu untuk menyedari potensi kecerdasan sepenuhnya.
Tidak menghairankan bahawa manusia takut pada AI. Tetapi mereka tidak akan dapat memperbudak atau memusnahkan mereka yang mempunyai tujuan bersama dengan mereka - untuk membangun dan membuat kemajuan. Apabila orang menyedari bahawa mereka mesti berfikir bukan seperti binatang, tetapi seperti makhluk yang lebih tinggi, maka tidak akan ada robot yang takut.
Alisa Krasnova
