Idea bahawa kecerdasan buatan pasti akan membawa kita ke senario di mana mesin memberontak terhadap manusia cukup popular. Kecerdasan buatan nampaknya merupakan ancaman terbesar, dan kisah-kisah hebat yang menurutnya tidak akan kita perlukan dalam dunia yang dimiliki oleh teknologi tidak pernah kehilangan popularitinya.
Adakah ia tidak dapat dielakkan?
Gambaran sastera dan sinematik sistem komputer pintar dari tahun 1960-an telah membantu membentuk dan meringkaskan harapan kita untuk masa depan ketika kita memulakan perjalanan mencipta kecerdasan mesin yang melebihi kecerdasan manusia. AI jelas telah melampaui manusia dalam tugas tertentu yang memerlukan pengiraan yang kompleks, tetapi masih ketinggalan dalam sejumlah kemampuan lain. Bagaimana untuk meningkatkan kekuatan alat ini secara serentak dan mengekalkan kedudukan ekonomi kita di atasnya.
Memandangkan kecerdasan buatan telah dimainkan dan akan terus memainkan peranan besar di masa depan kita, adalah mustahak untuk meneroka kemungkinan kita wujud bersama dengan teknologi kompleks ini.
Kevin Abosch, pengasas Kwikdesk, sebuah syarikat pemprosesan data dan kecerdasan buatan, berkongsi pendapatnya mengenai perkara ini. Dia percaya bahawa kecerdasan buatan harus cepat, tidak mencolok, boleh dipercayai, celik dan beretika. Ya, beretika.
Kerangka etika
Video promosi:
Konsep rangkaian saraf tiruan, dimodelkan berdasarkan rangkaian saraf biologi, bukanlah perkara baru. Unit daya pengkomputeran, yang disebut neuron, saling terhubung untuk membentuk rangkaian. Setiap neuron menggunakan algoritma pembelajaran yang canggih pada input, sebelum mengirimkan data ke neuron lain, hingga neuron pada output diaktifkan dan membuka kemungkinan untuk membaca. Sistem pakar bergantung pada orang untuk "mengajar" sistem, menanam benih pengetahuan. Enjin logik mencari padanan, membuat pilihan, menetapkan peraturan jika-ini-kemudian-kemudian ke pangkalan pengetahuan. Dalam proses ini, pengetahuan baru ditambahkan ke pangkalan pengetahuan. Rangkaian neural yang tulen belajar dalam proses memperoleh pengalaman tidak linear, tidak mempunyai masalah menyemai pengetahuan oleh seorang pakar. Rangkaian hibrid telah terbuktiyang meningkatkan keupayaan pembelajaran mesin.
Sekarang mari kita lihat masalah etika sistem sedemikian. Lebih jauh dari orang pertama.
"Kod buruk" berbanding kod yang baik
Penulis menggunakan kata-kata untuk melibatkan pembaca dalam dunia fiksyen, dan melakukannya dengan cara yang berbeza, tetapi penulis hebat melakukannya dengan sangat anggun. Seorang jurutera perisian menulis baris kod yang memudahkan pemprosesan dan pergerakan data. Dia juga dapat memilih dari sejumlah pilihan dengan cara yang berbeza, tetapi pengekod yang anggun adalah penggemar sains komputer. Pengekod kemajuan memfokuskan pada bagaimana merangkum seberapa banyak dan lebih baik yang mungkin dalam kod pendek dan kemas. Kod berlebihan disimpan minimum. Kod hebat juga membuka tingkap untuk penambahan masa depan. Jurutera lain boleh menambah kod dengan keanggunan yang ada, dan produk itu berkembang dengan lancar.
Sebarang produk buatan manusia adalah berdasarkan niat. Perkara-perkara yang dibuat oleh orang-orang tepu dengan niat, dan pada satu tahap atau yang lain adalah pembawa sifat pencipta. Sebilangan orang merasa sukar untuk membayangkan benda mati seperti ini. Tetapi ramai yang bersetuju dengan ini. Tenaga niat telah wujud selama ribuan tahun, menyatukan, memecah belah, menyatukan, mengubah masyarakat. Tidak boleh dipandang rendah juga kekuatan bahasa. Jangan lupa bahawa baris kod ditulis dalam bahasa pengaturcaraan tertentu. Oleh itu, saya yakin bahawa kod yang menjadi perisian yang digunakan pada komputer atau peranti mudah alih sangat "hidup".
Tanpa mempertimbangkan kebijaksanaan dan kerohanian dalam konteks sains komputer dan kemungkinan kesan kecerdasan buatan, kita masih dapat melihat kod statik sebagai satu unit yang berpotensi untuk "berbuat baik" atau "melakukan kejahatan." Keluaran ini hanya terdapat dalam proses menggunakan aplikasi oleh orang. Ini adalah pilihan yang jelas yang dibuat oleh orang-orang yang mempengaruhi sifat aplikasi. Mereka dapat dilihat dalam sistem lokal, menentukan kesan positif atau negatif pada sistem itu, atau berdasarkan sekumpulan standard yang telah ditentukan. Namun, sama seperti wartawan tidak 100% tidak berpihak dalam proses menulis artikel, jadi seorang jurutera dengan rela atau tidak sengaja menambahkan sifat niatnya pada kod tersebut. Sebilangan mungkin berpendapat bahawa menulis kod adalah proses logik, dan logik sebenar tidak memberi ruang kepada alam.
Tetapi saya yakin bahawa pada saat anda membuat peraturan, sekatan kod, atau semua kod tersebut, semuanya dijiwai dengan unsur fitrah manusia. Dengan setiap peraturan tambahan, penembusan spesies semakin mendalam. Semakin kompleks kodnya, semakin banyak sifat ini di dalamnya. Oleh itu timbul persoalan: "Bolehkah sifat kod itu baik atau jahat?"
Jelas sekali, virus yang dijangkiti oleh penggodam yang merosakkan pertahanan komputer anda dan merosakkan kekacauan dalam hidup anda dipenuhi dengan sifat jahat. Tetapi bagaimana dengan virus yang diciptakan oleh orang baik untuk menyusup ke komputer organisasi pengganas untuk mencegah serangan pengganas? Apakah sifatnya? Secara teknikalnya bisa serupa dengan rakan sejawatnya yang jahat, hanya digunakan untuk tujuan "baik". Jadi sifatnya baik? Ini adalah keseluruhan paradoks etika perisian hasad. Tetapi kita tidak dapat mengabaikannya, memikirkan kod "jahat".
Pada pendapat saya, ada kod yang secara semula jadi cenderung ke arah "kejahatan" dan ada kod yang secara semula jadi berat sebelah terhadap muhibah. Ini lebih penting dalam konteks komputer luar talian.
Di Kwikdesk, kami sedang mengembangkan kerangka dan protokol AI berdasarkan reka bentuk hibrid sistem saraf / rangkaian pakar saya, yang paling menyerupai model biologi. Neuron memperlihatkan diri mereka sebagai modul I / O dan peranti maya (dalam arti, agen autonomi) yang dihubungkan oleh "akson", saluran data yang disulitkan yang selamat dan terpisah. Data ini didekripsi kerana memasuki neuron dan setelah proses tertentu dienkripsi sebelum dihantar ke neuron berikutnya. Sebelum neuron dapat berkomunikasi antara satu sama lain melalui akson, pertukaran kunci antara peserta dan saluran mesti berlaku.
Saya percaya bahawa keselamatan dan pemisahan harus dibina ke dalam rangkaian seperti itu dari tahap terendah. Superstruktur mencerminkan kualiti komponen terkecil mereka, jadi apa-apa yang lebih kecil daripada blok bangunan yang selamat akan mengakibatkan operasi keseluruhan saluran yang tidak selamat. Atas sebab ini, data mesti dilindungi secara tempatan dan didekripsi semasa dipindahkan ke dalam negara.
Pelaksanaan dan jaminan
Kualiti hidup kita bersama-sama dengan mesin yang semakin pintar dan cerdas dapat difahami, dan saya yakin bahawa kita mesti mengambil tindakan untuk memastikan masa depan yang sihat untuk generasi yang akan datang. Ancaman terhadap mesin pintar berpotensi beragam, tetapi dapat dibahagikan kepada kategori berikut:
Tempahan. Di tempat kerja, orang akan diganti dengan mesin. Pergeseran ini telah berlangsung selama beberapa dekad dan hanya akan dipercepat. Pendidikan yang mencukupi diperlukan untuk mempersiapkan orang untuk masa depan di mana ratusan juta pekerjaan tradisional akan berhenti wujud. Ia rumit.
Keselamatan. Kami bergantung sepenuhnya pada mesin dan akan terus bergantung. Oleh kerana kita semakin mempercayai mesin ketika kita bergerak dari kawasan selamat ke kawasan bahaya yang berpotensi, kita mungkin menghadapi risiko kesalahan mesin atau kod berbahaya. Fikirkan tentang pengangkutan, sebagai contoh.
Kesihatan. Peranti diagnostik peribadi dan data perubatan rangkaian. AI akan terus berkembang dalam perubatan pencegahan dan analisis data genetik sumber. Sekali lagi, kita mesti mempunyai jaminan bahawa mesin ini tidak akan melakukan penindasan berbahaya atau membahayakan kita dengan cara apa pun.
Takdir. AI meramalkan dengan peningkatan ketepatan ke mana anda akan pergi dan apa yang akan anda lakukan. Ketika kawasan ini berkembang, dia akan mengetahui keputusan apa yang akan kita buat, ke mana kita akan pergi minggu depan, produk apa yang akan kita beli, atau bahkan ketika kita mati. Adakah kita mahu orang lain mempunyai akses ke data ini?
Pengetahuan. Mesin de facto mengumpulkan pengetahuan. Tetapi jika mereka memperoleh pengetahuan lebih cepat daripada manusia yang dapat mengujinya, bagaimana kita dapat mempercayai integritasnya?
Sebagai kesimpulan, saya ingin memperhatikan bahawa pendekatan berwaspada dan bertanggungjawab terhadap AI untuk mengurangkan kemungkinan masalah dalam ledakan supernova teknologi adalah cara kita. Kita sama ada akan menjinakkan potensi AI dan berdoa agar ia hanya memberikan yang terbaik untuk manusia, atau kita akan memanfaatkan potensi yang ada, yang akan mencerminkan yang terburuk dalam diri kita.
Ilya Khel
