Para saintis dan pengaturcara telah berhenti memahami bagaimana kecerdasan buatan membuat keputusan. Masalah ini diumumkan oleh beberapa pakar dalam persidangan AI utama - Sistem Pemprosesan Maklumat Neural - yang diadakan di Long Beach (California).
Pakar yang ditemu ramah oleh Quartz mengatakan bahawa mereka perlu bertindak sebelum sistem menjadi terlalu kompleks.
"Kami tidak mahu mengambil keputusan AI dengan pasti tanpa memahami logiknya," kata Jason Yosinski dari Uber. "Agar masyarakat dapat menerima model pembelajaran mesin, kita perlu mengetahui bagaimana AI sampai pada kesimpulan tertentu."
Masalah yang disebut oleh banyak pakar sebagai "kotak hitam" sangat serius. Pengalaman sebelumnya menunjukkan bahawa AI mempunyai kecenderungan untuk membuat keputusan berat sebelah dan membuat analogi di mana mereka tidak seharusnya. Oleh kerana rangkaian saraf hari ini secara beransur-ansur menyusup ke dalam penguatkuasaan undang-undang, sistem penjagaan kesihatan, penyelidikan saintifik, dan algoritma yang menentukan apa yang anda lihat pada suapan berita Facebook anda, kesalahan AI boleh menjadi sangat mahal.
Sebagai contoh, Kiri Wagstaff, pakar AI di Jet Propolusion Lab (NASA), mengutip misi ke Marikh. Peranti terletak 200 juta batu dari Bumi dan berharga ratusan juta dolar, jadi sebarang kesalahan dalam kerja AI tidak dapat diterima.
Orang perlu tahu apa yang dilakukan AI dan mengapa. Jika tidak, bagaimana mereka mempercayainya untuk mengawal peralatan yang mahal?”Kata Wagstaff.
Pada masa ini, saintis sedang mengusahakan algoritma yang menyusun gambar yang diambil oleh pelbagai kapal angkasa NASA. Oleh kerana jumlah gambar berjuta-juta, komputer membolehkan anda menyusun dan menyorot gambar yang paling menarik tanpa menghabiskan banyak masa untuk proses ini. Masalahnya, bagaimanapun, terletak pada kenyataan bahawa selalunya hanya AI sahaja yang mengetahui mengapa gambar tertentu yang dipilihnya tidak biasa.
Oleh itu, menyimpulkan Wagstaff, jika terdapat ralat di dalam algoritma ini, suatu hari ia mungkin akan kehilangan maklumat yang sangat penting.
Video promosi:
"Pada dasarnya, komputer memberi anda gambar dan berkata, 'Lihat, ini menarik.' Tetapi anda tidak selalu dapat memahami mengapa ia menarik: kerana warna, bentuk objek atau lokasinya di ruang angkasa - anda mungkin tidak tahu ini, "kata saintis itu.
Hannah Wallach, seorang penyelidik kanan di Microsoft, bersetuju dengan kesimpulan rakan-rakannya.
Apabila pembelajaran mesin menjadi semakin meluas dan masalahnya meningkat, kita tidak lagi dapat melihat sistem ini sebagai kotak hitam. Kita perlu memahami apa yang berlaku di dalam diri mereka dan apa yang mereka lakukan,”kata penyelidik itu.
Saintis bernasib baik berusaha mencari kaedah untuk memahami logik kecerdasan buatan. Oleh itu, penyelidik Google Mitra Raghu menyampaikan laporan yang menerangkan proses mengesan tindakan "neuron" individu dari rangkaian saraf. Menganalisis berjuta-juta operasi, dia dapat mengetahui "neuron" buatan mana yang berfokus pada kesalahpahaman, dan mematikannya. Ini membuktikan bahawa menterjemahkan karya rangkaian neural ke dalam bentuk yang mudah difahami oleh manusia bukanlah suatu tugas yang mustahil.
Pilihan lain untuk menyelesaikan masalah tersebut adalah dengan kerap menguji kemahiran yang dikembangkan oleh kecerdasan buatan.
"Seperti guru sekolah meminta anak-anak untuk menceritakan semula dengan kata-kata mereka sendiri apa yang mereka fahami dari penjelasan guru," kata Wagstaff.
Yang dikatakan, pentingnya memahami dalaman algoritma bukan hanya untuk mengelakkan penipu hipotetis jatuh dari batu Martian; menyedari apa kegagalannya, anda dapat menjadikan sistem yang ada menjadi lebih baik.
"Sekiranya sistem anda tidak berfungsi dan anda tidak tahu mengapa, maka sangat sukar untuk melakukan sesuatu," kata Yosinski. "Sekiranya anda tahu apa yang berlaku, maka keadaan selalu dapat diperbaiki."
Bahan terpakai dari laman web hightech.fm
