Kajian oleh saintis dari Massachusetts Institute of Technology telah mendedahkan perincian proses analisis data oleh kecerdasan buatan, yang sering dipandu oleh stereotaip seksis dan rasis dalam membuat keputusan. Beberapa sistem yang mengambil bahagian dalam eksperimen menunjukkan kerentanan terhadap prasangka manusia.
Akhbar Britain "The Daily Mail" menulis bahawa setelah menerima hasil kajian itu, pasukan saintis bertekad untuk memprogram semula kecerdasan buatan, menghilangkan masalah sebelumnya. Menurut Irene Chen, yang bekerja di Massachusetts Institute of Technology, saintis komputer cenderung membuat kesimpulan bahawa satu-satunya cara untuk menghilangkan unsur rasisme dan seksisme dalam algoritma kecerdasan buatan adalah dengan memperbaiki kod perisian. Kualiti algoritma berkadar langsung dengan data yang mereka jalankan. Penyelidikan oleh Chen dengan David Sontag dan Fredrik D. Johannson menunjukkan bahawa lebih banyak data yang ada dapat mengubah sesuatu menjadi lebih baik.
Dalam satu eksperimen, pasukan melihat sistem yang meramalkan pendapatan seseorang berdasarkan maklumat yang ada. Analisis menunjukkan bahawa dalam 50% kes, algoritma cenderung untuk meramalkan bahawa pendapatan seorang wanita akan rata-rata lebih kecil daripada seorang lelaki. Dengan meningkatkan jumlah data yang ada 10 kali, para saintis mendapati bahawa faktor kesalahan tersebut menurun sebanyak 40%.
Lebih-lebih lagi, dalam kajian sistem yang digunakan di hospital dan meramalkan kelangsungan hidup pesakit yang menjalani pembedahan yang teruk, ketepatan ramalan jauh lebih rendah untuk perlumbaan Mongoloid daripada untuk Kaukasia dan Negroid. Walau bagaimanapun, saintis berpendapat bahawa penggunaan teknik analisis lanjutan dapat mengurangkan ketepatan ramalan dengan ketara bagi pesakit yang tidak tergolong dalam bangsa Mongoloid. Ini menunjukkan bahawa lebih banyak data yang tersedia mungkin tidak selalu membetulkan kesalahan algoritma. Sebaliknya, para saintis harus menerima lebih banyak maklumat mengenai kumpulan yang didiskriminasi.
Kaedah baru menimbulkan persoalan lain bagi penyelidik pembelajaran mesin mengenai bagaimana menganalisis data dengan cekap tanpa adanya diskriminasi yang ada.
Bagaimana pembelajaran mesin berfungsi dalam sistem bertenaga AI?
Sistem kecerdasan buatan didasarkan pada rangkaian saraf tiruan (ANN), yang memperkirakan teknik penyimpanan dan pembelajaran maklumat yang digunakan oleh otak manusia ke sistem mekanikal. ANN melatih mencari corak dalam sumber maklumat yang ada, termasuk ucapan, teks, dan gambar. Meningkatkan ketepatan analisis data adalah salah satu prasyarat asas yang mendahului perkembangan terkini kecerdasan buatan.
Kecerdasan buatan "Normal" menggunakan data input untuk memberitahu algoritma mengenai subjek analisis, sambil beroperasi dengan sejumlah besar maklumat.
Video promosi:
Aplikasi praktik pembelajaran mesin termasuk perkhidmatan terjemahan Google, pengecaman wajah dari foto Facebook, dan penapis di Snapchat yang mengimbas wajah sebelum menggunakan kesan visual dalam talian.
Proses kemasukan data sering memakan masa dan biasanya dibatasi oleh aliran maklumat mengenai satu aspek objek yang dikaji. Jenis baru ANN - rangkaian neural musuh generatif - menentang keupayaan dua robot yang berbeza dengan kecerdasan buatan sekaligus, memprovokasi sistem yang kurang cerdas untuk belajar dengan mengorbankan yang kedua tanpa penyertaan manusia. Teknik ini secara dramatik meningkatkan kecekapan dan kepantasan pembelajaran mesin sambil meningkatkan kualiti analisis data.
Oliy Kurilov
