Kecerdasan buatan Amazon, yang dirancang untuk menyusun resume pencari kerja, menjadikan lelaki lebih tinggi daripada wanita. Secara khusus, dia menolak CV dengan kata "feminin" dan menawarkan untuk mempekerjakan calon yang menggunakan kata kerja maskulin khas dalam ucapan mereka, walaupun orang-orang ini tidak memiliki kemahiran yang diperlukan. Akibatnya, syarikat terpaksa menutup projek tersebut.
Kepintaran HR buatan
Pakar pembelajaran mesin Amazon mendapati bahawa kecerdasan buatan yang memproses resume calon jawatan di syarikat itu mendiskriminasi pencari kerja wanita, lapor Reuters. Ciri ini tidak sengaja dimasukkan ke dalam sistem - ini adalah hasil pembelajaran mesin.
Enjin penyisihan resume berasaskan kecerdasan buatan telah dikembangkan di Amazon sejak 2014 oleh pasukan 12 orang di Edinburgh. Sudah pada tahun 2015, syarikat ini menyedari bahawa sistem baru tidak mematuhi prinsip netraliti gender ketika menilai calon untuk jawatan pengembangan perisian dan kekosongan teknikal lain.
Tidak lama kemudian mereka menyedari alasannya: kenyataannya sistem ini dilatih mengenai resume yang dimasukkan oleh syarikat itu selama 10 tahun terakhir. Sebilangan besar resume ini dipegang oleh lelaki, yang secara umum menggambarkan keadaan dalam industri IT. Hasilnya, kecerdasan buatan Amazon mengetahui bahawa pencari kerja lelaki lebih disukai daripada wanita.
Penolakan linguistik
Video promosi:
Akibatnya, kecerdasan buatan mula membuang resume yang mengandungi kata "wanita" dalam ungkapan seperti "kapten kelab catur wanita." Mekanisme itu juga menurunkan nilai lulusan dua kolej wanita, tetapi sumber Reuters tidak menyatakan namanya. Semasa menilai resume, kepintaran buatan memberi mereka antara satu dan lima bintang - sangat serupa dengan bagaimana pembeli menilai produk di Amazon.
Sistem ini memperhatikan kata-kata lain juga. Pembangun telah mencipta 500 model komputer untuk tanggungjawab pekerjaan dan lokasi geografi yang berbeza. Setiap model dilatih untuk mengenali sekitar 50 ribu kata-kata isyarat yang terdapat dalam resume pemohon.
Perlu diperhatikan bahawa mekanisme itu mengabaikan kata-kata yang menunjukkan kemahiran yang sering dinyatakan dalam resume profesional IT, seperti kemampuan menulis pelbagai kod, dll. Sebaliknya, sistem yang dilacak, misalnya, kata kerja khas untuk ucapan lelaki dalam perihal diri calon, seperti "dipenuhi" (dieksekusi) atau "ditangkap", kerana mereka sering dilihat dalam resume lama yang dipelajari oleh mesin. Dengan pendekatan ini, diskriminasi jantina bukanlah satu-satunya masalah - mekanisme ini sering mengesyorkan orang yang tidak mempunyai kemahiran yang diperlukan untuk kedudukan tersebut.
Nasib lebih jauh dari projek ini
Amazon telah menyesuaikan sistem sehingga tidak lagi bertindak balas terhadap kata-kata isyarat. Namun, ini bukan jaminan bahawa mekanisme itu tidak akan mencari cara lain untuk mengenal pasti resume yang dimiliki oleh wanita. Pada awal tahun 2017, syarikat tersebut merasa kecewa dengan projek tersebut dan membubarkan pasukan. Sumber Reuters mengatakan bahawa pakar HR mengambil kira cadangan sistem itu tetapi tidak pernah bergantung sepenuhnya kepada mereka.
Salah satu sumber mengatakan bahawa projek itu ditutup. Yang lain berpendapat bahawa pasukan baru dibentuk di Edinburgh untuk terus mengembangkan mekanisme, tetapi kali ini dengan fokus pada ekuiti dan kemasukan. Sumber lain melaporkan bahawa versi enjin yang banyak diubahsuai sekarang digunakan untuk melakukan pekerjaan rutin, seperti membuang resume pendua dari pangkalan data.