Satu kajian baru menunjukkan bahawa menunjukkan prasangka terhadap orang lain tidak memerlukan kecerdasan khas dan dapat berkembang dengan mudah dalam mesin pintar buatan.
Pakar psikologi dan pakar teknologi maklumat di University of Cardiff dan MIT telah menunjukkan bahawa kumpulan mesin autonomi dapat menunjukkan bias dengan hanya menentukan tingkah laku tersebut, menyalinnya, dan saling mengajar.
Nampaknya prasangka adalah fenomena manusia semata-mata, yang memerlukan kecerdasan manusia untuk membentuk pendapat atau stereotaip mengenai seseorang atau kumpulan. Walaupun beberapa jenis algoritma komputer telah menunjukkan bias seperti rasisme dan seksisme berdasarkan kajian rekod awam dan data lain yang dihasilkan oleh manusia, karya baru menunjukkan kemampuan AI untuk mengembangkan kumpulan secara bebas dengan prasangka.
Penyelidikan ini diterbitkan dalam Laporan Ilmiah. Ia berdasarkan simulasi komputer mengenai bagaimana agen maya yang berat sebelah dapat membentuk kumpulan dan saling berinteraksi antara satu sama lain. Semasa simulasi, setiap individu membuat keputusan sama ada untuk menolong seseorang dari kumpulannya atau dari yang lain, bergantung pada reputasi individu tersebut, dan juga strategi sendiri, yang merangkumi tahap prasangka mereka terhadap orang luar. Setelah melakukan ribuan simulasi, setiap individu mempelajari strategi baru dengan menyalin yang lain - sama ada mereka ahli kumpulan mereka sendiri atau keseluruhan "populasi".
Kekerapan kumulatif relatif ciri-ciri ejen berdasarkan tahap prasangka / Roger M. Whitaker.
"Setelah menjalankan simulasi ini beribu-ribu kali berturut-turut, kami mula memahami bagaimana bias berkembang dan keadaan apa yang diperlukan untuk memupuk atau mencegahnya," kata penulis bersama kajian Profesor Roger Whitaker dari Institut Penyelidikan Jenayah dan Keselamatan dan Pusat Pengajian Sains Komputer dan Sains Komputer di Universiti Cardiff. "Simulasi kami menunjukkan bahawa bias adalah kekuatan alam yang kuat, dan melalui evolusi dapat dirangsang dalam populasi maya untuk membahayakan hubungan yang lebih luas dengan orang lain. Perlindungan terhadap kumpulan-kumpulan yang berprasangka secara tidak sengaja dapat menyebabkan terbentuknya kelompok-kelompok yang berprasangka lain, yang memicu pembahagian penduduk yang lebih besar. Prasangka buruk seperti ini sukar dibalikkan."
Data penyelidikan juga merangkumi individu yang meningkatkan tahap bias mereka dengan menyalin mereka yang mendapat hasil jangka pendek terbaik, yang seterusnya bermaksud bahawa keputusan seperti itu tidak semestinya memerlukan kemampuan khas.
"Sangat masuk akal bahawa mesin autonomi, yang dapat mengenal pasti dengan diskriminasi dan menyalin yang lain, mungkin di masa depan rentan terhadap fenomena prasangka yang kita lihat dalam masyarakat," lanjut Profesor Whitaker. "Banyak perkembangan AI yang kita lihat hari ini melibatkan autonomi dan kawalan diri, iaitu, tingkah laku peranti juga dipengaruhi oleh orang-orang di sekitarnya. Contoh terkini termasuk pengangkutan dan Internet Perkara. Penyelidikan kami memberikan pandangan teori mengenai di mana ejen simulasi secara berkala beralih kepada sumber lain."
Video promosi:
Para penyelidik juga mendapati bahawa dalam keadaan tertentu, termasuk adanya subpopulasi masyarakat yang lebih berpecah, bias lebih sukar untuk diperkuat.
“Dengan jumlah penduduk yang banyak, kesatuan kumpulan yang tidak berat sebelah dapat bekerjasama tanpa dieksploitasi. Ini juga mengurangkan status minoriti mereka sambil mengurangkan kerentanan mereka untuk mewujudkan berat sebelah. Namun, ini juga memerlukan keadaan di mana ejen lebih senang melakukan interaksi di luar kumpulan mereka,”kata Profesor Whitaker.
Vladimir Guillen
