Algoritma Compas, yang telah bekerja untuk polis Amerika sejak tahun 1998, menganalisis data defendan, dan kemudian, berdasarkan maklumat yang diterima, membantu memutuskan, misalnya, apakah penjenayah itu harus dibebaskan dengan jaminan atau harus disimpan dalam tahanan. Semasa memilih langkah pengekangan, sistem ini mengambil kira usia, jantina dan rekod prestasi di arena jenayah. Selama 20 tahun "perkhidmatan" algoritma dinilai oleh lebih dari satu juta orang, tetapi baru-baru ini dinyatakan tidak kompeten, setelah itu segera dipanggil semula.
Para saintis dari Dartmouth College menguji seberapa tepat sistem ini dan adakah ia boleh dipercayai. Untuk melakukan ini, mereka merekrut freelancer, orang biasa tanpa pendidikan undang-undang, untuk membuat keputusan sendiri berdasarkan maklumat pendek mengenai orang, memberi maklumat kepada subjek mengenai jantina, umur, sejarah jenayah dan beberapa parameter lain.
Ketepatan ramalan freelancer yang mempunyai berkas kecil hampir 70 peratus, sementara program ini ketinggalan lima orang berbanding lima persen, sambil mengandalkan 137 poin biografi. Analisis penilaian algoritma menunjukkan bahawa tahanan kulit hitam cenderung untuk disyaki oleh program ini.
"Kesalahan dalam kes seperti itu sangat mahal, jadi perlu dipertimbangkan sama ada algoritma ini harus digunakan sama sekali untuk memberikan keputusan mahkamah," kata salah seorang penulis kajian.
Setelah mempelajari prinsip algoritma, para penyelidik membuat kesimpulan bahawa semakin muda terdakwa dan semakin banyak tangkapan yang dilakukannya di belakangnya, semakin tinggi kemungkinan terjadinya kambuh, oleh itu, pakar AI mengiktiraf teknologi tersebut sebagai tidak boleh dipercayai.
Viacheslav Larionov
