Para saintis dari University of Chicago (AS) melakukan kajian, di mana mereka menunjukkan bagaimana AI dapat digunakan untuk menulis ulasan palsu yang kompleks. Ulasan sedemikian tidak dapat dibezakan daripada yang sebenar dengan kaedah moden, dan pembaca yang tidak curiga menganggapnya sangat dipercayai.
Ulasan restoran dihasilkan menggunakan rangkaian neural berulang (teknik pembelajaran mendalam) yang sebelumnya dilatih mengenai ribuan ulasan kehidupan nyata yang terdapat dalam talian.
Menurut para penyelidik, ulasan yang dihasilkan hampir tidak dapat dibezakan daripada yang sebenarnya. Oleh itu, penulis karya menunjukkan bahawa pengguna bukan sahaja tidak mengenali ulasan palsu, tetapi juga menganggapnya berguna seperti yang ditulis oleh orang.
Yang terakhir mungkin yang paling membimbangkan. Oleh kerana ini pada dasarnya bermaksud bahawa ulasan yang ditulis oleh AI memenuhi fungsi utama mereka - mereka sengaja mempengaruhi pendapat orang.
Telah dicatat bahawa penipuan jarang dikesan dalam tinjauan seperti itu (menggunakan perisian). Ini disebabkan oleh fakta bahawa AI menghasilkannya berdasarkan watak, dan tidak memetik kata-kata dari ulasan sebenar.
Hari ini terdapat industri bawah tanah yang cukup besar di mana orang menulis ulasan palsu (untuk wang). Namun, seperti yang dinyatakan oleh profesor University of Chicago Ben Y. Zhao dalam wawancara dengan Business Insider, pengenalan AI dapat melemahkannya. Saintis mengatakan bahawa dia belum mengetahui mengenai penggunaan algoritma sedemikian dalam industri ini. Tetapi tidak ada jaminan bahawa seseorang tidak akan menghasilkan sesuatu yang serupa dan tidak akan menggunakannya untuk kepentingan peribadi.
Pada masa yang sama, para penyelidik menulis bahawa tindak balas rangkaian saraf masih tidak sesuai. Ternyata algoritma menggunakan sekumpulan watak yang lebih kecil - dan ini tidak sukar dilihat. Namun, menurut penulis karya tersebut, rangkaian saraf masa depan mungkin lebih kompleks, dan, oleh itu, maklum balas yang mereka hasilkan akan lebih sukar dikesan.
Zhao menyatakan bahawa ini bukan hanya mengenai ulasan restoran palsu: teknologi seperti itu secara umum dapat menggoyahkan kepercayaan kita tentang apa yang nyata dan yang tidak.
Video promosi:
Teks kajian boleh didapati di sini.
