Kempen untuk pemilihan presiden di Amerika Syarikat telah dimulakan secara rasmi, yang pada gilirannya bererti banyak cara yang aneh dan berbahaya di mana teknologi memutarbelitkan politik. Salah satu ancaman terbesar adalah keperibadian palsu yang bersemangat terlibat dalam perselisihan politik. Di satu pihak, teknologi menghasilkan teks berdasarkan kecerdasan buatan berkembang lebih cepat daripada sebelumnya, di sisi lain, chatbots di rangkaian sosial hampir mencapai kesempurnaan. "Orang" yang dihasilkan oleh komputer ini akan segera menenggelamkan perbincangan manusia sebenar di web.
Perisian penghasilan teks cukup maju untuk memperbodohkan sesiapa sahaja. Komputer sangat baik dalam menulis berita, terutama dalam sukan dan kewangan, memberi nasihat kepada pelanggan di laman pelaburan, menulis artikel menarik mengenai topik berita lain (walaupun ada batasan).
Pada masa yang sama, algoritma sudah ada yang dapat menghasilkan kandungan yang tidak dapat dibezakan dari catatan pengguna biasa. Pada tahun 2017, FCC mengadakan perbahasan awam mengenai rancangannya untuk menamatkan netraliti bersih. 22 juta komen mengagumkan diterima mengenai topik ini. Sebilangan besar dari mereka - mungkin separuh - palsu, dengan penyerang menggunakan data ID yang dicuri. Sebilangan komen tidak sopan, 1.3 juta dihasilkan dari templat yang sama - beberapa kata diubah untuk menjadikan mesej itu unik.
Dan teknologi di kawasan ini sedang berkembang secara aktif. Dalam eksperimennya, penyelidik Harvard Max Weiss menggunakan perisian menghasilkan teks untuk menghasilkan 1,000 komen sebagai tindak balas terhadap inisiatif Medicaid kerajaan. Semua komen ini unik dan kelihatan seperti ditulis oleh orang sebenar yang menyokong kedudukan politik tertentu. Mereka berjaya memperdayakan pentadbir Medicaid.gov untuk berfikir bahawa mereka sebenarnya ketakutan terhadap orang sebenar. Dalam penyelidikannya, Weiss kemudiannya menyatakan bahawa komen itu palsu dan meminta mereka dikeluarkan. Tetapi orang lain atau kumpulan penceroboh yang mengikuti jalan ini tidak mungkin berperilaku tinggi.
Chatbots telah dipaparkan dalam perbincangan media sosial selama bertahun-tahun. Menurut satu perkiraan, kira-kira seperlima dari semua tweet mengenai pilihan raya presiden 2016 diterbitkan oleh bot, dan sekitar sepertiga dari pengundian untuk Brexit pada tahun yang sama. Dalam laporan dari Universiti Oxford tahun lalu, para penyelidik menemui bukti bahawa bot digunakan untuk menyebarkan propaganda di 50 negara. Sebagai peraturan, ini adalah program sederhana yang mengulang slogan tanpa memikirkan: misalnya, seperempat juta tweet pro-Saudi "Kita semua percaya pada Mohammed bin Salman" setelah pembunuhan Jamal Khashoggi pada 2018. Mencari bot yang lebih baik jauh lebih sukar. Dan mengukur keberkesanan bot ini sukar. Mereka semua memutarbelitkan pendapat umum dan kepercayaan dalam perbahasan politik yang beralasan. Sebenarnya,kita semua sedang dalam percubaan sosial yang baru.
Selama bertahun-tahun, bot algoritma telah mengembangkan keperibadian keseluruhan. Mereka mempunyai nama palsu, biografi palsu dan gambar palsu, kadang-kadang dihasilkan komputer. Alih-alih memuntahkan propaganda tanpa henti, mereka sesekali menghantar mesej. Penyelidik mungkin mendapati mereka bot dan bukan manusia berdasarkan corak pengeposan, tetapi teknologi bot semakin meningkat sepanjang masa, melebihi upaya untuk mengesannya. Bot masa depan akan lebih baik disamarkan sebagai kumpulan sosial orang, propaganda akan ditenun secara halus menjadi tweet mengenai topik yang berkaitan dengan kumpulan sosial ini.
Tidak lama lagi, Sim yang dikendalikan oleh program ini akan dapat menulis surat yang diperibadikan kepada surat khabar, dalam PM kepada pegawai terpilih, memberikan komen yang diperibadikan untuk proses pembuatan peraturan awam, dan berbicara dengan cerdas mengenai isu-isu politik di media sosial. Mereka akan dapat memberi komen pada siaran di rangkaian sosial, laman berita, dan lain-lain. Perwatakan kekal akan dibuat yang akan kelihatan nyata walaupun bagi mereka yang mempelajarinya. Mereka akan dapat menampilkan diri di media sosial dan menghantar teks yang diperibadikan. Mereka akan meniru berjuta-juta dan menghantar berbilion-bilion mesej, panjang dan pendek, sepanjang waktu. Bersama-sama, mereka dapat menghilangkan debat sebenar di Internet. Tidak hanya di media sosial, tetapi di mana sahaja terdapat komen.
Mungkin watak-watak ini akan dikawal oleh penceroboh asing. Mungkin ini adalah kumpulan politik dalaman. Mungkin akan menjadi calon mereka sendiri. Kemungkinan besar, semua orang akan menggunakannya. Pelajaran terpenting dalam pilihan raya 2016 mengenai maklumat tidak disinformasi ialah maklumat yang disiarkan tidak disiarkan; tapi murah dan senang untuk salah maklumat orang. Kemajuan teknologi masa depan akan menjadikan semua ini lebih berpatutan.
Video promosi:
Masa depan kita akan menjadi perbahasan politik yang ganas di mana bot kebanyakannya akan berdebat dengan bot lain. Ini bukan yang kita bayangkan ketika kita memuji pasaran untuk idea atau proses politik demokratik. Agar demokrasi dapat berjalan dengan baik, diperlukan dua perkara: maklumat dan perwakilan. Watak buatan memukul kedua-dua perkara.
Penyelesaian untuk masalah itu belum jelas. Kami boleh cuba mengatur penggunaan bot - undang-undang California yang dicadangkan mewajibkan bot untuk mengenali diri mereka - tetapi ini hanya berkesan terhadap kempen pengaruh yang sah seperti iklan. Pengaruh yang tersembunyi akan jauh lebih sukar untuk dikesan. Pertahanan yang paling jelas adalah pengembangan dan penyeragaman kaedah pengesahan yang lebih baik. Sekiranya rangkaian sosial yakin bahawa ada orang sebenar di sebalik setiap akaun, mereka akan dapat menyingkirkan orang palsu. Tetapi akaun palsu telah dibuat secara berkala dengan menggunakan data dari orang sebenar tanpa pengetahuan atau persetujuan mereka. Kami tidak mempunyai sistem pengesahan yang melindungi privasi dan dapat menjangkau berbilion pengguna.
Kita hanya boleh berharap bahawa kemampuan kita untuk mengenal pasti keperibadian buatan akan sesuai dengan kemampuan kita untuk menutupinya. Tetapi buat masa ini, penyerang selalu selangkah lebih maju.
Pada penghujung hari, sebarang keputusan mestilah bukan teknikal. Kita mesti mengakui batasan perbahasan politik di Internet dan sekali lagi mengutamakan komunikasi tatap muka. Lebih sukar untuk mengotomatisasi dan kita tahu bahawa orang yang kita ajak bicara adalah orang yang sebenar. Tetapi sejauh ini peralihan budaya ini seolah-olah seperti penyelesaian yang tidak realistik, dan percubaan untuk menyinformasi tersebar luas di seluruh dunia dan dilakukan di lebih dari 70 negara. Ini adalah cara propaganda yang normal di negara-negara dengan rezim otoriter, dan ini menjadi cara untuk menjalankan kempen politik.
Watak buatan adalah masa depan propaganda. Dan walaupun mereka tidak berkesan membawa perbincangan ke penyebut tertentu, mereka dapat dengan mudah menghilangkan perbincangan sepenuhnya.
BRUCE SCHNEIER adalah Felo Penyelidik dan Pensyarah di Harvard Kennedy School.
