Bayangkan suatu hari nanti beberapa anak ajaib akan mencipta teknologi yang membolehkan orang atau benda material melewati dinding, dan menghantar arahan di Internet mengenai cara membina mesin ajaib seperti itu dari bahan-bahan rumah tangga yang biasanya ada. Bagaimana dunia akan berubah?
Banyak industri cenderung menjadi lebih produktif. Mampu menembus dinding dan bukannya menggunakan pintu akan memudahkan orang bergerak di sekitar pejabat, memindahkan barang di gudang, dan melaksanakan tugas rumah tangga yang tidak terkira jumlahnya setiap hari. Namun, akibat negatifnya dapat mengatasi kesan positif. Menyimpan barang berharga di dalam kunci dan kunci akan kehilangan semua makna. Sesiapa sahaja boleh masuk ke gudang, masuk ke peti simpanan bank atau rumah dengan mudah.
Sebilangan besar kaedah yang kita gunakan untuk melindungi harta benda persendirian melibatkan tembok dalam satu atau lain cara, jadi semuanya tidak berguna dalam semalam. Pencuri akan bertindak tanpa hukuman sehingga masyarakat menemukan cara alternatif untuk mencegah kejahatan tersebut. Hasil daripada perkembangan peristiwa itu boleh menjadi keruntuhan ekonomi atau kekacauan sosial.
Perkara di atas menggambarkan prinsip umum: inovasi teknologi tidak selalu bermanfaat bagi masyarakat, sekurang-kurangnya dalam jangka pendek. Teknologi mampu mencipta eksternaliti negatif, eksternaliti. Istilah ekonomi ini bermaksud kerugian yang ditimbulkan kepada pihak ketiga atau pihak. Sekiranya luaran negatif ini melebihi kegunaan teknologi itu sendiri, penemuan ini sebenarnya menjadikan dunia lebih buruk, tidak lebih baik, sekurang-kurangnya untuk sementara waktu.
Pembelajaran mesin, terutamanya variasi yang dikenal sebagai pembelajaran mendalam, boleh dikatakan merupakan terobosan teknologi terpanas di planet ini. Ini memberi komputer kemampuan untuk melakukan banyak tugas yang sebelumnya hanya dapat dilakukan oleh manusia: mengenali gambar, memandu kereta, memperdagangkan pasaran saham, dan banyak lagi. Ini telah menimbulkan kebimbangan pada beberapa orang bahawa pembelajaran mesin dapat menjadikan manusia tidak perlu dan tidak berguna di tempat kerja. Dan ini sebenarnya mungkin, tetapi ada bahaya yang jauh lebih serius dari pembelajaran mesin yang setakat ini belum mendapat perhatian yang cukup. Maksudnya ialah jika mesin dapat belajar, mereka juga boleh belajar berbohong.
Orang hari ini boleh memalsukan gambar seperti gambar, tetapi ini adalah proses yang sukar dan rumit. Dan pemalsuan gambar suara atau video pada umumnya melebihi kemampuan orang biasa. Tetapi tidak lama lagi, berkat pembelajaran mesin, kemungkinan membuat gambar video palsu yang masuk akal dari wajah seseorang dan memberi kesan bahawa orang itu bercakap dengan suara mereka sendiri. Sudah ada teknologi untuk menyegerakkan pergerakan bibir yang secara harfiah dapat memasukkan kata-kata ke dalam mulut seseorang. Ini hanyalah puncak gunung es. Tidak lama lagi, kanak-kanak berusia 12 tahun akan dapat membuat gambar palsu yang berforealistik dan dipercayai orang politik, ahli perniagaan besar, saudara-mara atau rakan mereka di bilik tidur mereka di bilik tidur mereka, dengan mengatakan semua yang mereka bayangkan.
Ini dengan sendirinya menimbulkan beberapa penyalahgunaan yang jelas. Hoax politik, apa yang disebut "berita palsu" atau "pemadanan maklumat", akan merebak seperti api. Sudah tentu, penipuan akan dikesan secepat mungkin - tidak ada teknologi digital yang begitu baik sehingga teknologi lain tidak dapat mengesan yang palsu. Tetapi ini akan berlaku hanya setelah idea berbahaya telah menembusi pemikiran orang yang mempercayainya. Bayangkan sebuah video palsu yang dibuat-buat calon presiden yang memaki hamun perkauman atau mengaku melakukan jenayah ganas.
Namun, ini baru permulaan. Bayangkan potensi untuk memanipulasi pasaran saham. Katakan seseorang menyebarkan video palsu di mana Ketua Pegawai Eksekutif Tesla Elon Musk mengakui bahawa kereta Tesla tidak selamat. Video akan disiarkan dalam talian dan stok syarikat akan rosak. Tidak lama selepas penemuan palsu, harga mereka akan pulih, namun, selama ini, manipulator akan dapat menghasilkan wang yang besar, bermain untuk mengurangkan saham Tesla.
Video promosi:
Dan ini jauh dari senario yang paling melampau. Bayangkan pelawak seperti itu membuat video palsu Presiden Donald Trump yang menyatakan bahawa mogok terhadap sasaran Korea Utara sudah dekat, dan kemudian menyiarkan video itu di mana orang Korea Utara dapat melihatnya. Apa kemungkinan kepemimpinan Korea Utara akan menyedari bahawa ini palsu sebelum mereka memutuskan untuk memulakan perang?
Mereka yang cenderung menganggap senario ekstrem seperti penggera akan secara munasabah menunjukkan bahawa mana-mana palsu dapat dikesan, kerana teknologi pembelajaran mesin yang sama akan digunakan untuk mengesannya seperti penciptaan. Tetapi ini tidak bermaksud bahawa kita tidak berada dalam bahaya untuk menemukan diri kita di dunia yang penuh dengan kepalsuan di mana-mana. Apabila palsu itu cukup dipercayai sehingga orang tidak dapat mengesannya sendiri, kita selamanya akan kehilangan kepercayaan terhadap apa yang kita lihat dan dengar. Daripada mempercayai pancaindera kita sendiri, kita akan terpaksa bergantung pada algoritma yang digunakan untuk mengesan pemalsuan dan mengesahkan maklumat. Sepanjang evolusi, kita belajar mempercayai perasaan kita sendiri,dan pemindahan fungsi ini ke kecerdasan mesin mungkin terlalu mendadak bagi kebanyakan orang.
Ini boleh menjadi berita buruk bagi ekonomi. Rangkaian perniagaan dan perdagangan dibina berdasarkan kepercayaan dan komunikasi. Sekiranya pembelajaran mesin melancarkan ribut ilusi dan palsu ke ruang maklumat masyarakat suatu hari nanti, dinding yang diciptakan oleh evolusi untuk membezakan realiti dari fiksyen akan runtuh. Dalam kes ini, tahap kepercayaan dalam masyarakat dapat jatuh dengan cepat, yang tidak akan perlahan sehingga memberi kesan negatif terhadap kesejahteraan global umat manusia.
Atas sebab ini, pemerintah mungkin harus mengambil beberapa langkah untuk memastikan bahawa pemalsuan digital dihukum dengan teruk. Malangnya, pentadbiran sekarang tidak mungkin mengambil langkah seperti menyukai berita pihak sempit. Dan pemerintah seperti Rusia cenderung untuk tidak mengekang amalan tersebut. Pada akhirnya, gabungan pemerintahan yang lemah dengan teknologi baru yang kuat menimbulkan ancaman yang jauh lebih besar bagi masyarakat manusia daripada teknologi itu sendiri.
Oleh Noah Smith - Kolumnis Berita Bloomberg
Igor Abramov
