Terlalu mudah untuk menciptakan cara-cara realistis untuk menipu orang agar mendapatkan suara mereka

A video menjadi viral di media sosial pada bulan Mei menggambarkan Ron DeSantis dengan cara yang tidak menarik sebagai Michael dari acara TV lama “The Office”. Klip tersebut — kemungkinan besar dibuat oleh penggemar Donald Trump — mengejek DeSantis sebagai orang yang lemah dan bodoh. Namun bukannya lucu, hal itu justru menakutkan.

Video itu sangat realistis. Wajah dan suara DeSantis diterapkan dengan sangat mulus sehingga Anda tidak akan salah mengira itu palsu — tidak seperti video “palsu” beberapa tahun terakhir yang memiliki kualitas tidak manusiawi setelah diperiksa lebih dekat. Banyak kandidat dan aktivis baru-baru ini menggunakan media persuasif yang dihasilkan AI untuk mempengaruhi pemilih. Terkadang itu hanya sebuah malas cara membuat konten; semakin lama semakin berbahaya tipu muslihat.

AI kini dapat secara efektif memanipulasi hal-hal yang Anda lihat dan dengar tanpa Anda sadari. Sementara itu, jaringan media sosial kita memiliki kontrol yang buruk terhadap konten. Platform dan aplikasi berbasis teks kami, yang semakin banyak digunakan sebagai sumber informasi, tidak memiliki editor sama sekali. Gencarnya berita palsu akan membuat campur tangan Rusia dalam pemilihan presiden tahun 2016 terlihat sangat amatir.

Kami belum siap untuk ini. Demokrasi kita belum siap untuk ini.

Setelah manipulasi media yang kejam dan destruktif yang dilakukan oleh Rusia dan pihak lain selama dekade terakhir, kita masih belum cukup menyesuaikan undang-undang kita untuk mencegah misinformasi yang dapat menghancurkan republik. Kita harus pindah.

Sayangnya, tidak seperti negara-negara Barat lainnya, salah satu hak yang paling kita hargai – Amandemen Pertama – juga merupakan tanggung jawab kita. Kami berhak melindungi kebebasan berpendapat dengan cara apa pun. Mahkamah Agung mengatur hal ini dengan sangat ketat sehingga hampir tidak mungkin untuk mengatur pengaruh uang dalam pemilu, sehingga memungkinkan miliarder mana pun yang memiliki dendam untuk meluncurkan PAC senilai sembilan digit kepada kandidat atau ideologi yang memiliki dampak yang melemahkan. Media juga dilindungi jauh melampaui apa yang diizinkan oleh sebagian besar negara lain, dengan jeruji pencemaran nama baik dan tanggung jawab atas perselisihan sipil yang ditetapkan begitu tinggi sehingga bahkan mereka yang berada di menara gading pun sulit melihatnya.

Namun jika kita tidak mulai memberikan hukuman serius atas penggunaan ujaran seperti video palsu yang dirancang untuk merusak masyarakat kita, dualitas teknologi dan Amandemen Pertama yang tidak terkekang pasti akan menimbulkan kekacauan.

Untungnya, kasus federal yang baru-baru ini terjadi menjadi preseden yang memberi kita jalan sempit menuju keselamatan tanpa membatasi apa yang bisa dikatakan orang Amerika atau bagaimana mereka bisa mengekspresikan pendapat mereka.

Kilatan Berita Harian

hari kerja

Ikuti lima berita teratas hari ini setiap sore hari kerja.

Di awal tahun, pengadilan federal di Brooklyn memutuskan bahwa pemimpin jaringan orang-orang yang menyebarkan misinformasi pemilu di Internet yang menargetkan warga kulit hitam dan Amerika Latin pada pemilihan presiden tahun 2016 bersalah atas penindasan terhadap pemilih. Kasus ini merupakan kasus pertama dan menjadi preseden bahwa pihak-pihak yang tidak bertanggung jawab tidak dapat bersembunyi di balik kebebasan berpendapat untuk mempengaruhi pemilu secara tidak adil. Sayangnya, cakupannya terbatas, hanya berfokus pada misinformasi yang dikirimkan mengenai pemilu itu sendiri, bukan mengenai kandidat. Kasus serupa terjadi di Ohio tahun lalu menemukan bahwa dua agen sayap kanan yang menggunakan robocall untuk mencegah pemungutan suara juga bersalah atas penipuan telekomunikasi.

Meskipun preseden ini sudah ada di tingkat federal, negara bagian, yang mengawasi seluruh pemilu, harus segera mengesahkan undang-undang yang berisi prinsip bahwa menipu masyarakat untuk mendapatkan hak pilih adalah tindakan ilegal. Mereka juga harus menetapkan denda setinggi mungkin atas pelanggaran guna mencegah pelaku kejahatan. Negara Bagian Washington baru-baru ini mengadakan a hukum menegakkan pengungkapan media apa pun yang diproduksi untuk pemilu yang berisi konten yang dimanipulasi. Setiap negara bagian harus.

Kongres juga harus mengesahkan undang-undang serupa dengan hukuman yang berat, dan kita harus meningkatkan pendanaan secara signifikan untuk tim internasional yang mengidentifikasi dan menghentikan kampanye disinformasi yang direncanakan oleh musuh-musuh kita.

Kita juga harus melangkah lebih jauh dengan menggunakan undang-undang ini sebagai landasan untuk mencegah metode pemungutan suara lain yang berupaya membingungkan pemilih tentang kandidat itu sendiri dengan kebohongan. Hal ini selalu menjadi tantangan di negara kita – dan untuk alasan yang baik. Untuk memungkinkan jenis pidato politik – kritik retoris, sindiran, dll. – Dengan mengandalkan setengah kebenaran dan absurditas untuk membuat argumen yang valid, kita menghindari batasan yang mungkin menghalangi perbedaan yang sehat.

Namun ada pembatasan pada jenis ucapan lain untuk mencegah penipuan dan upaya menyakiti yang disengaja. Dengan menciptakan standar untuk mengidentifikasi kebohongan yang dijadikan senjata untuk melemahkan pemilu, kita dapat membentuk perisai dengan menjaga keseimbangan.

Penyair Romawi Virgil berkata, “Tidak ada kejahatan lain yang kita tahu lebih cepat daripada rumor,” 2000 tahun sebelum munculnya Internet. Jika kita tidak mengambil tindakan cepat dan serius untuk mencegah misinformasi yang disebabkan oleh AI mempengaruhi pemilu kita, kemungkinan besar peradaban besar kita akan mengalami nasib yang sama seperti peradaban kita.

Thies adalah konsultan politik di New York.