Sebuah koalisi yang terdiri dari 20 perusahaan teknologi menandatangani perjanjian pada hari Jumat untuk membantu mencegah pemalsuan AI dalam pemilu penting tahun 2024 yang berlangsung di lebih dari 40 negara. OpenAI, Google, Meta, Amazon, Adobe dan X adalah beberapa perusahaan yang bergabung dalam pakta tersebut untuk mencegah dan memerangi konten buatan AI yang dapat mempengaruhi pemilih. Namun, bahasa perjanjian yang tidak jelas dan kurangnya penegakan hukum yang mengikat menimbulkan pertanyaan apakah perjanjian tersebut sudah cukup efektif.
Daftar perusahaan yang menandatangani “Kesepakatan Teknologi untuk Memerangi Penggunaan AI yang Menipu pada Pemilu 2024” mencakup perusahaan-perusahaan yang membuat dan mendistribusikan model AI, serta platform sosial tempat deepfake kemungkinan besar akan muncul. Penandatangannya adalah Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic dan X (sebelumnya Twitter ).
Kelompok tersebut menggambarkan perjanjian tersebut sebagai “seperangkat komitmen untuk menerapkan teknologi melawan konten berbahaya yang dihasilkan oleh AI yang dimaksudkan untuk menipu pemilih.” Para penandatangan telah menyetujui delapan komitmen berikut:
Mengembangkan dan menerapkan teknologi untuk memitigasi risiko terkait konten AI Pemilu yang Menipu, termasuk alat sumber terbuka jika diperlukan
Menilai model-model dalam cakupan perjanjian ini untuk memahami risiko yang mungkin ditimbulkan terkait Konten Pemilu AI yang Menipu
Berusaha mendeteksi distribusi konten ini di platform mereka
Berusaha untuk mengatasi dengan tepat konten yang terdeteksi di platform mereka
Menumbuhkan ketahanan lintas industri terhadap konten pemilu AI yang menipu
Memberikan transparansi kepada masyarakat mengenai cara perusahaan menyikapinya
Terus terlibat dengan beragam organisasi masyarakat sipil global, akademisi
Mendukung upaya menumbuhkan kesadaran masyarakat, literasi media, dan ketahanan seluruh masyarakat
Kesepakatan ini akan berlaku untuk audio, video, dan gambar yang dihasilkan AI. Kebijakan ini membahas konten yang “secara menipu memalsukan atau mengubah penampilan, suara, atau tindakan kandidat politik, petugas pemilu, dan pemangku kepentingan utama lainnya dalam pemilu demokratis, atau yang memberikan informasi palsu kepada pemilih tentang kapan, di mana, dan bagaimana mereka dapat memilih. ”
Para penandatangan mengatakan mereka akan bekerja sama untuk membuat dan berbagi alat untuk mendeteksi dan mengatasi distribusi deepfake secara online. Selain itu, mereka berencana untuk mendorong kampanye pendidikan dan “memberikan transparansi” kepada pengguna.
OpenAI, salah satu pihak yang menandatangani perjanjian ini, bulan lalu telah mengatakan bahwa pihaknya berencana untuk menekan misinformasi terkait pemilu di seluruh dunia. Gambar yang dihasilkan dengan alat DALL-E 3 milik perusahaan akan dikodekan dengan pengklasifikasi yang menyediakan tanda air digital untuk memperjelas asal usulnya sebagai gambar yang dihasilkan AI. Pembuat ChatGPT mengatakan pihaknya juga akan bekerja sama dengan jurnalis, peneliti, dan platform untuk mendapatkan masukan mengenai pengklasifikasi asal usulnya. Mereka juga berencana untuk mencegah chatbot meniru identitas kandidat.
“Kami berkomitmen untuk melindungi integritas pemilu dengan menegakkan kebijakan yang mencegah penyalahgunaan dan meningkatkan transparansi seputar konten yang dihasilkan AI,” tulis Anna Makanju, Wakil Presiden Urusan Global di OpenAI, dalam siaran pers bersama grup tersebut. “Kami berharap dapat bekerja sama dengan mitra industri, pemimpin masyarakat sipil, dan pemerintah di seluruh dunia untuk membantu menjaga pemilu dari penggunaan AI yang menipu.”
Yang paling tidak masuk dalam daftar adalah Midjourney, perusahaan dengan generator gambar AI (dengan nama yang sama) yang saat ini menghasilkan beberapa foto palsu yang paling meyakinkan. Namun, perusahaan tersebut mengatakan awal bulan ini bahwa mereka akan mempertimbangkan untuk melarang generasi politik sama sekali selama musim pemilu. Tahun lalu, Midjourney digunakan untuk membuat gambar palsu Paus Benediktus yang tiba-tiba berjalan di jalan dengan jaket putih bengkak. Salah satu pesaing terdekat Midjourney, Stability AI (pembuat Stable Diffusion sumber terbuka), ikut berpartisipasi. Engadget menghubungi Midjourney untuk memberikan komentar tentang ketidakhadirannya, dan kami akan memperbarui artikel ini jika kami mendengarnya kembali.
Hanya Apple yang tidak termasuk dalam “Lima Besar” Silicon Valley. Namun, hal ini dapat dijelaskan oleh fakta bahwa pembuat iPhone tersebut belum meluncurkan produk AI generatif apa pun, dan juga tidak memiliki platform media sosial tempat deepfake dapat didistribusikan. Terlepas dari itu, kami menghubungi PR Apple untuk klarifikasi tetapi belum mendapat kabar hingga saat publikasi.
Meskipun prinsip-prinsip umum yang disetujui oleh 20 perusahaan terlihat seperti sebuah awal yang menjanjikan, masih harus dilihat apakah serangkaian perjanjian yang longgar tanpa penegakan hukum yang mengikat akan cukup untuk memerangi skenario buruk di mana pelaku kejahatan di dunia menggunakan AI generatif untuk mempengaruhi opini publik dan memilih kandidat yang anti-demokrasi secara agresif – di AS dan negara lain.
“Bahasanya tidak sekuat yang diperkirakan,” kata Rachel Orey, direktur asosiasi senior Proyek Pemilu di Pusat Kebijakan Bipartisan, kepada Reuters. Pers Terkait pada hari Jumat. “Saya pikir kita harus memberikan penghargaan jika memang diperlukan, dan mengakui bahwa perusahaan mempunyai kepentingan agar alat yang mereka gunakan tidak digunakan untuk merusak pemilu yang bebas dan adil. Meski begitu, hal ini bersifat sukarela, dan kami akan mengawasi apakah mereka akan menindaklanjutinya.”
Deepfake yang dihasilkan oleh AI telah digunakan dalam Pemilihan Presiden AS. Pada awal April 2023, Komite Nasional Partai Republik (RNC) memasang iklan menggunakan gambar Presiden Joe Biden dan Wakil Presiden Kamala Harris yang dihasilkan AI. Kampanye Ron DeSantis, yang telah keluar dari pemilihan pendahuluan Partai Republik, diikuti dengan gambar saingan dan kemungkinan calon presiden Donald Trump yang dibuat oleh AI pada bulan Juni 2023. Keduanya menyertakan penafian yang sering diabaikan bahwa gambar tersebut dibuat oleh AI.
Pada bulan Januari, deepfake suara Presiden Biden yang dihasilkan oleh AI digunakan oleh dua perusahaan yang berbasis di Texas untuk melakukan robocall kepada para pemilih di New Hampshire, dan mendesak mereka untuk tidak memberikan suara pada pemilihan pendahuluan di negara bagian tersebut pada tanggal 23 Januari. Klip tersebut, dibuat menggunakan alat kloning suara ElevenLabs, mencapai hingga 25.000 pemilih NH, menurut jaksa agung negara bagian. ElevenLabs adalah salah satu pihak yang menandatangani pakta tersebut.
Komisi Komunikasi Federal (FCC) bertindak cepat untuk mencegah penyalahgunaan lebih lanjut teknologi kloning suara dalam panggilan kampanye palsu. Awal bulan ini, mereka dengan suara bulat memutuskan untuk melarang robocall yang dihasilkan AI. Kongres AS (yang tampaknya selalu menemui jalan buntu) belum mengesahkan undang-undang AI apa pun. Pada bulan Desember, Uni Eropa (UE) menyetujui rancangan undang-undang pengembangan keselamatan UU AI yang luas yang dapat mempengaruhi upaya regulasi di negara lain.
“Saat masyarakat mulai menerima manfaat AI, kami memiliki tanggung jawab untuk membantu memastikan alat-alat ini tidak dijadikan senjata dalam pemilu,” tulis Wakil Ketua dan Presiden Microsoft Brad Smith dalam siaran persnya. “AI tidak menciptakan penipuan pemilu, namun kita harus memastikan AI tidak menyebabkan penipuan berkembang.”
