Infomalangraya.com –
Dewan Pengawas Meta mendesak perusahaan untuk memperbarui peraturannya seputar deepfake yang mengandung unsur seksual. Dewan tersebut membuat rekomendasi sebagai bagian dari keputusannya dalam dua kasus yang melibatkan gambar figur publik yang dihasilkan oleh AI.
Kasus-kasus tersebut bermula dari dua permohonan banding pengguna atas gambar-gambar figur publik yang dibuat dengan AI, meskipun dewan menolak menyebutkan nama-nama individu tersebut. Satu unggahan, yang berasal dari Instagram, menggambarkan seorang wanita India telanjang. Unggahan tersebut dilaporkan ke Meta tetapi laporan tersebut ditutup secara otomatis setelah 48 jam, seperti halnya permohonan banding pengguna berikutnya. Perusahaan tersebut akhirnya menghapus unggahan tersebut setelah mendapat perhatian dari Dewan Pengawas, yang meskipun demikian membatalkan keputusan awal Meta untuk membiarkan gambar tersebut.
Postingan kedua, yang dibagikan ke grup Facebook yang didedikasikan untuk seni AI, menunjukkan “gambar buatan AI berupa seorang wanita telanjang dengan seorang pria meraba payudaranya.” Meta secara otomatis menghapus postingan tersebut karena telah ditambahkan ke sistem internal yang dapat mengidentifikasi gambar yang sebelumnya telah dilaporkan ke perusahaan. Dewan Pengawas menemukan bahwa Meta benar telah menghapus postingan tersebut.
Dalam kedua kasus tersebut, Dewan Pengawas mengatakan bahwa deepfake AI tersebut melanggar peraturan perusahaan yang melarang gambar “photoshop yang mengandung unsur seksual yang merendahkan”. Namun dalam rekomendasinya kepada Meta, Dewan Pengawas mengatakan bahwa bahasa yang digunakan saat ini dalam peraturan tersebut sudah ketinggalan zaman dan dapat mempersulit pengguna untuk melaporkan gambar eksplisit yang dibuat oleh AI.
Sebaliknya, dewan tersebut mengatakan bahwa mereka harus memperbarui kebijakannya untuk memperjelas bahwa mereka melarang gambar eksplisit nonkonsensual yang dibuat atau dimanipulasi oleh AI. “Sebagian besar gambar seksual nonkonsensual yang tersebar daring saat ini dibuat dengan model AI generatif yang secara otomatis mengedit gambar yang sudah ada atau membuat gambar yang sama sekali baru,” tulis dewan tersebut. “Meta harus memastikan bahwa larangannya terhadap konten seksual yang merendahkan mencakup rangkaian teknik penyuntingan yang lebih luas, dengan cara yang jelas bagi pengguna dan moderator perusahaan.”
Dewan tersebut juga mengkritik praktik Meta yang secara otomatis menutup permohonan banding pengguna, yang menurutnya dapat memiliki “dampak signifikan terhadap hak asasi manusia” pada pengguna. Namun, dewan tersebut mengatakan tidak memiliki “informasi yang cukup” tentang praktik tersebut untuk membuat rekomendasi.
Penyebaran gambar AI yang eksplisit telah menjadi isu yang semakin menonjol karena “deepfake porn” telah menjadi bentuk pelecehan daring yang semakin meluas dalam beberapa tahun terakhir. Keputusan dewan tersebut muncul satu hari setelah Senat AS mengesahkan RUU yang menindak tegas deepfake yang eksplisit. Jika disahkan menjadi undang-undang, tindakan tersebut akan memungkinkan para korban untuk menuntut pembuat gambar tersebut hingga $250.000.
Kasus-kasus tersebut bukanlah pertama kalinya Dewan Pengawas mendesak Meta untuk memperbarui aturannya terkait konten yang dihasilkan AI. Dalam kasus lain yang mendapat banyak perhatian, dewan tersebut menyelidiki video Presiden Joe Biden. Kasus tersebut akhirnya membuat Meta mengubah kebijakannya terkait cara pelabelan konten yang dihasilkan AI.