Infomalangraya.com –
Dewan Pengawas Meta sekali lagi mengambil aturan jejaring sosial untuk konten yang dihasilkan AI. Dewan telah menerima dua kasus yang berhubungan dengan gambar eksplisit tokoh masyarakat yang dibuat oleh AI.
Meskipun peraturan Meta sudah melarang ketelanjangan di Facebook dan Instagram, dewan tersebut mengatakan dalam sebuah pernyataan bahwa mereka ingin membahas apakah “kebijakan Meta dan praktik penegakannya efektif dalam menangani gambar eksplisit yang dihasilkan AI.” Kadang-kadang disebut sebagai “pornografi deepfake,” gambar selebritas perempuan, politisi, dan tokoh masyarakat lainnya yang dihasilkan oleh AI telah menjadi bentuk pelecehan online yang semakin menonjol dan telah menarik gelombang . Dengan adanya dua kasus tersebut, Dewan Pengawas dapat mendorong Meta untuk mengadopsi aturan baru untuk mengatasi pelecehan semacam itu di platformnya.
Dewan Pengawas mengatakan bahwa mereka tidak menyebut nama dua tokoh masyarakat tersebut sebagai pusat dari setiap kasus dalam upaya untuk menghindari pelecehan lebih lanjut, meskipun mereka menjelaskan keadaan di sekitar masing-masing unggahan tersebut.
Salah satu kasus melibatkan postingan Instagram yang menunjukkan gambar seorang wanita India telanjang yang dibuat oleh AI yang diposting oleh akun yang “hanya membagikan gambar wanita India yang dibuat oleh AI.” Postingan tersebut dilaporkan ke Meta tetapi laporan ditutup setelah 48 jam karena tidak ditinjau. Pengguna yang sama mengajukan banding atas keputusan tersebut, namun pengajuan banding tersebut juga ditutup dan tidak pernah ditinjau. Meta akhirnya menghapus postingan tersebut setelah pengguna mengajukan banding ke Dewan Pengawas dan dewan setuju untuk mengambil kasus tersebut.
Kasus kedua melibatkan postingan Facebook di grup yang didedikasikan untuk seni AI. Postingan tersebut menunjukkan “gambar yang dihasilkan AI dari seorang wanita telanjang dengan seorang pria meraba-raba payudaranya.” Wanita itu dimaksudkan untuk menyerupai “seorang tokoh masyarakat Amerika” yang namanya juga ada di caption postingan tersebut. Postingan tersebut dihapus secara otomatis karena telah dilaporkan sebelumnya dan sistem internal Meta dapat mencocokkannya dengan postingan sebelumnya. Pengguna mengajukan banding atas keputusan untuk menghapusnya, tetapi pengajuan banding tersebut “ditutup secara otomatis”. Pengguna kemudian mengajukan banding ke Dewan Pengawas, yang setuju untuk mempertimbangkan kasus tersebut.
Dalam sebuah pernyataan, salah satu ketua Dewan Pengawas Helle Thorning-Schmidt mengatakan bahwa dewan tersebut menangani dua kasus dari negara berbeda untuk menilai potensi kesenjangan dalam bagaimana kebijakan Meta ditegakkan. “Kami tahu bahwa Meta lebih cepat dan efektif dalam memoderasi konten di beberapa pasar dan bahasa dibandingkan pasar dan bahasa lainnya,” kata Thorning-Schmidt. “Dengan mengambil satu kasus dari AS dan satu kasus dari India, kami ingin melihat apakah Meta melindungi semua perempuan secara global dengan cara yang adil.”
Dewan Pengawas meminta komentar publik untuk dua minggu ke depan dan akan mempublikasikan keputusannya dalam beberapa minggu ke depan, bersama dengan rekomendasi kebijakan untuk Meta. Proses serupa yang melibatkan video yang diedit secara menyesatkan baru-baru ini mengakibatkan Meta menyetujui lebih banyak konten buatan AI di platformnya.