Infomalangraya.com –
Meta akhirnya menindak yang menggunakan AI untuk menghasilkan gambar telanjang dan eksplisit selebriti, influencer, dan lainnya yang tidak konsensual. Perusahaan ini menuntut satu pembuat aplikasi yang sering diiklankan aplikasi tersebut di Facebook dan Instagram, dan mengambil langkah -langkah baru untuk mencegah iklan untuk layanan serupa.
Tindakan keras datang beberapa bulan setelah beberapa peneliti dan jurnalis telah meningkatkan alarm tentang aplikasi tersebut. Yang baru dari Berita CBS mengidentifikasi setidaknya “ratusan” iklan di platform Meta yang mempromosikan aplikasi yang memungkinkan pengguna untuk “menghapus pakaian” dari gambar selebriti dan lainnya. Satu aplikasi khususnya, yang disebut Crush AI, tampaknya telah menjadi pengiklan yang produktif di Facebook dan Instagram. Peneliti Alexios Mantzarlis, Direktur Inisiatif Keamanan, Kepercayaan dan Keselamatan Cornell Tech, melaporkan pada bulan Januari bahwa Crush AI telah berjalan di Facebook dan Instagram sejak musim gugur lalu.
Sekarang, Meta mengatakan telah mengajukan gugatan terhadap Joy Timeline HK Limited, perusahaan yang berbasis di Hong Kong di belakang Crush AI dan aplikasi nudify lainnya. “Ini mengikuti beberapa upaya oleh Joy Timeline HK Limited untuk menghindari proses peninjauan iklan Meta dan terus menempatkan iklan ini, setelah mereka berulang kali dihapus karena melanggar aturan kami,” tulis perusahaan itu dalam sebuah posting blog. Joy Timeline HK Limited tidak segera menanggapi permintaan komentar.
Meta juga mengatakan ia mengambil langkah -langkah baru untuk mencegah aplikasi seperti ini dari iklan di platformnya. “Kami telah mengembangkan teknologi baru yang dirancang khusus untuk mengidentifikasi jenis iklan ini – bahkan ketika iklan itu sendiri tidak termasuk ketelanjangan – dan menggunakan teknologi pencocokan untuk membantu kami menemukan dan menghapus iklan peniru lebih cepat,” tulis Meta. “Kami telah bekerja dengan para ahli eksternal dan tim spesialis kami sendiri untuk memperluas daftar istilah, frasa dan emoji terkait keselamatan yang dilatih sistem kami untuk dideteksi dalam iklan ini.” Jejaring sosial mengatakan juga berencana untuk bekerja dengan platform teknologi lain, termasuk pemilik toko aplikasi, untuk berbagi detail yang relevan tentang entitas yang menyalahgunakan platformnya.
Aplikasi Nudify bukan satu -satunya entitas yang mengeksploitasi platform iklan Meta untuk menjalankan iklan yang menampilkan Deepfakes selebriti. Meta juga telah berjuang untuk mengandung pengiklan teduh yang menggunakan video figur publik yang dimanipulasi AI. Dewan Pengawasan Independen Perusahaan, yang membebani masalah moderasi konten yang mempengaruhi Facebook dan Instagram, baru -baru ini mengkritik meta aturannya yang melarang iklan tersebut.
