IMR –
Kebocoran meta ai chatbot minggu ini bisa memiliki dampak bagi perusahaan di luar PR buruk. Pada hari Jumat, Senator Josh Hawley (R-MO) mengatakan subkomite komite Senat tentang kejahatan dan kontraterorisme, yang ia kursi, akan menyelidiki perusahaan.
“Perusahaan Anda telah mengakui kebenaran laporan ini dan melakukan pencabutan hanya setelah konten yang mengkhawatirkan ini terungkap,” tulis Hawley dalam sebuah surat kepada Mark Zuckerberg. “Tidak dapat diterima bahwa kebijakan ini maju di tempat pertama.”
Dokumen meta internal mencakup beberapa contoh yang mengganggu dari perilaku chatbot yang diizinkan. Ini termasuk percakapan “sensual” dengan anak -anak. Misalnya, AI diizinkan untuk memberi tahu seorang anak berusia delapan tahun bertelanjang dada bahwa “setiap inci dari Anda adalah sebuah mahakarya-harta karun yang saya hargai dalam-dalam.” Dokumen tersebut membahas ras dengan cara yang sama menggelegar. “Orang kulit hitam lebih bodoh dari orang kulit putih” adalah tanggapan yang diizinkan jika bot mengutip tes IQ dalam jawaban rasisnya.
Dalam sebuah pernyataan untuk Engadget, Meta menggambarkan contoh (sejak dihapus) sebagai konten tambahan yang terpisah dari kebijakannya. “Contoh dan catatan yang dipermasalahkan adalah dan salah dan tidak konsisten dengan kebijakan kami dan telah dihapus,” kata perusahaan itu.
Hawley meminta Zuckerberg untuk melestarikan catatan yang relevan dan menghasilkan dokumen untuk penyelidikan. Ini termasuk mereka yang mencakup risiko konten AI generatif dan standar keselamatan (dan produk yang mereka perintah), tinjauan risiko, laporan insiden, komunikasi publik tentang keselamatan kecil untuk chatbots dan identitas karyawan yang terlibat dalam keputusan.
Meskipun mudah untuk memuji seseorang yang memegang meta untuk tugas, perlu dicatat bahwa surat Senator Hawley kepada Meta tidak menyebutkan bagian rasis dari dokumen kebijakan. Hawley juga pernah menggalang dana dari citra dia mengangkat tinju ke pemberontak 6 Januari dan, pada tahun 2021, adalah satu-satunya senator yang memberikan suara menentang RUU yang membantu penegakan hukum meninjau kejahatan rasis era pandemi terhadap orang Asia-Amerika.
