Infomalangraya.com –
OpenAI telah membentuk Komite Keselamatan dan Keamanan baru kurang dari dua minggu setelah perusahaan membubarkan tim yang bertugas melindungi umat manusia dari ancaman nyata AI. Versi terbaru dari kelompok yang bertanggung jawab atas pagar pengaman OpenAI ini akan mencakup dua anggota dewan dan CEO Sam Altman, yang menimbulkan pertanyaan tentang apakah langkah ini tidak lebih dari sekadar teater pengawasan mandiri di tengah persaingan yang sangat ketat untuk mendapatkan keuntungan dan dominasi bersama mitranya, Microsoft.
Komite Keselamatan dan Keamanan, yang dibentuk oleh dewan OpenAI, akan dipimpin oleh anggota dewan Bret Taylor (Ketua), Nicole Seligman, Adam D’Angelo dan Sam Altman (CEO). Tim baru ini mengikuti pengunduran diri salah satu pendiri Ilya Sutskever dan Jan Leike, yang membuat banyak orang terkejut. Mantan “Tim Superalignment” mereka baru dibentuk Juli lalu.
Setelah pengunduran dirinya, Leike menulis di thread X (Twitter) pada tanggal 17 Mei bahwa, meskipun ia percaya pada misi inti perusahaan, ia keluar karena kedua belah pihak (produk dan keselamatan) “mencapai titik puncaknya.” Leike menambahkan bahwa dia “khawatir kita tidak berada pada jalur yang tepat” untuk mengatasi masalah terkait keselamatan secara memadai seiring dengan semakin cerdasnya AI. Dia menyatakan bahwa tim Superalignment baru-baru ini “berlayar melawan angin” di dalam perusahaan dan bahwa “budaya dan proses keselamatan tidak lagi menjadi produk yang cemerlang.”
Sebuah pandangan yang sinis adalah bahwa sebuah perusahaan yang terutama fokus pada “produk-produk cemerlang” – ketika mencoba untuk menangkis dampak humas dari tindakan keselamatan yang penting – mungkin akan membentuk tim keselamatan baru yang dipimpin oleh orang-orang yang sama yang bergerak cepat menuju produk-produk cemerlang tersebut.
Keberangkatan keselamatan awal bulan ini bukan satu-satunya berita mengkhawatirkan dari perusahaan baru-baru ini. Mereka juga meluncurkan (dan dengan cepat menarik) model suara baru yang terdengar sangat mirip dengan peraih nominasi Oscar dua kali, Scarlett Johansson. Itu Kelinci Jojo aktor kemudian mengungkapkan bahwa OpenAI Sam Altman telah meminta persetujuannya untuk menggunakan suaranya untuk melatih model AI tetapi dia menolak.
Dalam sebuah pernyataan kepada Engadget, tim Johansson mengatakan dia terkejut bahwa OpenAI akan menampilkan pengisi suara yang “terdengar sangat mirip” dengannya setelah mendapatkan izinnya. Pernyataan itu menambahkan bahwa “teman-teman terdekat dan outlet berita Johansson tidak dapat membedakannya.”
OpenAI juga menarik kembali perjanjian yang tidak meremehkan yang diwajibkan oleh para eksekutif yang mengundurkan diri, dan mengubah nadanya dengan mengatakan bahwa mereka tidak akan menegakkan perjanjian tersebut. Sebelumnya, perusahaan memaksa karyawan yang keluar untuk memilih antara dapat berbicara menentang perusahaan atau mempertahankan ekuitas yang mereka peroleh.
Komite Keselamatan dan Keamanan berencana untuk “mengevaluasi dan mengembangkan lebih lanjut” proses dan pengamanan perusahaan selama 90 hari ke depan. Setelah itu, kelompok akan membagikan rekomendasinya kepada seluruh pengurus. Setelah seluruh tim kepemimpinan meninjau kesimpulannya, mereka akan “secara terbuka membagikan pembaruan mengenai rekomendasi yang diadopsi dengan cara yang konsisten dengan keselamatan dan keamanan.”
Dalam postingan blognya yang mengumumkan Komite Keselamatan dan Keamanan yang baru, OpenAI mengonfirmasi bahwa perusahaan saat ini sedang melatih model berikutnya, yang akan menggantikan GPT-4. “Meskipun kami bangga membangun dan merilis model-model yang terdepan di industri dalam hal kemampuan dan keselamatan, kami menyambut baik perdebatan sengit pada momen penting ini,” tulis perusahaan itu.
