Infomalangraya.com –
Pada musim panas tahun 2023, OpenAI membentuk tim “Superalignment” yang bertujuan untuk mengarahkan dan mengendalikan sistem AI masa depan yang bisa menjadi sangat kuat sehingga dapat menyebabkan kepunahan manusia. Kurang dari setahun kemudian, tim itu mati.
OpenAI memberi tahu Bloomberg bahwa perusahaan tersebut “mengintegrasikan kelompok tersebut secara lebih mendalam dalam upaya penelitiannya untuk membantu perusahaan mencapai tujuan keselamatannya.” Namun serangkaian tweet dari Jan Leike, salah satu pemimpin tim yang baru-baru ini berhenti mengungkapkan ketegangan internal antara tim keselamatan dan perusahaan yang lebih besar.
Dalam sebuah pernyataan diposting pada X pada hari Jumat, Leike mengatakan bahwa tim Superalignment telah berjuang untuk mendapatkan sumber daya untuk menyelesaikan penelitian. “Membangun mesin yang lebih pintar dari manusia pada dasarnya merupakan upaya yang berbahaya,” tulis Leike. “OpenAI memikul tanggung jawab yang sangat besar atas nama seluruh umat manusia. Namun dalam beberapa tahun terakhir, budaya dan proses keselamatan tidak lagi menjadi prioritas bagi produk-produk cemerlang.” OpenAI tidak segera menanggapi permintaan komentar dari Engadget.
Kepergian Leike awal pekan ini terjadi beberapa jam setelah kepala ilmuwan OpenAI Sutskevar mengumumkan bahwa dia akan meninggalkan perusahaan. Sutskevar tidak hanya salah satu pemimpin tim Superalignment, tetapi juga membantu mendirikan perusahaan. Langkah Sutskevar terjadi enam bulan setelah dia terlibat dalam keputusan memecat CEO Sam Altman karena kekhawatiran bahwa Altman tidak “secara konsisten jujur” kepada dewan direksi. Pemecatan Altman yang terlalu singkat memicu pemberontakan internal di dalam perusahaan dengan hampir 800 karyawan menandatangani surat yang berisi ancaman akan berhenti jika Altman tidak dipekerjakan kembali. Lima hari kemudian, Altman kembali menjadi CEO OpenAI setelah Sutskevar menandatangani surat yang menyatakan bahwa ia menyesali perbuatannya.
Ketika mengumumkan pembentukan tim Superalignment, OpenAI mengatakan bahwa mereka akan mendedikasikan 20 persen kekuatan komputernya selama empat tahun ke depan untuk memecahkan masalah pengendalian sistem AI yang kuat di masa depan. “[Getting] hak ini sangat penting untuk mencapai misi kami,” tulis perusahaan tersebut pada saat itu. Di X, Leike menulis bahwa tim Superalignment “berjuang untuk komputasi dan semakin sulit” untuk menyelesaikan penelitian penting seputar keamanan AI. “Selama beberapa bulan terakhir, tim saya telah berlayar melawan angin,” tulisnya dan menambahkan bahwa ia telah mencapai “titik puncaknya” dengan kepemimpinan OpenAI karena perbedaan pendapat mengenai prioritas inti perusahaan.
Selama beberapa bulan terakhir, semakin banyak yang keluar dari tim Superalignment. Pada bulan April, OpenAI dilaporkan memecat dua peneliti, Leopold Aschenbrenner dan Pavel Izmailov, karena diduga membocorkan informasi.
OpenAI memberi tahu Bloomberg bahwa upaya keselamatannya di masa depan akan dipimpin oleh John Schulman, salah satu pendiri lainnya, yang penelitiannya berfokus pada model bahasa besar. Jakub Pachocki, direktur yang memimpin pengembangan GPT-4 – salah satu model bahasa besar andalan OpenAI – akan menggantikan Sutskevar sebagai kepala ilmuwan.
Superalignment bukan satu-satunya tim di OpenAI yang berfokus pada keamanan AI. Pada bulan Oktober, perusahaan tersebut membentuk tim “kesiapsiagaan” baru untuk membendung potensi “risiko bencana” dari sistem AI termasuk masalah keamanan siber dan ancaman kimia, nuklir, dan biologi.
Pembaruan, 17 Mei 2024, 15.28 ET: Menanggapi permintaan komentar atas tuduhan Leike, seorang humas OpenAI mengarahkan Engadget ke tweet Sam Altman yang mengatakan bahwa dia akan mengatakan sesuatu dalam beberapa hari ke depan.
Artikel ini berisi link afiliasi; jika Anda mengeklik tautan tersebut dan melakukan pembelian, kami dapat memperoleh komisi.
