Infomalangraya.com –
Gubernur California Gavin Newsom telah memveto RUU SB 1047, yang bertujuan untuk mencegah pelaku kejahatan menggunakan AI untuk menyebabkan “kerusakan kritis” pada manusia. Majelis negara bagian California meloloskan undang-undang tersebut dengan selisih 41-9 pada tanggal 28 Agustus, namun beberapa organisasi termasuk Kamar Dagang telah mendesak Newsom untuk memveto RUU tersebut. Dalam pesan vetonya pada tanggal 29 September, Newsom mengatakan RUU tersebut “berniat baik” namun “tidak mempertimbangkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau penggunaan data sensitif. Sebaliknya, RUU ini menerapkan standar yang ketat bahkan untuk fungsi yang paling dasar sekalipun – selama sistem besar menerapkannya.”
SB 1047 akan membuat pengembang model AI bertanggung jawab untuk mengadopsi protokol keselamatan yang akan menghentikan penggunaan teknologi mereka secara besar-besaran. Hal ini mencakup tindakan pencegahan seperti pengujian dan penilaian risiko dari luar, serta “penghentian darurat” yang akan mematikan model AI sepenuhnya. Pelanggaran pertama akan dikenakan biaya minimal $10 juta dan $30 juta untuk pelanggaran berikutnya. Namun, RUU tersebut direvisi untuk menghilangkan kemampuan jaksa agung negara bagian untuk menuntut perusahaan AI yang melakukan praktik lalai jika tidak terjadi peristiwa bencana. Perusahaan hanya akan dikenakan ganti rugi dan dapat dituntut jika model mereka menyebabkan kerugian yang parah.
Undang-undang ini akan berlaku untuk model AI yang memerlukan biaya penggunaan setidaknya $100 juta dan 10^26 FLOPS untuk pelatihan. Hal ini juga akan mencakup proyek turunan jika pihak ketiga telah menginvestasikan $10 juta atau lebih dalam mengembangkan atau memodifikasi model aslinya. Perusahaan mana pun yang melakukan bisnis di California akan tunduk pada peraturan tersebut jika memenuhi persyaratan lainnya. Menanggapi fokus RUU ini pada sistem skala besar, Newsom mengatakan, “Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.” Pesan veto menambahkan:
Dengan hanya berfokus pada model yang paling mahal dan berskala besar, SB 1047 menetapkan kerangka peraturan yang dapat memberikan rasa aman yang salah kepada masyarakat dalam mengendalikan teknologi yang bergerak cepat ini. Model yang lebih kecil dan terspesialisasi mungkin sama atau bahkan lebih berbahaya daripada model yang ditargetkan oleh SB 1047 – dengan potensi mengorbankan inovasi yang mendorong kemajuan demi kepentingan publik.
Versi sebelumnya dari SB 1047 akan membentuk departemen baru yang disebut Divisi Model Frontier untuk mengawasi dan menegakkan aturan. Sebaliknya, rancangan undang-undang tersebut diubah sebelum pemungutan suara komite untuk menempatkan tata kelola di tangan Dewan Model Frontier dalam Badan Operasional Pemerintah. Kesembilan anggota tersebut akan ditunjuk oleh gubernur dan badan legislatif negara bagian.
RUU tersebut menghadapi jalan yang rumit menuju pemungutan suara akhir. SB 1047 ditulis oleh Senator Negara Bagian California Scott Wiener, yang menceritakan TechCrunch.dll: “Kita punya sejarah dengan teknologi yang selalu menunggu terjadinya bencana, lalu meremas-remas tangan kita. Jangan menunggu sesuatu yang buruk terjadi. Mari kita segera keluar dari situ.” Peneliti AI terkemuka Geoffrey Hinton dan Yoshua Bengio mendukung undang-undang tersebut, begitu pula Pusat Keamanan AI, yang telah meningkatkan kewaspadaan mengenai risiko AI selama setahun terakhir.
“Biar saya perjelas – saya setuju dengan penulisnya – kita tidak bisa menunggu bencana besar terjadi sebelum mengambil tindakan untuk melindungi masyarakat,” kata Newsom dalam pesan vetonya. Pernyataan itu berlanjut:
California tidak akan mengabaikan tanggung jawabnya. Protokol keselamatan harus diadopsi. Pagar pembatas yang proaktif harus diterapkan, dan konsekuensi berat bagi pelaku kejahatan harus jelas dan dapat ditegakkan. Namun saya tidak setuju bahwa untuk menjaga keamanan masyarakat, kita harus menerima solusi yang tidak didasarkan pada analisis empiris sistem dan kemampuan AI. Pada akhirnya, kerangka kerja apa pun untuk mengatur AI secara efektif harus sejalan dengan teknologi itu sendiri.
SB 1047 mendapat tentangan keras dari seluruh dunia teknologi. Peneliti Fei-Fei Li mengkritik rancangan undang-undang tersebut, begitu pula Kepala Ilmuwan AI Meta Yann LeCun, karena membatasi potensi eksplorasi penggunaan baru AI. Kelompok perdagangan yang menolak raksasa teknologi seperti Amazon, Apple dan Google mengatakan SB 1047 akan membatasi perkembangan baru di sektor teknologi negara bagian tersebut. Perusahaan modal ventura Andreeson Horowitz dan beberapa perusahaan rintisan juga mempertanyakan apakah RUU tersebut memberikan beban keuangan yang tidak perlu pada inovator AI. Anthropic dan penentang RUU asli lainnya mendorong amandemen yang diadopsi dalam versi SB 1047 yang disahkan Komite Alokasi California pada 15 Agustus.
