Infomalangraya.com –
Industri AI yang sedang berkembang telah berhasil melewati bagian “bergerak cepat” dalam perkembangannya, dan langsung memasuki bagian di mana kita “menghancurkan banyak hal” — seperti masyarakat! Sejak ChatGPT dirilis pada bulan November lalu, sistem AI generatif telah mengambil alih dunia digital dan digunakan dalam segala hal mulai dari pengkodean mesin dan aplikasi industri hingga desain game dan hiburan virtual. Ini juga dengan cepat diadopsi untuk tujuan terlarang seperti meningkatkan operasi email spam dan membuat deepfake.
Ini adalah salah satu jin teknologi yang tidak akan pernah kita dapatkan lagi, jadi sebaiknya kita berupaya mengaturnya, kata penulis, pengusaha, investor, dan penasihat kebijakan yang berbasis di Silicon Valley, Tom Kemp, dalam buku barunya, Berisi Teknologi Besar: Bagaimana Melindungi Hak Sipil, Ekonomi, dan Demokrasi Kita. Dalam kutipan di bawah ini, Kemp menjelaskan seperti apa bentuk peraturan tersebut dan apa dampak penerapannya bagi konsumen.
Pers Perusahaan Cepat
Kutipan dari Berisi Teknologi Besar: Cara Melindungi Hak Sipil, Ekonomi, dan Demokrasi Kita (IT Rev, 22 Agustus 2023)oleh Tom Kemp.
Peta jalan untuk mengandung AI
Pandora dalam mitos Yunani membawa hadiah yang kuat tetapi juga menimbulkan wabah penyakit dan kejahatan. Begitu pula dengan AI, kita perlu memanfaatkan manfaatnya namun tetap menjaga potensi bahaya yang ditimbulkan AI terhadap manusia di dalam kotak Pandora.
Ketika Dr. Timnit Gebru, pendiri Distributed Artificial Intelligence Research Institute (DAIR), ditanya oleh Waktu New York mengenai cara menghadapi bias AI, dia menjawab sebagian dengan ini: “Kita perlu memiliki prinsip dan standar, dan badan pengatur, serta orang-orang yang memberikan suara pada hal-hal dan algoritme yang diperiksa, serupa dengan FDA [Food and Drug Administration]. Jadi, bagi saya, ini tidak sesederhana membuat kumpulan data yang lebih beragam, dan semuanya sudah diperbaiki.”
Dia benar. Pertama dan terpenting, kita membutuhkan regulasi. AI adalah permainan baru, dan memerlukan aturan serta wasit. Dia menyarankan agar kita memerlukan AI yang setara dengan FDA. Sebenarnya, AAA dan ADPPA menyerukan agar FTC mengambil peran tersebut, namun alih-alih menyerahkan dan menyetujui pengajuan obat ke FDA, Big Tech dan pihak lain harus mengirimkan penilaian dampak AI mereka ke FTC untuk sistem AI. Penilaian ini ditujukan untuk sistem AI di bidang-bidang yang berdampak tinggi seperti perumahan, lapangan kerja, dan kredit, sehingga membantu kita mengatasi pengurangan digital dengan lebih baik. Oleh karena itu, rancangan undang-undang ini menumbuhkan akuntabilitas dan transparansi yang diperlukan bagi konsumen.
Pada musim gugur tahun 2022, Kantor Kebijakan Sains dan Teknologi (OSTP) pada pemerintahan Biden bahkan mengusulkan “Cetak Biru untuk Undang-Undang Hak Asasi Manusia AI.” Perlindungan mencakup hak untuk “mengetahui bahwa sistem otomatis sedang digunakan dan memahami bagaimana dan mengapa sistem tersebut berkontribusi terhadap hasil yang berdampak pada Anda.” Ini adalah ide yang bagus dan dapat dimasukkan ke dalam tanggung jawab pembuatan peraturan yang akan diemban FTC jika AAA atau ADPPA disahkan. Intinya adalah bahwa AI tidak boleh menjadi kotak hitam bagi konsumen, dan konsumen harus mempunyai hak untuk mengetahui dan menolak—sama seperti hak yang seharusnya mereka miliki dalam mengumpulkan dan memproses data pribadi mereka. Selain itu, konsumen harus mempunyai hak untuk mengambil tindakan pribadi jika sistem berbasis AI merugikan mereka. Dan situs web dengan sejumlah besar teks dan gambar yang dihasilkan oleh AI harus memiliki label nutrisi makanan yang setara untuk memberi tahu kita apa perbedaan antara konten yang dihasilkan AI dan konten yang dibuat oleh manusia.
Kami juga membutuhkan sertifikasi AI. Misalnya saja, industri keuangan telah mengakreditasi akuntan publik bersertifikat (CPA) serta audit dan laporan keuangan tersertifikasi, sehingga kita harus memiliki hal yang setara dengan AI. Dan kita memerlukan kode etik dalam penggunaan AI serta standar industri. Misalnya, Organisasi Internasional untuk Standardisasi (ISO) menerbitkan standar manajemen mutu yang dapat dipatuhi oleh organisasi untuk keamanan siber, keamanan pangan, dan sebagainya. Untungnya, kelompok kerja ISO telah mulai mengembangkan standar baru untuk manajemen risiko AI. Dan perkembangan positif lainnya adalah Institut Standar dan Teknologi Nasional (NIST) merilis kerangka kerja awal untuk manajemen risiko AI pada Januari 2023.
Kita harus mengingatkan perusahaan untuk memiliki tim desain yang lebih beragam dan inklusif dalam membangun AI. Seperti yang dikatakan Olga Russakovsky, asisten profesor di Departemen Ilmu Komputer di Universitas Princeton: “Ada banyak peluang untuk mendiversifikasi kelompok ini. [of people building AI systems]dan seiring dengan meningkatnya keberagaman, bias sistem AI itu sendiri akan berkurang.”
Ketika regulator dan anggota parlemen menyelidiki masalah antimonopoli yang berkaitan dengan perusahaan-perusahaan Teknologi Besar, AI tidak boleh diabaikan. Mengutip Wayne Gretzky, regulator perlu meluncur ke arah yang dituju, bukan ke tempat sebelumnya. AI adalah tujuan kemajuan teknologi. Oleh karena itu, akuisisi perusahaan AI oleh perusahaan Big Tech harus dicermati lebih dekat. Selain itu, pemerintah harus mempertimbangkan untuk mewajibkan kekayaan intelektual terbuka bagi AI. Misalnya, hal ini dapat dicontohkan pada keputusan persetujuan federal tahun 1956 dengan Bell yang mewajibkan Bell untuk melisensikan semua patennya tanpa royalti kepada bisnis lain. Hal ini menghasilkan inovasi luar biasa seperti transistor, sel surya, dan laser. Tidaklah sehat bagi perekonomian kita jika masa depan teknologi terkonsentrasi di tangan segelintir perusahaan saja.
Yang terakhir, masyarakat dan perekonomian kita harus lebih mempersiapkan diri menghadapi dampak AI yang akan menggusur pekerja melalui otomatisasi. Ya, kita perlu mempersiapkan warga negara kita dengan pendidikan dan pelatihan yang lebih baik untuk pekerjaan baru di dunia AI. Namun kita harus cerdas dalam hal ini, karena kita tidak bisa mengatakan bahwa kita harus melatih kembali semua orang untuk menjadi pengembang perangkat lunak, karena hanya sedikit yang memiliki keterampilan atau minat tersebut. Perhatikan juga bahwa AI semakin banyak dibangun untuk mengotomatisasi pengembangan program perangkat lunak, sehingga mengetahui keterampilan perangkat lunak apa yang harus diajarkan di dunia AI sangatlah penting. Seperti yang diungkapkan oleh ekonom Joseph E. Stiglitz, kita mempunyai masalah dalam mengelola perubahan skala kecil di bidang teknologi dan globalisasi yang telah menyebabkan polarisasi dan melemahnya demokrasi kita, dan perubahan yang ditimbulkan oleh AI lebih besar. Oleh karena itu, kita harus mempersiapkan diri untuk menghadapi hal tersebut dan memastikan bahwa AI memberikan dampak positif bagi masyarakat.
Mengingat Big Tech memimpin upaya dalam bidang AI, memastikan dampak positifnya harus dimulai dari mereka. AI sangatlah kuat, dan Big Tech “all-in” dengan AI, namun AI penuh dengan risiko jika bias muncul atau dibuat untuk dieksploitasi. Dan seperti yang saya dokumentasikan, Big Tech mempunyai masalah dengan penggunaan AI. Artinya, tidak hanya kedalaman dan luasnya pengumpulan data sensitif yang menjadi ancaman, namun cara Big Tech menggunakan AI untuk memproses data tersebut dan membuat keputusan otomatis juga merupakan ancaman.
Oleh karena itu, sama seperti kita perlu membatasi pengawasan digital, kita juga harus memastikan perusahaan teknologi besar tidak membuka kotak Pandora dengan AI.
Semua produk yang direkomendasikan oleh Engadget dipilih oleh tim editorial kami, independen dari perusahaan induk kami. Beberapa cerita kami menyertakan tautan afiliasi. Jika Anda membeli sesuatu melalui salah satu tautan ini, kami dapat memperoleh komisi afiliasi. Semua harga adalah benar pada saat dipublikasikan.
