Infomalangraya.com –
Uni Eropa sedang dalam tahap akhir menyusun undang-undang pertama dari jenisnya untuk mengatur penggunaan kecerdasan buatan yang berbahaya. Namun, seperti yang berlaku saat ini, undang-undang yang diusulkan, yang disebut Undang-Undang Kecerdasan Buatan UE, mengandung titik buta yang mematikan: Undang-undang tersebut tidak melarang banyak penggunaan sistem Kecerdasan Buatan yang merugikan dan berbahaya dalam konteks penegakan imigrasi.
Kami, sebuah koalisi organisasi hak asasi manusia, menyerukan kepada anggota parlemen Uni Eropa untuk memastikan bahwa undang-undang penting ini melindungi semua orang, termasuk pencari suaka dan lainnya yang bergerak di perbatasan Eropa dari teknologi pengawasan yang berbahaya dan rasis. Kami meminta mereka untuk memastikan teknologi AI digunakan untuk #ProtectNotSurveil.
AI membuat perbatasan lebih mematikan
Perbatasan Eropa menjadi lebih mematikan setiap harinya. Teknologi padat data, termasuk sistem kecerdasan buatan, semakin banyak digunakan untuk membuat Fortress Europe tidak dapat ditembus. Otoritas perbatasan dan kepolisian menggunakan analitik prediktif, penilaian risiko melalui basis data biometrik kolosal yang dapat dioperasikan, dan drone yang diperbesar AI untuk mengawasi orang yang sedang bergerak dan mendorong mereka menjauh dari perbatasan UE. Misalnya, agen perbatasan Eropa Frontex, yang dituduh terlibat dalam pelanggaran berat hak asasi manusia di banyak perbatasan UE, diketahui menggunakan berbagai sistem teknologi bertenaga AI untuk memfasilitasi operasi penolakan yang keras dan ilegal.
Dari pendeteksi kebohongan hingga drone dan sistem bertenaga AI lainnya, alat pengawasan perbatasan terbukti mendorong orang ke rute yang lebih berbahaya dan mematikan, melucuti hak privasi fundamental mereka dan secara tidak adil merugikan klaim mereka atas status imigrasi. Teknologi ini juga diketahui mengkriminalisasi dan memprofilkan secara rasial orang-orang yang sedang bepergian dan memfasilitasi deportasi tidak sah yang melanggar prinsip-prinsip perlindungan kemanusiaan.
UU Kecerdasan Buatan Uni Eropa dapat menolak penggunaan teknologi yang menindas
Pada saat negara-negara anggota UE berlomba untuk menyusun kebijakan anti-migrasi yang bertentangan dengan kewajiban hukum domestik dan internasional mereka, membatasi dan mengatur penggunaan kecerdasan buatan dalam pengendalian migrasi sangat penting untuk mencegah bahaya.
Ini juga merupakan kesempatan yang tidak dapat dilewatkan untuk mencegah akumulasi kekuatan yang mematikan dan tidak manusiawi di tangan pemerintah otoriter – baik di UE maupun di negara-negara di mana UE berupaya mengeksternalisasi perbatasannya.
Undang-undang AI UE dapat memberikan garis merah utama dan mekanisme akuntabilitas untuk membantu melindungi hak-hak dasar orang-orang yang terkena sistem AI dalam konteks kontrol migrasi. Sebagaimana diuraikan dalam amandemen yang kami usulkan untuk Undang-Undang AI, ini dapat mencakup larangan penggunaan algoritme rasis dan analitik prediktif untuk melabeli orang sebagai “ancaman” serta “pendeteksi kebohongan” berbasis AI yang meragukan dan alat pengenalan emosi lainnya untuk mendorong secara tidak sah orang jauh dari perbatasan. UE telah lama bekerja untuk melindungi warganya dari pengawasan massal biometrik dan perlindungan semacam itu diharapkan menjadi bagian dari Undang-Undang Kecerdasan Buatan UE yang final. Upaya ini tidak boleh mendiskriminasi berdasarkan kebangsaan dan gagasan risiko yang dirasialisasi dan harus diperluas untuk mencakup semua orang di Eropa
Kekuasaan untuk rakyat, bukan untuk sektor swasta
Kami juga khawatir bahwa menyerahkan penggunaan AI dalam kontrol migrasi kepada negara-negara anggota UE akan mengarah pada perlombaan global menuju teknologi yang lebih mengganggu untuk mencegah atau menghalangi migrasi – teknologi yang secara mendasar akan mengubah atau, paling buruk, mengakhiri kehidupan manusia nyata.
Jika Undang-Undang AI UE gagal untuk mengatur dan membatasi penggunaan teknologi AI dalam penegakan migrasi, pelaku swasta akan dengan cepat mengeksploitasi celah untuk secara paksa mendorong produk baru. Mereka akan mengirim produk mereka ke perbatasan kita tanpa pemeriksaan yang layak, seperti halnya penggunaan yang termasuk dalam cakupan Undang-Undang Kecerdasan Buatan akan tunduk pada regulasi dan hambatan masuk yang lebih ketat.
Ini adalah industri bernilai miliaran dolar yang menguntungkan. Frontex menghabiskan 434 juta euro ($476 juta) untuk pengawasan tingkat militer dan infrastruktur TI dari 2014 hingga 2020. Teknologi akan dikerahkan dan dilatih dengan mengorbankan hak-hak fundamental masyarakat dan kemudian digunakan kembali dalam konteks lain di luar kendali migrasi, menghindari pengawasan penting di tahap desain.
Kami telah melihat aktor swasta – seperti Palantir, G4S, dan Buddi Ltd yang kurang terkenal – memanfaatkan keinginan pemerintah untuk lebih banyak pengawasan untuk menjual teknologi yang memfasilitasi praktik tidak manusiawi di perbatasan dan pelanggaran hak dasar orang yang sedang bepergian.
Masih ada waktu bagi UE untuk melakukan hal yang benar: memastikan penggunaan AI yang tidak dapat diterima dalam konteks migrasi dilarang dan semua celah ditutup, sehingga standar UE tentang privasi dan hak dasar lainnya berlaku sama untuk semua.
Penanda tangan
Lucie Audibert, pengacara, Privasi Internasional
Hope Barker, analis kebijakan senior, Jaringan Pemantauan Kekerasan Perbatasan
Mher Hakobyan, penasihat advokasi regulasi AI, Amnesty International
Petra Molnar, direktur asosiasi, Lab Hukum Pengungsi, Universitas York; sesama, Sekolah Hukum Harvard
Derya Ozkul, rekan peneliti senior, Universitas Oxford
Caterina Rodelli, analis kebijakan UE, Access Now
Alyna Smith, Platform Kerjasama Internasional untuk Migran Tanpa Dokumen
Pandangan yang diungkapkan dalam artikel ini adalah milik penulis dan tidak mencerminkan sikap editorial Al Jazeera.
