Infomalangraya.com –
Dari aksi Hollywood hingga potret digital, potensi AI untuk mencuri karya kreatif dan cara menghentikannya telah mendominasi perbincangan teknologi pada tahun 2023. Upaya terbaru untuk melindungi seniman dan kreasi mereka adalah Nightshade, sebuah alat yang memungkinkan seniman menambahkan piksel yang tidak terdeteksi ke dalam karya mereka. yang dapat merusak data pelatihan AI, itu Tinjauan Teknologi MIT laporan. Kreasi Nightshade muncul ketika perusahaan besar seperti OpenAI dan Meta menghadapi tuntutan hukum atas pelanggaran hak cipta dan pencurian karya pribadi tanpa kompensasi.
Profesor Universitas Chicago Ben Zhao dan timnya menciptakan Nightshade, yang saat ini sedang ditinjau oleh rekan sejawat, dalam upaya mengembalikan sebagian kekuasaan ke tangan seniman. Mereka mengujinya pada model Difusi Stabil terbaru dan AI yang mereka buat sendiri dari awal.
Nightshade pada dasarnya berfungsi sebagai racun, mengubah cara model pembelajaran mesin menghasilkan konten dan seperti apa produk akhirnya. Misalnya, hal ini dapat membuat sistem AI menafsirkan perintah untuk tas tangan sebagai pemanggang roti atau menampilkan gambar kucing, bukan anjing yang diminta (hal yang sama berlaku untuk perintah serupa seperti anak anjing atau serigala).
Nightshade mengikuti peluncuran alat yang disebut Glaze oleh Zhao dan timnya pada bulan Agustus, yang juga secara halus mengubah piksel sebuah karya seni tetapi membuat sistem AI mendeteksi gambar awal sebagai sesuatu yang sama sekali berbeda dari aslinya. Seniman yang ingin melindungi karyanya dapat mengunggahnya ke Glaze dan memilih untuk menggunakan Nightshade.
Teknologi yang merusak seperti Nightshade dapat mendorong pemain utama AI untuk meminta dan memberi kompensasi pada karya seniman dengan benar (sepertinya ini merupakan alternatif yang lebih baik daripada memasang ulang sistem Anda). Perusahaan yang ingin menghilangkan racun tersebut mungkin perlu menemukan setiap bagian data yang rusak, sebuah tugas yang menantang. Zhao memperingatkan bahwa beberapa orang mungkin mencoba menggunakan alat ini untuk tujuan jahat, namun kerusakan nyata akan memerlukan ribuan karya yang rusak.
Artikel ini pertama kali muncul di Engadget di https://www.engadget.com/new-tool-lets-artists-fight-ai-image-bots-by-hiding-corrupt-data-in-plain-sight-095519848.html ?src=rss
