Infomalangraya.com –
Ini adalah pengingat berkala Anda bahwa chatbot bertenaga AI masih mengada-ada dan berbohong dengan keyakinan sistem GPS yang memberi tahu Anda bahwa jalan pulang terpendek adalah dengan berkendara melalui danau.
Pengingat saya datang dari Laboratorium Niemanyang bertujuan untuk melihat apakah ChatGPT akan menyediakan tautan yang benar ke artikel dari berbagai publikasi berita yang dibayar jutaan dolar. Ternyata ChatGPT tidak melakukannya. Sebaliknya, ChatGPT dengan percaya diri membuat seluruh URL, sebuah fenomena yang disebut industri AI sebagai “berhalusinasi,” sebuah istilah yang tampaknya lebih tepat untuk orang sungguhan yang mabuk dengan omong kosongnya sendiri.
Lab NiemanAndrew Deck dari Andrew Deck meminta layanan tersebut untuk menyediakan tautan ke cerita-cerita eksklusif dan terkenal yang diterbitkan oleh 10 penerbit dimana OpenAI telah mencapai kesepakatan senilai jutaan dolar. Ini termasuk Pers TerkaitBahasa Indonesia: Jurnal Wall Streetitu Waktu keuangan, Waktu (Inggris), DuniaBahasa Indonesia: Negara, AtlantikBahasa Indonesia: The VergeBahasa Indonesia: SuaraDan PolitikSebagai tanggapan, ChatGPT mengembalikan URL yang dibuat-buat yang mengarah ke halaman kesalahan 404 karena URL tersebut tidak ada. Dengan kata lain, sistem tersebut bekerja persis seperti yang dirancang: dengan memprediksi versi URL cerita yang paling mungkin, alih-alih mengutip versi yang benar. Laboratorium Nieman melakukan percobaan serupa dengan satu publikasi — Orang Dalam Bisnis — awal bulan ini dan .
Seorang juru bicara OpenAI mengatakan Laboratorium Nieman bahwa perusahaan masih membangun “pengalaman yang memadukan kemampuan percakapan dengan konten berita terbaru mereka, memastikan atribusi yang tepat dan tertaut ke materi sumber — pengalaman yang ditingkatkan yang masih dalam pengembangan dan belum tersedia di ChatGPT.” Namun mereka menolak menjelaskan URL palsu tersebut.
Kami tidak tahu kapan pengalaman baru ini akan tersedia atau seberapa andal pengalaman tersebut. Meskipun demikian, penerbit berita terus menghabiskan bertahun-tahun jurnalisme dengan imbalan uang tunai karena industri jurnalisme harus mencari cara untuk menghasilkan uang tanpa harus bekerja di perusahaan teknologi. Sementara itu, perusahaan AI bergantung pada konten yang diterbitkan oleh siapa saja yang belum menandatangani perjanjian Faustian ini dan tetap menggunakannya untuk melatih model mereka. Mustafa Suleiman, kepala AI Microsoft, apa pun yang dipublikasikan di internet sebagai “freeware” adalah permainan yang adil untuk melatih model AI. Microsoft bernilai $3,36 triliun pada saat saya menulis ini.
Ada pelajaran di sini: Jika ChatGPT mengarang URL, itu juga mengarang fakta. Begitulah cara kerja AI generatif — pada intinya, teknologi ini adalah versi pelengkapan otomatis yang lebih canggih, cukup dengan menebak kata berikutnya yang masuk akal secara berurutan. Ia tidak “mengerti” apa yang Anda katakan, meskipun ia bertindak seperti itu. Baru-baru ini, saya mencoba mendapatkan chatbot terkemuka untuk membantu saya menyelesaikan masalah ini Waktu New York Spelling Bee dan awasi mereka.
Jika AI generatif bahkan tidak dapat menyelesaikan Spelling Bee, Anda sebaiknya tidak menggunakannya untuk mendapatkan fakta.