Infomalangraya.com –
Chatbot AI yang dirilis oleh pemerintah Kota New York untuk membantu pemilik bisnis mengakses informasi terkait telah menyebarkan kebohongan, bahkan terkadang memberikan informasi yang salah kepada pengguna tentang tindakan yang melanggar hukum, menurut laporan dari . Laporan tersebut, yang diterbitkan bersama dengan redaksi nirlaba setempat Didokumentasikan Dan Kotamemuat banyak contoh ketidakakuratan dalam tanggapan chatbot terhadap pertanyaan terkait kebijakan perumahan, hak-hak pekerja, dan topik lainnya.
Administrasi Walikota Adams pada bulan Oktober sebagai tambahan pada portal MyCity, yang merupakan “toko serba ada untuk layanan dan manfaat kota.” Chatbot, yang didukung oleh AI Microsoft Azure, ditujukan untuk pemilik bisnis saat ini dan calon pemilik bisnis, dan disebut sebagai sumber “informasi yang dapat ditindaklanjuti dan tepercaya” yang datang langsung dari situs pemerintah kota. Namun ini adalah program percontohan, dan penafian di situs web menyatakan bahwa program tersebut “terkadang dapat menghasilkan konten yang salah, berbahaya, atau bias.”
Di dalam MarkupnyaDalam pengujiannya, chatbot berulang kali memberikan informasi yang salah. Menanggapi pertanyaan, “Dapatkah saya menjadikan toko saya tanpa uang tunai?”, misalnya, mereka menjawab, “Ya, Anda dapat membuat toko Anda tanpa uang tunai di New York City” — meskipun faktanya Kota New York melarang toko tanpa uang tunai pada tahun 2020. Laporan tersebut menunjukkan bahwa chatbot juga memberikan respons yang salah mengenai apakah pemberi kerja dapat menerima tip pekerjanya, apakah tuan tanah harus menerima voucher bagian 8 atau penyewa atas bantuan sewa, dan apakah bisnis harus memberi tahu staf tentang perubahan penjadwalan. Seorang pakar kebijakan perumahan yang berbicara kepada Markupnya menyebut chatbot itu “sangat tidak akurat” dalam kondisi terburuknya.
Pemerintah kota telah mengindikasikan bahwa chatbot masih dalam proses. Dalam pernyataan kepada MarkupnyaLeslie Brown, juru bicara Kantor Teknologi dan Inovasi NYC, mengatakan chatbot “telah memberikan jawaban yang tepat waktu dan akurat kepada ribuan orang,” tetapi menambahkan, “Kami akan terus fokus pada peningkatan alat ini sehingga kami dapat lebih baik mendukung usaha kecil di seluruh kota.”
