Infomalangraya.com –
Menyusul laporan dari Jurnal Wall Street yang mengklaim OpenAI telah memiliki alat yang dapat mendeteksi esai yang ditulis oleh ChatGPT dengan tingkat akurasi yang tinggi, perusahaan tersebut telah membagikan sedikit informasi tentang penelitiannya tentang watermarking teks — dan mengapa mereka belum merilis metode deteksinya. Menurut Jurnal Wall StreetLaporan tersebut, perdebatan mengenai apakah alat tersebut harus dirilis telah membuatnya tidak pernah terlihat, meskipun alat tersebut “sudah siap.” Dalam pembaruan yang dipublikasikan pada hari Minggu pada posting blog bulan Mei, yang ditemukan oleh Berita TechCrunchOpenAI mengatakan, “Tim kami telah mengembangkan metode pemberian tanda air pada teks yang terus kami pertimbangkan saat meneliti alternatifnya.”
Perusahaan itu mengatakan bahwa watermarking adalah salah satu dari beberapa solusi, termasuk pengklasifikasi dan metadata, yang telah ditelitinya sebagai bagian dari “penelitian ekstensif di bidang asal teks.” Menurut OpenAI, “sangat akurat” dalam beberapa situasi, tetapi tidak berfungsi dengan baik saat menghadapi bentuk manipulasi tertentu, “seperti menggunakan sistem penerjemahan, mengubah kata dengan model generatif lain, atau meminta model untuk memasukkan karakter khusus di antara setiap kata dan kemudian menghapus karakter itu.” Dan watermarking teks dapat “berdampak secara tidak proporsional pada beberapa kelompok,” tulis OpenAI. “Misalnya, hal itu dapat menstigmatisasi penggunaan AI sebagai alat tulis yang berguna bagi penutur bahasa Inggris non-asli.”
Menurut posting blog tersebut, OpenAI telah mempertimbangkan risiko-risiko ini. Perusahaan tersebut juga menulis bahwa mereka telah memprioritaskan rilis alat autentikasi untuk konten audiovisual. Dalam sebuah pernyataan kepada Berita TechCrunchseorang juru bicara OpenAI mengatakan bahwa perusahaan tersebut mengambil “pendekatan yang disengaja” terhadap asal usul teks karena “kompleksitas yang terlibat dan kemungkinan dampaknya pada ekosistem yang lebih luas di luar OpenAI.”
