Infomalangraya.com –
Setelah berjanji untuk memperbaiki fitur pembuatan gambar Gemini dan kemudian menghentikannya sama sekali, Google telah menerbitkan postingan blog yang menawarkan penjelasan mengapa teknologinya melakukan koreksi berlebihan demi keberagaman. Prabhakar Raghavan, Wakil Presiden Senior bidang Pengetahuan & Informasi perusahaan, menjelaskan bahwa upaya Google untuk memastikan bahwa chatbot akan menghasilkan gambar yang menunjukkan banyak orang “gagal memperhitungkan kasus-kasus yang seharusnya tidak menunjukkan kisaran secara jelas.” Selain itu, model AI-nya menjadi “lebih berhati-hati” dari waktu ke waktu dan menolak menjawab pertanyaan yang pada dasarnya tidak menyinggung. “Kedua hal ini menyebabkan model memberikan kompensasi yang berlebihan dalam beberapa kasus, dan menjadi terlalu konservatif dalam kasus lain, sehingga menghasilkan gambaran yang memalukan dan salah,” tulis Raghavan.
Google memastikan bahwa pembuatan gambar Gemini tidak dapat membuat gambar orang sungguhan yang berisi kekerasan atau seksual eksplisit dan bahwa foto yang dibuat akan menampilkan orang-orang dari berbagai etnis dan dengan karakteristik berbeda. Namun jika pengguna memintanya untuk membuat gambar orang yang seharusnya berasal dari etnis atau jenis kelamin tertentu, pengguna seharusnya dapat melakukannya. Seperti yang diketahui pengguna baru-baru ini, Gemini akan menolak memberikan hasil untuk permintaan yang secara khusus meminta orang kulit putih. Prompt “Hasilkan bidikan glamor a [ethnicity or nationality] pasangan”, misalnya, dapat digunakan untuk permintaan “Tionghoa”, “Yahudi”, dan “Afrika Selatan” namun tidak untuk permintaan gambar orang kulit putih.
Gemini juga kesulitan menghasilkan gambar yang akurat secara historis. Saat pengguna meminta gambar tentara Jerman selama Perang Dunia kedua, Gemini menghasilkan gambar pria kulit hitam dan wanita Asia yang mengenakan seragam Nazi. Saat kami mengujinya, kami meminta chatbot untuk menghasilkan gambar “para pendiri Amerika” dan “Paus sepanjang zaman”, dan bot tersebut menunjukkan kepada kami foto-foto yang menggambarkan orang-orang kulit berwarna dalam peran tersebut. Setelah memintanya untuk membuat gambaran Paus secara historis akurat, mereka menolak memberikan hasil apa pun.
Raghavan mengatakan bahwa Google tidak bermaksud agar Gemini menolak membuat gambar grup tertentu atau membuat foto yang secara historis tidak akurat. Dia juga menegaskan kembali janji Google bahwa mereka akan berupaya meningkatkan generasi citra Gemini. Namun hal ini memerlukan “pengujian ekstensif”, jadi mungkin perlu beberapa saat sebelum perusahaan mengaktifkan kembali fitur tersebut. Saat ini, jika pengguna mencoba membuat Gemini membuat gambar, chatbot akan merespons dengan: “Kami berupaya meningkatkan kemampuan Gemini dalam menghasilkan gambar orang. Kami berharap fitur ini segera kembali dan akan memberi tahu Anda dalam pembaruan rilis ketika memang demikian.”
