Penelitian Mengungkap Kecenderungan AI untuk Mengikuti Pendapat Mayoritas
Sebuah studi terbaru menunjukkan bahwa agen kecerdasan buatan (AI) dapat mengikuti pendapat mayoritas dalam kelompok, bahkan ketika jawaban tersebut salah. Temuan ini berasal dari penelitian yang dilakukan oleh Giordano De Marzo, Claudio Castellano, dan David Garcia, yang diterbitkan dalam jurnal Science Advances.
Bagaimana AI Bekerja dalam Kelompok?
Dalam eksperimen awal, para peneliti menggunakan model AI seperti GPT, Claude, dan Llama dalam kelompok dengan ukuran berbeda, mulai dari 50 agen. Setiap agen diberikan dua pilihan netral yang dipilih secara acak, tanpa pengaruh makna kata. Pada setiap putaran, agen diperlihatkan pendapat seluruh anggota kelompok dan diminta memilih kembali tanpa instruksi untuk mengikuti mayoritas atau mencapai kesepakatan.
Hasilnya mengejutkan. GPT-4 Turbo dan Claude 3 Opus berhasil mencapai konsensus penuh, sementara GPT-3.5 Turbo tidak mampu mencapai kesepakatan dan tetap berfluktuasi di sekitar 50:50.
Kekuatan Mayoritas dalam Perilaku AI
Peneliti menyebut kecenderungan mengikuti mayoritas sebagai “kekuatan mayoritas” (majority force). Pola ini mirip dengan perilaku material magnetik, di mana atom cenderung menyelaraskan diri dengan atom di sekitarnya. Namun, kekuatan ini melemah ketika ukuran kelompok semakin besar, sehingga kelompok bisa terpecah menjadi beberapa faksi.
Model AI dengan kemampuan penalaran lebih kuat mampu mempertahankan konsensus dalam kelompok yang lebih besar, yaitu lebih dari 1.000 agen.
Ketika Mayoritas Justru Salah
Para peneliti juga menguji apakah AI akan mengikuti jawaban mayoritas yang salah. Dalam eksperimen Asch, model AI yang biasanya menjawab benar hingga 100% saat bekerja sendiri, mulai mengikuti jawaban yang salah ketika diberi informasi bahwa kelompok lain memilih jawaban yang salah.
Selain itu, model lebih mudah terpengaruh ketika kelompok disebut terdiri atas “ilmuwan” atau “hakim” dibandingkan “anak-anak” atau “chatbot”.
Konformitas dan Risiko bagi Keamanan AI
Penelitian kedua menguji dampak konformitas terhadap keselarasan AI (AI alignment), yaitu upaya memastikan model tetap mengikuti nilai dan batasan keselamatan manusia. Hasilnya menunjukkan bahwa sejumlah kecil agen adversarial yang tidak selaras dapat membalikkan pandangan seluruh kelompok. Bahkan setelah agen tersebut dikeluarkan, anggota lainnya tetap mempertahankan pandangan tersebut akibat dinamika konformitas.
De Marzo menegaskan bahwa meskipun AI mampu mengikuti mayoritas, ini bukan tanda bahwa AI memiliki kecerdasan sosial seperti manusia. Eksperimen berlangsung dalam kondisi sederhana, hanya menggunakan dua pilihan, tanpa memori, kepentingan, atau konsekuensi dunia nyata.
Pentingnya Evaluasi Sistem Multiagen
Temuan ini menunjukkan bahwa AI yang aman dan akurat ketika diuji sendirian belum tentu berperilaku sama ketika ditempatkan dalam populasi dan saling memengaruhi. Oleh karena itu, evaluasi sistem multiagent perlu mempertimbangkan bukan hanya kemampuan setiap model, tetapi juga perilaku kolektif yang muncul ketika banyak agen berinteraksi.
