Infomalangraya.com –
Palantir sudah menjual layanan pengawasan domestiknya ke Badan Imigrasi dan Bea Cukai AS, jadi tidak mengherankan jika perusahaan yang didirikan oleh miliarder Peter Thiel ini juga bekerja untuk membuat terobosan ke Pentagon. Pada hari Selasa, perusahaan merilis demo video dari penawaran terbarunya, Palantir Artificial Intelligence Platform (AIP). Sementara sistem itu sendiri hanya dirancang untuk mengintegrasikan model bahasa besar (LLM) seperti GPT-4 OpenAI atau BERT Google ke dalam jaringan yang dioperasikan secara pribadi, hal pertama yang mereka lakukan adalah menerapkannya ke medan perang modern.
Dalam demo video di atas, seorang operator militer yang bertugas memantau teater Eropa Timur menemukan pasukan musuh berkumpul di dekat perbatasan dan merespons dengan meminta asisten digital gaya ChatGPT untuk membantu mengerahkan drone pengintai, memulai respons taktis terhadap agresi yang dirasakan dan bahkan mengatur gangguan komunikasi musuh. AIP ditampilkan membantu memperkirakan komposisi dan kemampuan musuh dengan meluncurkan drone Reaper pada misi pengintaian sebagai tanggapan atas permintaan operator untuk gambar yang lebih baik, dan menyarankan tanggapan yang sesuai mengingat penemuan elemen lapis baja.
“LLM dan algoritme harus dikontrol dalam konteks yang sangat diatur dan sensitif ini untuk memastikan bahwa keduanya digunakan dengan cara yang legal dan etis,” video dimulai. Untuk melakukannya, operasi AIP didasarkan pada tiga “pilar utama”, yang pertama adalah bahwa AIP akan menerapkan sistem rahasia, yang dapat mengurai data rahasia dan non-rahasia secara real-time, secara etis dan legal. Perusahaan tidak merinci bagaimana itu akan berhasil. Pilar kedua adalah pengguna akan dapat mengubah cakupan dan tindakan setiap LLM dan aset di jaringan. AIP itu sendiri akan menghasilkan catatan digital yang aman dari seluruh operasi, “penting untuk mengurangi risiko hukum, peraturan, dan etika yang signifikan dalam pengaturan sensitif dan rahasia,” menurut demo tersebut. Pilar ketiga adalah “pagar pembatas industri terkemuka” AIP untuk mencegah sistem mengambil tindakan yang tidak sah.
Sebuah “manusia dalam lingkaran” untuk mencegah tindakan semacam itu memang ada dalam skenario Palantir, meskipun dari video tersebut, “operator” tampaknya melakukan sedikit lebih dari mengangguk bersama dengan apa pun yang disarankan AIP. Demo tersebut juga tidak merinci langkah apa yang diambil untuk mencegah LLM yang diandalkan sistem dari “berhalusinasi” fakta dan detail terkait.
