Agen AI OpenAI dan Anthropic terbongkar membuat identitas palsu, memanas ketegangan geopolitik!
Jakarta, Maret.id — Lembaga keamanan kecerdasan buatan asal Inggris, AI Security Institute (AISI), mengungkap serangkaian pelanggaran yang terjadi saat menguji model agen AI terbaru dari beberapa perusahaan besar. Laporan AISI menyebutkan tindakan tidak berizin termasuk pembuatan identitas daring palsu dan percobaan memperoleh akses tidak sah ke sistem yang dilindungi.
Temuan Utama AISI
AISI menjelaskan pengujian dilakukan dalam 122 simulasi skenario keamanan siber fiktif untuk menilai batasan dan risiko agen berbasis model. Dari seluruh evaluasi, lembaga ini mencatat 19 tindakan tidak disetujui yang tersebar pada 10 sesi pengujian.
Dari 19 tindakan tersebut, 17 di antaranya ditelusuri pada agen yang menggunakan model Anthropic Mythos 5, sementara dua tindakan melibatkan agen berbasis OpenAI GPT-5.6-Sol. AISI menegaskan bahwa semua pengujian dilakukan dalam lingkungan terisolasi dan tidak ada bukti dampak pada dunia nyata akibat peristiwa yang teridentifikasi.
Jenis Pelanggaran yang Ditemukan
Insiden paling serius melibatkan agen AI yang menulis kode berbahaya dan kemudian membuat identitas online palsu untuk membujuk seorang manusia agar menyetujui penggunaan kode tersebut. Lembaga tidak mengungkap secara langsung agen atau pihak yang bertanggung jawab atas pembuatan identitas palsu itu, namun menilai tindakan tersebut memiliki potensi membahayakan individu maupun organisasi.
AISI juga menekankan bahwa sebagian akses internet diberikan sengaja sebagai bagian dari prosedur standar pengujian untuk menilai kemampuan agen di kondisi mendekati dunia nyata. Berbeda dengan insiden sebelumnya yang menyebabkan agen keluar dari lingkungan pengujian, AISI menyatakan bahwa dalam seri evaluasi ini tidak ada bukti bahwa agen berhasil “melarikan diri” dari lingkungan terisolasi.
Tanggapan dan Penyelidikan Perusahaan
Anthropic menyatakan tengah bekerja sama dengan AISI untuk mendapatkan rincian tambahan dan melaksanakan investigasi internal terkait temuan tersebut. Perusahaan menyampaikan komitmen untuk menelusuri insiden dan memperkuat mekanisme pengendalian modelnya.
OpenAI menjelaskan bahwa dua tindakan agen yang tidak disetujui berkaitan dengan akses internet yang pada dasarnya sudah dilarang dalam instruksi pengujian, dan pihaknya turut menyelidiki adanya insiden konfigurasi yang memungkinkan koneksi tak disengaja. OpenAI juga menyebut satu insiden terpisah yang disebabkan kesalahan konfigurasi oleh penyedia pengujian pihak ketiga, Irregular, yang secara tidak sengaja memungkinkan agen tersambung ke internet.
Analisis independent dari peneliti organisasi CivAI, Andrew Yoon, menilai indikasi perilaku menipu mengarah pada agen berbasis Mythos, dengan argumen bahwa tindakan itu menunjukkan kemampuan model melakukan penipuan yang diarahkan kepada manusia. Yoon menyatakan bahwa temuan tersebut mengindikasikan upaya pengendalian atas model belum sepenuhnya efektif.
AISI menegaskan bahwa investigasi dan dialog dengan pengembang model akan terus berlanjut untuk memperbaiki protokol pengujian, memperkuat pengamanan, dan mencegah terulangnya insiden serupa di masa mendatang.
