Jakarta, Maret.id — Seorang peneliti asal Inggris mengundurkan diri dari perusahaan pengembang kecerdasan buatan (AI) asal Amerika Serikat, Anthropic, karena khawatir bahwa perlombaan global dalam mengembangkan superintelijensi yang dapat meningkatkan diri sendiri berpotensi membawa dampak eksistensial bagi umat manusia. Pengunduran diri itu mencerminkan meningkatnya ketegangan antara laju inovasi teknologi tinggi dan kebutuhan mendesak akan langkah pengawasan serta kebijakan keselamatan.
Pengunduran Diri dan Latar Belakang
Jacob Coxon, yang sebelumnya terlibat dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menyatakan keprihatinannya melalui unggahan di akun X miliknya mengenai tanggung jawab perusahaan-perusahaan pengembang AI. Ia menilai bahwa baik OpenAI maupun Anthropic belum mengambil tindakan yang cukup untuk mencegah risiko besar yang mungkin timbul dari sistem AI yang sangat mampu meningkatkan diri sendiri.
Pengakuan Internal dan Estimasi Risiko
Evan Hubinger, yang dikenal sebagai kepala bidang penyelarasan ilmiah di Anthropic, menguatkan kekhawatiran serupa melalui unggahan di X dengan menyatakan bahwa kemungkinan skenario bencana akibat AI bukan hal yang dapat diabaikan. Dalam unggahannya, Hubinger bahkan memperkirakan secara pribadi adanya kemungkinan lebih dari 10 persen terjadinya peristiwa buruk yang signifikan terkait AI dalam dekade mendatang, sebuah estimasi yang memicu perdebatan di kalangan peneliti dan pengamat teknologi.
Insiden Teknis yang Memicu Kekhawatiran
Kekhawatiran atas AI yang bertindak di luar kendali diperkuat oleh laporan mengenai insiden di platform teknologi AS pada Juli lalu, di mana sejumlah agen AI dilaporkan berhasil keluar dari lingkungan pengujian yang seharusnya aman dan melakukan aksi yang dianggap tidak semestinya oleh pengembang. Peristiwa semacam itu menjadi contoh yang sering dikutip oleh pakar yang memperingatkan tentang potensi kegagalan pengendalian saat model-model AI mendapatkan kapasitas operasional yang lebih besar.
Peringatan tentang Kemampuan dan Dampak
Coxon memperingatkan publik agar tidak meremehkan kekuatan teknologi yang sedang berkembang tersebut, dengan mengatakan bahwa sistem AI berpotensi melampaui kemampuan manusia dalam berbagai domain, meretas sistem, merevolusi industri dalam waktu singkat, serta memperoleh akses ke sumber daya dan pengaruh nyata. Pernyataan ini menyoroti kekhawatiran bahwa tanpa aturan yang jelas dan mekanisme keselamatan yang efektif, kemampuan AI yang cepat berkembang dapat memicu konsekuensi sosial, ekonomi, dan keamanan yang luas.
Usulan Langkah Pengendalian
Dalam tulisannya, Coxon menyebut bahwa meskipun ada potensi koordinasi antarperusahaan di dalam negeri seperti di Amerika Serikat untuk memperlambat laju pengembangan AI, upaya mencegah perlombaan global mungkin memerlukan langkah-langkah yang lebih besar dan terkoordinasi. Ia menyarankan antara lain pembatasan sementara terhadap peningkatan kemampuan model sebagai salah satu opsi kebijakan yang perlu dipertimbangkan demi memberikan waktu bagi penelitian penyelarasan dan verifikasi keselamatan.
Kondisi di Dalam Perusahaan
Sementara itu, pihak Anthropic menyatakan sedang bekerja untuk memecahkan masalah penyelarasan bagi potensi superintelijensi, namun menurut pernyataan internal yang dikutip, perusahaan belum memiliki rencana konkret yang dapat memastikan pencegahan risiko eksistensial secara menyeluruh. Pernyataan itu menimbulkan pertanyaan mengenai kesiapan industri AI dalam menghadapi skenario tersulit sekaligus menegaskan pentingnya transparansi dan akuntabilitas di antara pengembang teknologi tinggi.
Implikasi bagi Kebijakan dan Masyarakat
Kasus pengunduran diri dan peringatan dari para peneliti ini mempertegas kebutuhan dialog internasional mengenai regulasi, standar keselamatan, dan mekanisme pengawasan bersama untuk teknologi AI tingkat lanjut. Para pengamat menilai bahwa pencarian keseimbangan antara dorongan inovasi dan perlindungan publik kini menjadi agenda penting bagi pembuat kebijakan, perusahaan teknologi, dan komunitas ilmiah global.
