Sekjen PBB Serukan Pengelolaan Risiko AI, Waspada Dampak Geopolitik dan Ekonomi!
Jakarta, Maret.id — Sekretaris Jenderal Perserikatan Bangsa-Bangsa (PBB) Antonio Guterres menyerukan langkah internasional untuk mengelola risiko kecerdasan buatan (AI), termasuk pembentukan Kerangka Kerja Manajemen Risiko AI multilateral. Seruan itu disampaikan dalam pidato pembukaan Debat Umum Sidang Majelis Umum PBB ke-81 baru-baru ini.
Pergeseran Sumber Kekuatan
Guterres menyoroti pergeseran kekuatan global dari wilayah ke industri dan keuangan, lalu kini ke data, kapasitas komputasi, dan algoritma. Ia memperingatkan bahwa konsentrasi kekuatan baru ini berkembang sangat cepat sehingga melampaui kemampuan masyarakat internasional untuk memahami dampaknya secara menyeluruh.
Pernyataan tersebut menegaskan bahwa kekuatan teknologi terpusat pada sejumlah kecil aktor yang menguasai data dan komputasi. Menurut Guterres, kondisi ini menuntut perhatian global karena implikasinya luas bagi keamanan, ekonomi, dan tata kelola.
Bahaya Teknologi Tanpa Akuntabilitas
Sekjen PBB menekankan bahwa bahaya AI bukan terletak pada teknologi itu sendiri, melainkan pada teknologi tanpa akuntabilitas, kemampuan tanpa pengawasan, dan pengambilan keputusan tanpa transparansi. Ia mengingatkan bahwa pengembang sistem harus bertanggung jawab dan tidak boleh mengabaikan peringatan tentang risiko yang muncul.
Guterres juga menekankan bahwa tugas utama setiap pemerintah adalah melindungi rakyatnya, sehingga negara dengan kapabilitas AI terbesar memiliki tanggung jawab lebih besar terhadap umat manusia. Ia menyerukan pembentukan saluran dialog, transparansi, kepercayaan, dan kerja sama antarnegara untuk mengatasi tantangan bersama.
Belajar dari Perang Dingin
Dalam pidatonya, Guterres menarik paralel dengan situasi krusial pada masa Perang Dingin ketika rival strategis membangun mekanisme untuk mengurangi salah paham dan mengelola eskalasi terkait persenjataan nuklir. Ia menunjukkan bahwa urgensi dan kejelasan tujuan yang sama kini dibutuhkan untuk mengatur dampak eksistensial AI.
Menurutnya, negara-negara yang memimpin revolusi teknologi harus berbagi informasi mengenai risiko keselamatan, bekerja sama dalam pengujian dan evaluasi, serta mengupayakan langkah pengamanan bersama untuk melindungi kepentingan semua pihak. Koordinasi global di bawah payung PBB dinilai sebagai satu-satunya arena di mana semua negara memiliki suara untuk menentukan masa depan bersama.
Inisiatif PBB dan Langkah Selanjutnya
Guterres menyoroti beberapa inisiatif PBB, termasuk Global Digital Compact yang untuk pertama kali menyepakati prinsip universal bagi tata kelola AI. Ia juga menyebut pembentukan Dialog Tata Kelola AI Global sebagai platform kolaborasi antara pemerintah, ilmuwan, pelaku industri, dan masyarakat sipil.
Selain itu, PBB telah mengumpulkan keahlian melalui Panel Ilmiah Internasional Independen tentang AI untuk memastikan kebijakan didasarkan pada bukti. Guterres menyerukan agar negara anggota mengambil dua langkah lanjut: mendorong kondisi bagi pengaturan laju pengembangan AI yang bertanggung jawab dan mengupayakan pembentukan Kerangka Manajemen Risiko AI multilateral dengan pengawasan kredibel dan independen.
Pesan Etis dan Kemanusiaan
Dalam penutup pidatonya, Guterres menegaskan bahwa AI harus dibentuk oleh umat manusia, bersama umat manusia, dan demi kepentingan seluruh umat manusia. Ia menegaskan bahwa anak-anak tidak boleh dijadikan objek uji coba bagi sistem yang berjalan tanpa aturan dan bahwa keputusan hidup dan mati tidak boleh diserahkan sepenuhnya kepada mesin.
Sekjen PBB juga menyatakan penolakan tegas terhadap penggunaan robot pembunuh dan meminta agar semua pihak bekerja untuk memastikan bahwa teknologi tidak mengikis martabat dan keselamatan manusia. Seruan ini menegaskan kebutuhan mendesak akan aturan, transparansi, dan tata kelola global yang inklusif.
Pernyataan Guterres menjadi bagian dari dorongan yang lebih luas untuk menjadikan PBB sebagai pusat koordinasi kebijakan AI global dan mengajak komunitas internasional mempercepat pembentukan mekanisme pengawasan serta langkah-langkah pencegahan. Komunitas global kini diingatkan bahwa pilihan kebijakan terkait AI akan menentukan arah dan keamanan generasi mendatang.
