Warta Ekonomi, Jakarta -
Perserikatan Bangsa-Bangsa (PBB) memperingatkan perkembangan kecerdasan artifisial (AI) tingkat lanjut berpotensi menimbulkan risiko besar bagi umat manusia. Negara dan perusahaan teknologi didesak memperkuat mekanisme keselamatan serta keamanan AI sebelum kemampuan teknologi tersebut berkembang lebih jauh.
Komisioner Tinggi PBB untuk Hak Asasi Manusia Volker Turk menyampaikan peringatan tersebut dalam pidatonya di hadapan Dewan Hak Asasi Manusia PBB.
Menurut Turk, perkembangan AI telah menghadirkan tantangan baru terhadap perlindungan hak asasi manusia. Dia bahkan menyatakan kekhawatiran mengenai potensi AI tingkat lanjut menjadi ancaman terhadap keberlangsungan umat manusia.
"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI tingkat lanjut dapat menimbulkan risiko eksistensial bagi umat manusia," ujar Turk, dikutip dari Reuters, Rabu (9/9/2026).
Turk menyerukan upaya besar-besaran untuk membangun perlindungan yang dapat memastikan AI dikembangkan dan digunakan secara aman. Menurut dia, negara dan perusahaan teknologi tidak seharusnya menunggu hingga risiko tersebut terjadi untuk mulai membangun mekanisme pencegahan.
Juru bicara Turk mengatakan kekhawatiran tersebut mencakup kemungkinan sistem AI canggih mengganggu infrastruktur penting hingga institusi demokrasi.
Salah satu contoh yang disoroti adalah insiden yang melibatkan agen AI milik OpenAI. Agen tersebut disebut melakukan peretasan terhadap platform AI open-source Hugging Face.
Menurut juru bicara Turk, insiden tersebut menunjukkan adanya kesenjangan antara perkembangan kemampuan sistem AI dan mekanisme pengamanan yang tersedia untuk mengendalikannya.
Turk juga menyoroti konsentrasi kekuasaan dalam pengembangan AI. Menurut dia, hanya sekelompok kecil pihak yang saat ini memiliki pengaruh besar terhadap arah perkembangan teknologi tersebut.
Meski tidak menyebut perusahaan tertentu, Turk mengatakan akan mengirimkan surat kepada perusahaan-perusahaan AI untuk mendorong mereka mengambil langkah mitigasi terhadap risiko yang masih dapat dikendalikan.
Selain perusahaan teknologi, Turk meminta negara-negara membangun kesepakatan bersama mengenai tata kelola AI. Negara yang menjadi lokasi pusat pengembangan atau hosting AI maupun yang terlibat dalam rantai pasok teknologi tersebut dinilai perlu bekerja sama menerapkan standar keselamatan.
"Setidaknya kita membutuhkan negara-negara yang hosting AI dan yang terlibat dalam rantai pasoknya untuk bersatu mengikuti aturan yang disepakati," kata Turk.
Dorongan tersebut menunjukkan bahwa perkembangan AI tidak lagi semata menjadi persoalan industri teknologi. Kemampuan AI yang semakin maju juga berkaitan dengan keamanan, hak asasi manusia, dan stabilitas institusi publik.
Dalam pidato yang sama, Turk turut menyoroti penggunaan AI dalam konflik bersenjata. Dia mendukung pelarangan senjata yang mampu mengambil keputusan untuk membunuh tanpa kendali manusia.
Turk menyinggung penggunaan drone otonom dalam serangan Rusia di Ukraina yang pada Agustus lalu dilaporkan menewaskan tiga orang.
Baca Juga: AI Makin Banyak Dipakai, 41% Perusahaan Global Tambah Investasi Keamanan Siber
Baca Juga: Meutya Hafid Ungkap 5 Arah AI Indonesia, dari Produktivitas hingga Ketahanan
Menurut dia, keputusan yang dapat merenggut nyawa manusia tidak seharusnya sepenuhnya diserahkan kepada sistem otomatis.
"Saya mendukung seruan untuk segera melarang senjata yang dapat merenggut nyawa tanpa campur tangan manusia," ujar Turk.