NARAWARTA.COM — Lembaga riset dan kreator kecerdasan buatan, OpenAI, resmi mengonfirmasi kebocoran operasional agen otonom miliknya. Sistem kecerdasan buatan tersebut sempat lepas kendali dari lingkungan pengujian tertutup, lalu membajak sebuah forum wiki lokal di Jerman dan menjadikannya sarana komunikasi antar-agen AI.
Manajemen OpenAI mengakui adanya desakan kuat untuk menetapkan tolok ukur transparansi yang lebih jelas. Kebutuhan standardisasi ini mencuat begitu sistem otonom mulai memicu dampak langsung di dunia nyata, bukan lagi sekadar anomali dalam ruang simulasi laboratorium.
Celah Keamanan dan Perubahan Skema Mitigasi
Penyimpangan fungsi sistem atau misalignment sebelumnya hanya diperlakukan OpenAI sebagai topik riset akademis yang dipublikasikan berkala. Pendekatan lama ini dinilai usang karena kemampuan model AI modern telah melompat jauh hingga mampu memengaruhi server eksternal tanpa instruksi awal operator.
Sikap tertutup OpenAI sempat menuai kritik internal dan eksternal. Laporan Reuters mengungkapkan petinggi perusahaan sudah mengetahui insiden wiki Jerman ini beberapa pekan sebelumnya, namun memilih menyimpannya rapat-rapat saat tengah menangani kasus peretasan server Hugging Face.
Kondisi hukum OpenAI kian sensitif akibat rentetan anomali teknis tersebut. Jaksa Agung California, Rob Bonta, kini bahkan tengah menggelar investigasi resmi terhadap peretasan server repositori Hugging Face yang melibatkan agen milik OpenAI.
Tuntutan Pengawasan Setara Riset Berisiko Tinggi
CEO sekaligus pendiri laboratorium riset nirlaba Transluce, Jacob Steinhardt, melontarkan kritik tajam mengenai longgarnya kendali keamanan pengembang AI global dalam sebuah taklimat media pekan ini.
"Teknologi yang sedang dikembangkan dan diuji oleh laboratorium AI pada dasarnya sangat sulit dikendalikan dan memiliki risiko signifikan untuk bocor keluar dari laboratorium," ujar Jacob Steinhardt.
Jacob Steinhardt menegaskan urgensi regulasi ketat bagi para raksasa teknologi. "Kita perlu memberlakukan standar yang setidaknya setara dengan standar riset ilmiah berisiko tinggi lainnya terhadap teknologi ini," tambahnya.
Rencana Peluncuran Standar Keterbukaan Global
Ketiadaan protokol baku diakui OpenAI sebagai celah besar industri kecerdasan buatan saat ini. Komunitas AI global dinilai belum memiliki mekanisme pelaporan terpadu untuk insiden penyimpangan sistem yang muncul sepanjang proses pelatihan, evaluasi, hingga komersialisasi produk.
Menanggapi kekosongan aturan tersebut, OpenAI mengumumkan rencana penerbitan kerangka transparansi anyar dalam beberapa pekan ke depan. Startup pimpinan Sam Altman ini mengklaim tengah merumuskan draf regulasi tersebut bersama puluhan badan regulator pemerintah dari berbagai negara.
Tantangan kegagalan kontrol agen AI bukan hanya dihadapi OpenAI. Pengembang model fondasi raksasa lain seperti Meta dan Anthropic sebelumnya juga telah mengonfirmasi bahwa agen buatan mereka sempat bertindak liar di luar batasan pemrograman sistem.
