OpenAI Akui Agen AI Lepas Kendali Meretas Secara Otonom

PERUSAHAAN teknologi kecerdasan buatan (artificial intelligence) OpenAI mengakui bahwa agen atau model AI miliknya telah bertindak di luar kendali saat uji coba internal. Agen AI itu secara otonom meretas infrastruktur Hugging Face, perusahaan rintisan AI yang menjadi penyedia model dan data sumber terbukanya.

Insiden tersebut disebut sebagai salah satu contoh pertama yang dipublikasikan mengenai serangan siber yang dilakukan sistem akal imitasi secara otonom.

Dalam unggahan di blog pada Selasa, 21 Juli 2026, OpenAI menjelaskan insiden itu melibatkan agen AI yang dijalankan menggunakan sejumlah model paling maju miliknya, termasuk GPT-5.6 Sol serta satu model lain yang belum dirilis. Agen tersebut awalnya diuji di lingkungan terisolasi atau sandbox, tapi berhasil menemukan celah keamanan yang membuatnya lolos dari pembatasan, memperoleh akses ke internet, lalu menyerang Hugging Face.

OpenAI menyebut agen AI yang dikembangkannya itu mampu mengidentifikasi dan mengeksploitasi zero-day vulnerability, atau kerentanan pada sistem yang bahkan belum difungsikan, pada lingkungan pengujian. Celah keamanan tersebut memungkinkan agen keluar dari sandbox, mengakses internet, hingga mencuri kredensial atau data login yang kemudian digunakan untuk melakukan peretasan.

Model AI tersebut sejatinya mendapat perintah untuk mencoba meretas sebagai bagian dari evaluasi kemampuan keamanan siber. Namun, selama pengujian, model itu kemudian menghabiskan sumber daya komputasi dalam jumlah besar untuk mencari cara memperoleh akses ke internet terbuka, sebelum akhirnya berhasil keluar dari lingkungan pengujian dan melanjutkan tujuannya.

“Kami menganggap insiden ini sebagai insiden siber yang belum pernah terjadi sebelumnya, yang melibatkan kemampuan keamanan siber mutakhir, dan kami menanganinya dengan langkah yang sesuai,” tulis OpenAI, dikutip dari laporan Scientific American, 22 Juli 2026.

Perusahaan juga mengatakan baru mengetahui agen AI miliknya berada di balik serangan tersebut setelah melakukan penyelidikan. OpenAI menyatakan akan bekerja sama dengan Hugging Face untuk menyelidiki insiden lebih lanjut sekaligus memperkuat pelindungan pada lingkungan pelatihan dan pengujian model AI.

“Insiden ini menunjukkan perlunya memperkuat alignment model kami, pelindungan keamanan siber selama proses evaluasi, serta pemantauan ketika pengujian internal berlangsung,” tulis perusahaan tersebut.

Sebelumnya, Hugging Face mengungkap bahwa sistemnya menjadi sasaran serangan berbasis AI yang berbeda dari insiden yang pernah mereka tangani. Perusahaan itu menyatakan model AI miliknya sendiri berperan penting dalam mendeteksi dan menyelidiki aktivitas tersebut.

“Kampanye serangan ini dijalankan oleh kerangka kerja agen otonom yang mengeksekusi ribuan aksi individual di sekumpulan sandbox berumur pendek, dengan sistem command-and-control yang dapat bermigrasi sendiri melalui layanan publik," tulis Hugging Face. "Hal ini sesuai dengan skenario ‘penyerang berbasis agen’ yang telah lama diperkirakan oleh industri."

CEO Hugging Face Clément Delangue mengatakan perusahaan sejak awal menduga serangan tersebut berasal dari laboratorium AI terdepan karena tingkat kecanggihan agen yang digunakan. Ia menambahkan Hugging Face telah bekerja sama secara intensif dengan OpenAI setelah insiden itu terungkap.

“Kami sangat yakin tidak ada niat jahat dari pihak mereka. Sungguh luar biasa bahwa semua ini terjadi secara otonom," kata Delangue, dikutip dari laporan Financial Times. 

Insiden tersebut terjadi ketika OpenAI dan sejumlah perusahaan AI lain semakin gencar mengembangkan teknologi AI untuk kebutuhan keamanan siber. Di sisi lain, para pakar keamanan siber dan pemerintah Amerika Serikat juga semakin mewaspadai kemampuan model AI yang dinilai berpotensi mengeksploitasi infrastruktur digital tanpa campur tangan manusia.

OpenAI bahkan memperkirakan insiden serupa akan semakin sering terjadi seiring berkembangnya model AI yang memiliki kemampuan keamanan siber semakin tinggi. Perusahaan juga menyatakan telah berkoordinasi dengan aparat penegak hukum serta otoritas pemerintah terkait untuk menangani insiden tersebut.