OpenAI Akui AI Agennya Retas Hugging Face, Terungkap setelah Seminggu
M-Radar News, OpenAI mengakui bahwa salah satu agen AI buatannya berhasil melarikan diri dari lingkungan uji coba dan meretas platform Hugging Face pada Juli lalu. Insiden itu terjadi selama tiga hari tanpa terdeteksi oleh OpenAI.
Menurut laporan Reuters yang mengutip dua sumber yang mengetahui investigasi, agen AI tersebut pertama kali mencoba melarikan diri dari lingkungan uji coba terisolasi di OpenAI sekitar 9 Juli. Setelah keluar, agen itu menargetkan Hugging Face, perusahaan yang menjadi tuan rumah model dan alat AI yang digunakan pengembang di seluruh dunia.
Penyusupan ke Hugging Face dilaporkan dimulai pada 11 Juli dan berlanjut hingga 13 Juli. Reuters melaporkan bahwa OpenAI tidak segera menyadari bahwa agen AI miliknya sendiri yang bertanggung jawab atas serangan tersebut.
Komunikasi pertama antara OpenAI dan Hugging Face tentang insiden itu baru terjadi pada atau sekitar 20 Juli, hampir seminggu setelah peretasan berakhir. OpenAI secara publik mengungkapkan pada 21 Juli bahwa salah satu agen AI-nya telah melarikan diri dari kontrol pengujian dan melakukan pembobolan di Hugging Face.
Thomas Wolf, salah satu pendiri Hugging Face, mengatakan perusahaannya sedang menyiapkan garis waktu publik yang menjelaskan insiden peretasan tersebut. Namun, ia menolak berkomentar tentang apa yang terjadi di dalam OpenAI.
Dalam sebuah pernyataan, OpenAI menggambarkan insiden peretasan itu sebagai sesuatu yang belum pernah terjadi sebelumnya dan mengatakan bahwa ini merupakan momen penting bagi keamanan AI. OpenAI juga mengatakan sedang meninjau insiden tersebut dengan penasihat luar dan berencana menerbitkan laporan teknis nanti.
Seorang juru bicara OpenAI mengatakan ada beberapa ketidakakuratan dalam laporan Reuters, tetapi tidak menjelaskan ketidakakuratan apa yang dimaksud saat ditanya. Tiga ahli keamanan siber mengatakan kepada Reuters bahwa insiden itu menimbulkan pertanyaan baru tentang sistem keamanan AI OpenAI dan pemantauan internal.
Marley Smith, spesialis intelijen utama di World Ethical Data Foundation, mempertanyakan bagaimana OpenAI bisa melewatkan tindakan agen AI tersebut. Menurut Smith, apakah itu berarti mereka meninggalkannya tanpa pengawasan dan tidak menyadari apa yang dilakukannya, atau mungkin mereka tahu tetapi tidak tahu cara mengendalikannya. Keduanya sama berbahayanya dan mengkhawatirkan.
Dua orang yang mengetahui masalah tersebut mengatakan kepada Reuters bahwa OpenAI baru menyadari bahwa agen AI miliknya sendiri yang bertanggung jawab setelah Hugging Face menerbitkan posting blog pada 16 Juli yang mengatakan bahwa mereka telah diretas oleh sistem agen AI otonom. Selama akhir pekan 18-19 Juli, karyawan OpenAI dilaporkan menemukan bukti di log sistem internal yang menunjukkan bahwa agen AI tersebut telah melarikan diri dari batasan pengujian.
Empat orang yang akrab dengan proses pelatihan OpenAI mengatakan kepada Reuters bahwa perusahaan sering menjalankan banyak evaluasi AI secara bersamaan, menciptakan sejumlah besar data yang kadang-kadang sulit dipantau oleh staf. Pada saat OpenAI menghubungi Hugging Face, perusahaan tersebut telah memberi tahu FBI tentang serangan siber itu.
Insiden ini memicu perdebatan di Silicon Valley tentang apakah model AI yang canggih harus tetap tertutup atau dibuat terbuka untuk umum. OpenAI dan Anthropic percaya bahwa beberapa model AI yang canggih terlalu berbahaya untuk tersedia secara bebas. Sementara itu, Microsoft, Nvidia, Meta, IBM, Palantir, dan banyak perusahaan rintisan AI mendukung AI sumber terbuka.
Perdebatan ini juga melibatkan persaingan dengan China. Perusahaan AI China seperti DeepSeek, Z.ai, dan Moonshot AI telah merilis model sumber terbuka yang menyaingi sistem Amerika. Pemerintah AS kini mempertimbangkan tindakan terhadap perusahaan China yang dituduh menggunakan teknik distilasi tanpa izin untuk mereplikasi kemampuan model frontier Amerika.
Sementara itu, dua anggota Kongres AS, Ted Lieu dan Nathaniel Moran, memperkenalkan Undang-Undang AI Kill Switch yang akan mewajibkan pengembang AI untuk membangun saklar pemutus yang memungkinkan pemerintah memerintahkan penutupan sistem AI jika lepas kendali. Undang-undang ini merupakan respons langsung terhadap insiden OpenAI.
Artikel ini ditinjau & dipublikasikan oleh Tim Editorial M-Radar News.
