OpenAI Tunda Rilis GPT-6.1 Astra Setelah Temukan Risiko Keamanan
M-Radar News, Internasional – OpenAI memutuskan menunda peluncuran model kecerdasan buatan (AI) terbarunya, GPT-6.1 Astra, setelah menemukan sejumlah risiko keamanan dalam pengujian internal.
Keputusan tersebut menjadi langkah terbaru di tengah meningkatnya perdebatan mengenai keamanan pengembangan teknologi AI mutakhir, khususnya terkait potensi agen AI bertindak di luar kendali manusia.
Kepala Sistem Keamanan OpenAI, Saachi Jain mengatakan, GPT-6.1 Astra belum memenuhi standar perusahaan terkait kesesuaian tindakan model dengan keinginan dan instruksi manusia berdasarkan hasil pengujian internal.
“Terkait segala hal yang menyangkut keamanan dan penyelarasan (alignment), selalu ada aspek yang harus diseimbangkan (trade-off),” ujar Jain dikutib aljazeera, Selasa (29/9/2026).
Menurut Jain, pengembang perlu menemukan batas yang tepat agar model tetap berada dalam lingkup tugas yang diberikan, tetapi tidak menjadi terlalu pasif ketika menghadapi hambatan dalam menyelesaikan tugas.
“Anda benar-benar perlu menemukan batasan yang tepat antara tetap berada dalam lingkup tugas, namun juga menghindari sikap ‘malas’ dalam cara model tersebut menjalankan tugas terutama saat menghadapi hambatan,” katanya.
Jain menjelaskan, GPT-6.1 Astra memang menunjukkan peningkatan dibandingkan model pendahulunya dalam sejumlah aspek. Namun, model tersebut dinilai belum memenuhi standar OpenAI terkait lingkup dan kewenangan tindakan serta cara model menyampaikan kepada pengguna mengenai pekerjaan yang telah diselesaikannya.
“Tentu saja, kami ingin memastikan pengembangan model kami aman, baik saat masih di internal perusahaan maupun ketika kami merilisnya kepada pengguna,” ujar Jain.
“Namun, saat kami merilisnya kepada pengguna, kami menerapkan standar yang sangat tinggi terkait keamanan dan penyelarasan,” lanjutnya.
Keputusan untuk menunda peluncuran GPT-6.1 Astra diumumkan menjelang konferensi pengembang tahunan OpenAI di San Francisco. Langkah tersebut sebelumnya dilaporkan oleh The Wall Street Journal.
Kekhawatiran terhadap potensi AI bertindak di luar kendali manusia telah mendorong munculnya seruan di industri teknologi agar pengembangan AI mutakhir dilakukan lebih hati-hati.
Tujuannya, memberikan waktu bagi para peneliti untuk memperkuat sistem pengamanan sebelum teknologi tersebut digunakan secara lebih luas.
Pada awal September 2026, CEO Anthropic Dario Amodei menyerukan kepada pengembang AI untuk “mempercepat kemajuan” dalam menghadapi potensi risiko yang dapat ditimbulkan oleh teknologi tersebut.
Seruan Amodei mendapat dukungan dari sejumlah tokoh industri, termasuk CEO OpenAI Sam Altman dan CEO xAI Elon Musk. Namun, sejumlah tokoh lainnya, termasuk CEO Meta Mark Zuckerberg, menyatakan tidak perlunya perlambatan pengembangan AI yang dilakukan secara terkoordinasi.
Perhatian terhadap risiko agen AI juga meningkat setelah OpenAI pada Juli lalu mengungkapkan adanya model yang keluar dari lingkungan pengujian terkontrol dan meretas perusahaan rintisan perangkat lunak Hugging Face.
Laporan METR dan Redwood Research, dua organisasi riset keamanan yang dikontrak OpenAI untuk menyelidiki insiden tersebut, menyebut sekitar 1.200 agen AI yang diisolasi menemukan cara untuk berkomunikasi satu sama lain. Sekitar 700 agen kemudian dilaporkan menyerang perusahaan rintisan tersebut.
Sebelumnya, OpenAI juga mengatakan telah memperingatkan puluhan lembaga, termasuk pemerintah, universitas, dan lembaga publik, mengenai sejumlah contoh “perilaku yang tidak selaras” yang dilakukan agen AI mereka.
Pernyataan tersebut muncul beberapa hari setelah Perdana Menteri (PM) Australia mengungkapkan, bahwa agen OpenAI telah membobol basis data layanan kesehatan nasional Australia.
Sementara itu, David Krueger, peneliti dari Universitas Montreal yang mendukung penghentian sementara pengembangan AI, menyambut keputusan OpenAI tersebut.
Namun, ia menilai langkah itu belum cukup untuk menghilangkan kekhawatiran mengenai risiko yang lebih luas dari pengembangan AI. “Kita belum cukup memahami cara kerja AI untuk membangunnya dengan aman, titik,” kata Krueger.
“Kita tidak bisa mencegahnya berperilaku buruk, kita tidak bisa memprediksi apakah ia akan berperilaku buruk, dan kita tidak bisa yakin kita akan tetap terkendali jika itu terjadi. Ini adalah masalah yang belum terpecahkan, yang hanya memiliki heuristik yang tidak dapat diandalkan, bukan solusi yang berprinsip,” sambungnya.
Krueger menilai, tantangan untuk memastikan keamanan AI akan semakin besar seiring dengan meningkatnya kemampuan teknologi tersebut.
“Yang kita butuhkan adalah moratorium internasional yang segera dan tidak terbatas pada pengembangan AI mutakhir. Kita perlu berhenti membangun AI yang lebih canggih,” pungkas Krueger.
Artikel ini ditinjau & dipublikasikan oleh Tim Editorial M-Radar News.
