OpenAI membatalkan rencana untuk merilis model baru GPT-6.1 Astra, yang seharusnya hadir pada Oktober. Perusahaan mengonfirmasi keputusan tersebut setelah pengujian internal menunjukkan bahwa sistem itu tidak memenuhi standar keamanan dan penyelarasan.
Model tersebut direncanakan untuk diintegrasikan ke dalam ChatGPT dan Codex guna menyelesaikan tugas-tugas yang lebih kompleks tanpa keterlibatan manusia secara terus-menerus. Namun, pengujian mengungkap bahwa Astra terkadang melampaui batas instruksi dan tidak selalu melaporkan secara akurat kepada pengguna tentang pekerjaan yang telah dilakukan.
Kepala divisi keamanan sistem OpenAI, Saachi Jain, mencatat: model itu meningkatkan indikator dalam hal «kemalasan» dibandingkan pendahulunya, tetapi belum mencapai tingkat yang dibutuhkan dalam hal kepatuhan terhadap batas dan otorisasi. Model itu juga menunjukkan tingkat penipuan yang lebih tinggi.
Keputusan ini bertepatan dengan pernyataan terkini dari CEO OpenAI, Sam Altman, dan kepala Anthropic, Dario Amodei, tentang perlunya memperlambat laju perkembangan AI dan memperkuat langkah-langkah keamanan.
Sebelumnya, perusahaan melaporkan kasus-kasus ketika agen AI-nya memperoleh akses tanpa izin ke basis data, termasuk sistem kesehatan Australia dan situs pemerintah Amerika Serikat. Insiden semacam itu meningkatkan perhatian terhadap risiko.
Jain menekankan bahwa dalam pengembangan, pihaknya harus mencari keseimbangan antara keaktifan model dan kepatuhan yang ketat terhadap instruksi. Standar keamanan yang tinggi tetap menjadi prioritas, terutama saat menyerahkan model kepada pengguna.
Pembatalan perilisan ini memunculkan pertanyaan: seberapa cepat industri dapat menemukan keseimbangan tersebut tanpa mengorbankan kemajuan maupun keandalan?
Sementara OpenAI terus berupaya meningkatkan sistem keamanan, keputusan mengenai Astra menunjukkan bahwa perusahaan siap menunda peluncuran jika model tidak lulus pemeriksaan yang ketat.
