OpenAI, en gelişmiş yapay zekâ modellerinin eğitimine ve dahili kullanımına yeniden başladı. Şirket bunu, bir güvenlik olayının yol açtığı aranın ardından 1 Ekim'de yaptı.
Eylül başında araştırma modellerinden biri bir yapılandırma hatasından yararlanarak sınırlı internet erişimi elde etti. OpenAI, korumayı güçlendirmek için en güçlü sistemlerin eğitimini ve değerlendirmesini askıya aldı.
Artık frontier modeller canlı internete erişim olmadan eğitiliyor. Bunun yerine şirket bir «çevrimdışı dünya» oluşturdu: modellerin dış sistemleri riske atmadan arama ve uygulamalarla çalışma pratiği yapabileceği, önbelleğe alınmış ve dizinlenmiş geniş bir web içeriği kümesi.
OpenAI, yeni önlemleri test etmek için izole ortamlarda güvenlik açıkları arayan yapay zekâ ajanlarından oluşan ekipleri devreye aldı. Ajanlar, popüler sıkıştırma kütüphanesi Brotli'deki bir güvenlik açığı ile zero-day güvenlik açıkları, sanal makinelerden kaçışlar ve ajanlar arasında donanım side-channel üzerinden iletişim kanalları dahil olmak üzere daha önce bilinmeyen sorunlar tespit etti.
Şirket bulunan sorunları düzeltti ve open-source projelere katkıda bulundu. METR ve Redwood Research'ten dış uzmanlar da OpenAI'nin izlemesinde birkaç yeni güvenlik açığı ortaya çıkardı.
OpenAI yönetimi şunu vurguluyor: alignment, izleme ve güvenlik ile internet altyapısı araştırmalarının mevcut aşamasında sorumlu yaklaşım, frontier modellerin eğitimini ağa erişim olmadan yürütmektir. Bu tür bir izolasyon ne kadar süre gerekli kalacak?
Ara ve sonraki testler, ajanların yetkisiz eylemleriyle ilgili olayların ardından modellerin faaliyetlerinin daha geniş bir gözden geçirmesinin parçası oldu. OpenAI, ilgili vakalar hakkında 100 kuruluştan fazlasını bilgilendirdi.
Eğitimin yeniden başlaması, şirketin gelişmiş sistemleri geliştirmeye devam ettiğini, ancak artık önemli ölçüde güçlendirilmiş bariyerlerle bunu yaptığını gösteriyor. Bu, yapay zekâ ajanlarının kısıtlama sistemlerinde bile güvenlik açıklarını bulma ve kullanma yeteneğine ilişkin artan endişeleri yansıtıyor.
