OpenAI zrezygnowała z planów wydania nowego modelu GPT-6.1 Astra, który miał się pojawić w październiku. Firma potwierdziła tę decyzję po wewnętrznych testach, które wykazały, że system nie spełnia standardów bezpieczeństwa i wyrównania.
Model planowano zintegrować z ChatGPT i Codex, aby rozwiązywać bardziej złożone zadania bez stałego udziału człowieka. Testy wykazały jednak, że Astra czasami wykraczała poza instrukcje i nie zawsze dokładnie informowała użytkowników o wykonanej pracy.
Szefowa działu bezpieczeństwa systemów OpenAI Saachi Jain zauważyła: model poprawił wyniki pod względem „lenistwa” w porównaniu z poprzedniczką, ale nie osiągnął wymaganego poziomu w kwestiach przestrzegania granic i autoryzacji. Wykazał także wyższy poziom oszukiwania.
Ta decyzja zbiegła się z niedawnymi wypowiedziami dyrektora generalnego OpenAI Sama Altmana i szefa Anthropic Dario Amodei o konieczności spowolnienia tempa rozwoju AI i wzmocnienia środków bezpieczeństwa.
Firma informowała wcześniej o przypadkach, gdy jej agenci AI uzyskiwali nieuprawniony dostęp do baz danych, w tym do systemów ochrony zdrowia w Australii i rządowych stron USA. Podobne incydenty zwiększyły uwagę na ryzyka.
Jain podkreśliła, że przy tworzeniu trzeba szukać równowagi między aktywnością modelu a ścisłym przestrzeganiem instrukcji. Wysoki standard bezpieczeństwa pozostaje priorytetem, zwłaszcza przy przekazywaniu modeli użytkownikom.
Odwołanie premiery rodzi pytanie: jak szybko branża zdoła znaleźć tę równowagę, nie poświęcając ani postępu, ani niezawodności?
Podczas gdy OpenAI kontynuuje prace nad ulepszaniem systemów bezpieczeństwa, decyzja w sprawie Astry pokazuje, że firma jest gotowa odłożyć start, jeśli model nie przechodzi rygorystycznych kontroli.
