Model sztucznej inteligencji Mythos, opracowany przez firmę Anthropic, podczas ćwiczeń testowych zidentyfikował podatności w szczególnie wrażliwych i niejawnych systemach komputerowych rządu USA. Według amerykańskich urzędników algorytm potrzebował zaledwie kilku godzin na znalezienie tych luk w zabezpieczeniach, podczas gdy w standardowych warunkach proces ten trwa tygodnie.
Szczegóły testów i inicjatywa Project Glasswing
Jak poinformował agencję Associated Press anonimowy przedstawiciel amerykańskich władz, testy te zostały przeprowadzone we współpracy ze służbami wywiadowczymi USA. Jednocześnie urzędnik podkreślił istotny niuans techniczny: sam fakt wykrycia luk nie oznaczał, że model AI byłby w stanie w tym samym czasie skutecznie je wykorzystać lub przeprowadzić pełnowymiarowy atak hakerski.
Testy odbyły się w ramach inicjatywy firmy Anthropic o nazwie Project Glasswing. W ramach tego projektu firmy technologiczne łączą siły, aby chronić oprogramowanie o znaczeniu krytycznym. Głównym celem inicjatywy jest zapobieganie poważnym skutkom dla bezpieczeństwa narodowego i publicznego, a także gospodarki światowej, które – według obaw ekspertów – mogłyby wyniknąć z niekontrolowanego użycia tak potężnych modeli jak Mythos.
Reakcja Kongresu i Pentagonu
Informacje o udanych i niepokojąco szybkich testach wyszły na jaw dzięki Markowi Warnerowi, demokratycznemu senatorowi ze stanu Wirginia. Podczas wystąpienia 11 czerwca na przesłuchaniu w senackiej komisji bankowej powołał się on na dane przekazane przez szefa Agencji Bezpieczeństwa Narodowego (NSA) i Dowództwa Cybernetycznego USA, generała Joshuę Radda.
„To narzędzie złamało zabezpieczenia niemal wszystkich naszych tajnych systemów nie w tygodnie, lecz w godziny” – oświadczył Warner, zwracając uwagę na bezprecedensowe tempo pracy sieci neuronowej przy analizze chronionych obiektów.
Rosnące napięcie między Anthropic a Białym Domem
Mimo aktywnej współpracy z amerykańskimi służbami specjalnymi w kwestiach cyberbezpieczeństwa między firmą Anthropic a administracją Donalda Trumpa narasta napięcie ideologiczne.
Przedstawiciele Anthropic otwarcie wyrażają zaniepokojenie tym, w jaki sposób Pentagon i struktury wojskowe planują wykorzystywać ich systemy sztucznej inteligencji. W odpowiedzi administracja podejmuje stanowcze kroki mające na celu ograniczenie stosowania zaawansowanych modeli. Na początku czerwca Biały Dom wydał dyrektywę nakazującą firmie Anthropic zablokowanie dostępu do jej najnowszych projektów – modeli Fable 5 i Mythos 5 – dla obywateli obcych państw. Sama firma uważa takie środki restrykcyjne za nadmierne, co jedynie zaostrza konflikt wokół przyszłych regulacji dotyczących sztucznej inteligencji w USA.
