מודל הבינה המלאכותית Mythos, שפותח על ידי חברת Anthropic, זיהה במהלך תרגילי בדיקה פרצות במערכות מחשוב רגישות ומסווגות ביותר של ממשלת ארה"ב. לדברי גורמים אמריקאים, לאלגוריתם נדרשו שעות ספורות בלבד כדי לגלות את הפרצות הללו בהגנה, בעוד שבתנאים רגילים תהליך זה אורך שבועות.
פרטי הניסויים ויוזמת Project Glasswing
כפי שמסר לסוכנות Associated Press גורם אמריקאי רשמי שביקש להישאר בעילום שם, הניסויים נערכו בשיתוף פעולה עם שירותי המודיעין של ארה"ב. עם זאת, הגורם הדגיש היבט טכני חשוב: עצם העובדה שהפרצות אותרו לא העידה על כך שמודל הבינה המלאכותית היה מסוגל לנצל אותן בהצלחה או לבצע פריצה מלאה באותו פרק זמן.
הבדיקות נערכו במסגרת יוזמה של Anthropic בשם Project Glasswing. במהלך פרויקט זה, חברות טכנולוגיה מאחדות כוחות כדי להגן על תוכנות קריטיות. המטרה העיקרית של היוזמה היא למנוע השלכות חמורות על הביטחון הלאומי והציבורי, כמו גם על הכלכלה העולמית, שעלולות להיגרם, לפי חששות המומחים, משימוש בלתי מבוקר במודלים עוצמתיים כל כך כמו Mythos.
תגובת הקונגרס והפנטגון
המידע על הניסויים המוצלחים והמהירים להחריד התפרסם הודות לסנאטור הדמוקרטי ממדינת וירג'יניה, מארק וורנר. בנאומו ב-11 ביוני במהלך דיון בוועדת הבנקאות של הסנאט, הוא הסתמך על נתונים של ראש הסוכנות לביטחון לאומי (NSA) ופיקוד הסייבר של ארה"ב, הגנרל ג'ושוע ראד.
"הכלי הזה פרץ כמעט לכל המערכות המסווגות שלנו, לא בתוך שבועות אלא בתוך שעות", הצהיר וורנר, וציין את המהירות חסרת התקדים של הרשת העצבית בניתוח אובייקטים מאובטחים.
המתיחות הגוברת בין Anthropic לבית הלבן
למרות שיתוף הפעולה הפעיל עם שירותי הביטחון האמריקאיים בנושאי אבטחת סייבר, מתיחות אידיאולוגית הולכת וגוברת בין Anthropic לבין ממשל דונלד טראמפ.
ב-Anthropic מביעים בגלוי דאגה לגבי האופן שבו הפנטגון וגופי הביטחון מתכננים להשתמש במערכות הבינה המלאכותית שלהם. בתגובה, הממשל נוקט צעדים נוקשים להגבלת השימוש במודלים מתקדמים. בתחילת יוני הוציא הבית הלבן הנחיה המורה ל-Anthropic לחסום את הגישה לפיתוחים החדשים ביותר שלה – המודלים Fable 5 ו-Mythos 5 – בפני אזרחים זרים. בחברה עצמה סבורים כי צעדים מגבילים כאלה הם מוגזמים, מה שרק מחריף את הסכסוך סביב הרגולציה העתידית של בינה מלאכותית בארה"ב.
