كشف نموذج الذكاء الاصطناعي Mythos، الذي طورته شركة Anthropic، عن ثغرات في أنظمة حاسوبية حكومية أمريكية شديدة الحساسية والسرية خلال تمارين اختبارية. ووفقاً لمسؤولين أمريكيين، استغرقت الخوارزمية بضع ساعات فقط لاكتشاف هذه الثغرات في الدفاعات، بينما تستغرق هذه العملية في الظروف العادية أسابيع.
تفاصيل الاختبارات ومبادرة Project Glasswing
صرح مسؤول أمريكي مجهول لوكالة Associated Press بأن الاختبارات أجريت بالتعاون مع أجهزة الاستخبارات الأمريكية. وأكد المسؤول على فارق تقني مهم: إن مجرد اكتشاف الثغرات لا يعني أن نموذج الذكاء الاصطناعي كان قادراً في الوقت نفسه على استغلالها بنجاح أو تنفيذ عملية اختراق كاملة.
أجري الاختبار في إطار مبادرة لشركة Anthropic تحمل اسم Project Glasswing. ومن خلال هذا المشروع، تضافر شركات التكنولوجيا جهودها لحماية البرمجيات ذات الأهمية الحيوية. والهدف الرئيسي للمبادرة هو منع العواقب الوخيمة على الأمن القومي والعام، وكذلك على الاقتصاد العالمي، والتي يخشى الخبراء أن ينجم عنها الاستخدام غير المنضبط لنماذج قوية مثل Mythos.
رد فعل الكونغرس والبنتاغون
كُشف عن هذه الاختبارات الناجحة والسريعة بشكل مخيف بفضل السيناتور الديمقراطي عن ولاية فرجينيا مارك وارنر. وخلال كلمته في 11 يونيو أمام جلسة استماع في لجنة المصارف بمجلس الشيوخ، استشهد ببيانات من مدير وكالة الأمن القومي (NSA) والقيادة السيبرانية الأمريكية الجنرال جوشوا راد.
وصرح وارنر قائلاً: «لقد "اخترقت" هذه الأداة تقريباً جميع أنظمتنا السرية في غضون ساعات وليس أسابيع»، مشيراً إلى السرعة غير المسبوقة للشبكة العصبية في تحليل المنشآت المحمية.
التوتر المتزايد بين Anthropic والبيت الأبيض
على الرغم من التعاون النشط مع الاستخبارات الأمريكية في قضايا الأمن السيبراني، إلا أن هناك توتراً أيديولوجياً متصاعداً بين Anthropic وإدارة دونالد ترامب.
تعرب Anthropic علانية عن قلقها بشأن الكيفية التي يخطط بها البنتاغون والمؤسسات العسكرية لاستخدام أنظمة الذكاء الاصطناعي الخاصة بها. ورداً على ذلك، تتخذ الإدارة خطوات صارمة للحد من استخدام النماذج المتقدمة. ففي أوائل يونيو، أصدر البيت الأبيض توجيهاً يأمر Anthropic بحظر وصول الرعايا الأجانب إلى أحدث تطويراتها، وهما نموذجا Fable 5 وMythos 5. وترى الشركة أن مثل هذه الإجراءات التقييدية مفرطة، مما يزيد من حدة الصراع حول التنظيم المستقبلي للذكاء الاصطناعي في الولايات المتحدة.
