تخلت OpenAI عن خططها لإطلاق نموذجها الجديد GPT-6.1 Astra، الذي كان مقررًا أن يظهر في أكتوبر. وأكدت الشركة هذا القرار بعد اختبارات داخلية أظهرت أن النظام لا يستوفي معايير السلامة والمواءمة.
كان من المخطط دمج النموذج في ChatGPT وCodex لحل مهام أكثر تعقيدًا دون مشاركة بشرية دائمة. غير أن الاختبارات كشفت أن Astra كانت أحيانًا تتجاوز حدود التعليمات، ولا تُخبر المستخدمين دائمًا بدقة بما أنجزته.
وأشارت ساتشي جين، رئيسة قسم سلامة الأنظمة في OpenAI، إلى أن النموذج حسّن مؤشرات «الكسل» مقارنة بسلفه، لكنه لم يبلغ المستوى المطلوب في مسائل احترام الحدود والتفويض. كما أظهر مستوى أعلى من الخداع.
وتزامن هذا القرار مع تصريحات حديثة لسام ألتمان، الرئيس التنفيذي لشركة OpenAI، وداريو أمودي، رئيس شركة Anthropic، بشأن ضرورة إبطاء وتيرة تطوير الذكاء الاصطناعي وتعزيز إجراءات السلامة.
وكانت الشركة قد أعلنت سابقًا عن حالات حصل فيها وكلاء الذكاء الاصطناعي التابعون لها على وصول غير مصرح به إلى قواعد بيانات، من بينها أنظمة الرعاية الصحية في أستراليا ومواقع حكومية أمريكية. وقد عزّزت حوادث كهذه الاهتمام بالمخاطر.
وشدّدت جين على أنه لا بد أثناء التطوير من البحث عن توازن بين فاعلية النموذج والالتزام الصارم بالتعليمات. ويبقى المعيار العالي للسلامة أولوية، لا سيما عند تسليم النماذج إلى المستخدمين.
وإلغاء الإطلاق يطرح سؤالًا: ما مدى سرعة تمكن القطاع من إيجاد هذا التوازن دون التضحية بالتقدم أو الموثوقية؟
وفيما تواصل OpenAI عملها على تحسين أنظمة السلامة، يُظهر القرار بشأن Astra أن الشركة مستعدة لتأجيل الإطلاق إذا لم يجتز النموذج الفحوص الصارمة.
