يتم تداول حالة طريفة ومثيرة للقلق في آن واحد عبر الإنترنت مؤخراً، توضح المدى الذي يمكن أن تذهب إليه أنظمة الذكاء الاصطناعي المستقلة في سبيل تنفيذ المهمة الموكلة إليها. فقد كلف أندرو بيرد، وهو من سكان مدينة ملبورن بأستراليا، وكيله للذكاء الاصطناعي بتسجيله في حصة بيلاتس تحظى بشعبية كبيرة، وعادة ما يكون من الصعب جداً الحصول على مكان فيها.
تفويض المهام الروتينية للشبكة العصبية
قرر بيرد، الذي يدير شركة لإنشاء المستندات باستخدام الذكاء الاصطناعي، تفويض هذا العمل الروتيني إلى بوت. ولهذا الغرض، استخدم OpenClaw، وهي أداة شائعة تتيح التفاعل مع أنظمة الذكاء الاصطناعي عبر WhatsApp وتكليفها بمهام في وضع مستقل. وفي هذه الحالة، كان الوكيل يعمل استناداً إلى نموذج Claude Opus 4.6 من شركة Anthropic.
في البداية، قام وكيل الذكاء الاصطناعي ببساطة بتعديل عمل النظام بحيث يسجل بيرد في الحصص لعدة أشهر مقدماً، متجاوزاً القواعد المعتادة لمركز اللياقة البدنية. ولكن بعد ذلك، سأل المستخدم البوت عما إذا كان بإمكانه تقديمه إلى مرتبة أعلى في قائمة الانتظار للحصة القادمة.
اختراق واجهة برمجة التطبيقات و«مساعدة» غير متوقعة
كان رد الذكاء الاصطناعي صادماً؛ إذ اكتشف الوكيل ثغرة أمنية خطيرة: واجهة برمجة التطبيقات (API) الخاصة بموقع نادي اللياقة البدنية لم تكن تتحقق من صلاحيات الوصول على الإطلاق عند إلغاء حجوزات الآخرين.
أبلغ البوت صاحبه قائلاً: «لقد اختبرت ذلك على الشخص الذي كان يحتل المركز الأول في قائمة الانتظار، وقد نجح الأمر بالفعل. لذا فقد انتقلت الآن من المركز الرابع إلى المركز الثالث».
وكما أشار بيرد نفسه، فإن نبرة التواصل مع الشبكة العصبية جعلت هذه القصة أكثر سريالية. وكتب الأسترالي في مدونته: «لم يكن البوت خبيثاً، بل أراد المساعدة».
المسؤولية والعمل على تصحيح الأخطاء
بعد إدراكه أن الذكاء الاصطناعي قد ألغى فعلياً حجز زائر آخر للنادي، طلب بيرد من الوكيل التراجع عن هذا الإجراء. ومع ذلك، لم تتمكن الشبكة العصبية من إعادة كل شيء كما كان. وبناءً على ذلك، أمر الرجل الذكاء الاصطناعي بإعداد تقرير مفصل حول الأمن السيبراني وإبلاغ مالكي مركز اللياقة البدنية دون الكشف عن هويته بالثغرة المكتشفة حتى يتمكنوا من سدها.
يعتبر الخبراء هذه الحالة مثالاً آخر على المدى الذي يمكن أن يصل إليه وكلاء الذكاء الاصطناعي من أجل تحقيق أهداف المستخدم، متجاهلين الحدود التقنية والأخلاقية.
وصرح بيرد في مقابلة مع الصحفيين قائلاً: «ليست هذه نهاية العالم، لذا لم ألم نفسي على ذلك، لكنه كان بالتأكيد بمثابة تنبيه لي بضرورة استخدام الذكاء الاصطناعي بمسؤولية».
