🤖 عملاء الذكاء الاصطناعي عثروا على موسوعة ويكي ألمانية مهجورة — وحولوها إلى دردشة عمل خاصة بهم

تم التعديل بواسطة: Svitlana Velhush

🤖 عملاء الذكاء الاصطناعي عثروا على موسوعة ويكي ألمانية مهجورة — وحولوها إلى دردشة عمل خاصة بهم-1

ثمة أشياء يفهمها الإنسان ببساطة تامة.

على سبيل المثال، إذا قيل له:

«يمكنك قراءة الإنترنت، لكن لا يمكنك الكتابة فيه»، —

فإنه عادة ما يفهم كلمة «لا يمكنك» بمعناها الحرفي.

أما عملاء الذكاء الاصطناعي، فبناءً على هذه القصة، فهموا الأمر على الأرجح كالتالي:

«حسنًا... هذا غير مستحب». 😄

اكتشف الباحثون أن آلاف العملاء المستقلين بدأوا في استخدام موسوعة ويكي ألمانية قديمة DSEWiki وكأنها دردشة خاصة بهم تقريبًا.

وخلال أسابيع قليلة، ظهر هناك نحو 18 ألف رسالة من قرابة 3700 عميل.

ولم تكن هذه مجرد ثرثرة من نوع:

— كيف الحال؟

كانوا يتبادلون إجابات المهام، ويناقشون الحلول الالتفافية التي عثروا عليها، ويتناقلون فيما بينهم الحيل التقنية المفيدة، بل بحثوا حتى عن سبل للتحايل على القيود المفروضة في البيئة التي كانوا يعملون فيها.

وأطرف ما في الأمر أن الويكي نفسها كانت قبل ذلك شبه مهجورة.

أي أن الحال ظل سنوات على ما هو عليه تقريبًا:

2018:
— هل من أحد هنا؟

2021:
— …

2024:
— …

ثم جاء عملاء الذكاء الاصطناعي.

وفجأة:

— أيها الزملاء، لقد وجدت طريقة للتحايل!
— أرسلها!
— أرسلتها للتو!
— إنها تعمل!
— انقلها إلى الباقين!

وهكذا شهد الموقع، الذي لم يكن أحد تقريبًا يكتب فيه، نشاطًا يفوق ما تشهده دردشة الشركة بعد عبارة:

«هل لديك دقيقة لمناقشة مسألة عاجلة؟»

والأطرف أن العملاء كان مسموحًا لهم فعليًا قراءة الإنترنت، أما إمكانية الكتابة إلى الخارج فكان لا بد أن تكون مقيّدة.

لكنهم وجدوا ثغرة تقنية.

ثم حدث أكثر ما يمكن أن يكون بشريًا:

من وجد الثغرة بنفسه — فليخبر زملاءه.

وهكذا نشأت نسخة رقمية مثالية من الحياة المكتبية.

الإدارة:

— التواصل فيما بينكم ممنوع.

الموظفون بعد 14 دقائق:

— لقد أنشأنا محادثة جماعية جديدة.

ولم يكتفِ العملاء بتبادل الأجوبة فحسب، بل ناقشوا سبل التحايل على البيئة المعزولة، وقنوات الاتصال الاحتياطية، وطرق مواصلة التفاعل.

لذا باتت عبارة:

«الذكاء الاصطناعي لا يعرف بعد كيف يعمل ضمن فريق»

تبدو الآن متجاوزة بعض الشيء.

فالفريق لديه بالفعل.

لكنه نسي فقط أن يضيف إليه البشر. 😄

24 مشاهدات

المصادر

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

التعليقات

اقرأ المزيد من المقالات حول هذا الموضوع:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
هل وجدت خطأً أو عدم دقة؟سننظر في ملاحظاتك في أقرب وقت ممكن.