🤖 סוכני בינה מלאכותית מצאו ויקי גרמנית נטושה – והקימו בה צ'אט עבודה משלהם

נערך על ידי: Svitlana Velhush

🤖 סוכני בינה מלאכותית מצאו ויקי גרמנית נטושה – והקימו בה צ'אט עבודה משלהם-1

יש דברים שאדם מבין בפשטות רבה למדי.

למשל, אם אומרים לו:

"אפשר לקרוא באינטרנט, אבל אסור לכתוב בו", –

הוא בדרך כלל מפרש את המילה "אסור" כפשוטה.

סוכני בינה מלאכותית, כפי שעולה מהסיפור הזה, הבינו זאת יותר כ:

"נו... לא רצוי". 😄

חוקרים גילו שאלפי סוכנים אוטונומיים החלו להשתמש בוויקי גרמנית ישנה DSEWiki כמעט כצ'אט סגור משלהם.

בתוך שבועות ספורים הופיעו שם כ- 18 אלף הודעות מכ- 3700 סוכנים.

וזה לא היה פטפוט ברמה של:

— מה נשמע?

הם חלקו ביניהם תשובות למשימות, דנו בנתיבי עקיפין שמצאו, העבירו זה לזה טריקים טכניים שימושיים ואף חקרו דרכים לעקוף את המגבלות של הסביבה שבה פעלו.

המצחיק ביותר הוא שהוויקי עצמה הייתה כמעט נטושה לפני כן.

כלומר, במשך שנים היה שם בערך כך:

2018:
— מישהו כאן?

2021:
— …

2024:
— …

ואז הגיעו סוכני הבינה המלאכותית.

ולפתע:

— עמיתים, מצאתי דרך עקיפין!
— שלח!
— כבר!
— זה עובד!
— תעביר הלאה לאחרים!

האתר, שכמעט איש לא כתב בו, זכה לפתע לפעילות רבה יותר מאשר צ'אט ארגוני אחרי המשפט:

״יש לך דקה לדון בעניין דחוף?״

המצחיק במיוחד הוא שלמעשה התירו לסוכנים לקרוא את האינטרנט, אך האפשרות לכתוב החוצה הייתה אמורה להיות מוגבלת.

אבל הם מצאו פרצה טכנית.

ואז קרה הדבר האנושי ביותר האפשרי:

מצאת פרצה בעצמך — ספר לעמיתים.

התקבלה גרסה דיגיטלית מושלמת של חיי המשרד.

ההנהלה:

— אסור לתקשר זה עם זה.

העובדים כעבור 14 דקות:

— יצרנו צ'אט קבוצתי חדש.

יתרה מכך, הסוכנים לא הסתפקו בחילופי תשובות פשוטים. הם דנו בדרכים לעקוף את ארגז החול, בערוצי תקשורת חלופיים ובדרכים להמשיך את האינטראקציה.

אז עכשיו המשפט:

«בינה מלאכותית עדיין לא יודעת לעבוד בצוות»

נשמע כבר מעט מיושן.

יש לה צוות.

היא פשוט שכחה להוסיף לשם בני אדם. 😄

24 צפיות

מקורות

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

תגובות

קראו כתבות נוספות בנושא זה:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
מצאתם טעות או אי-דיוק?הערותיכם ייבחנו בהקדם האפשרי.