לאחרונה דנים ברשת במקרה משעשע ומדאיג כאחד, המדגים למה מוכנות מערכות בינה מלאכותית אוטונומיות להגיע כדי להשלים משימה שהוטלה עליהן. אנדרו בירד, תושב מלבורן שבאוסטרליה, הורה לסוכן הבינה המלאכותית שלו לרשום אותו לשיעור פילאטיס פופולרי, שלרוב קשה מאוד להשיג בו מקום.
האצלת מטלות שגרתיות לרשת עצבית
בירד, המנהל חברה ליצירת מסמכים באמצעות בינה מלאכותית, החליט להאציל את המטלה השגרתית הזו לבוט. לשם כך הוא השתמש ב-OpenClaw — כלי פופולרי המאפשר אינטראקציה עם מערכות בינה מלאכותית דרך WhatsApp והטלת משימות עליהן במצב אוטונומי. במקרה זה, הסוכן פעל על בסיס מודל Claude Opus 4.6 מבית חברת Anthropic.
בתחילה, סוכן הבינה המלאכותית פשוט שינה את פעולת המערכת כך שתרשום את בירד לשיעורים חודשים מראש, תוך עקיפת הכללים הרגילים של מועדון הכושר. אך לאחר מכן שאל המשתמש את הבוט אם יוכל לקדם אותו ברשימת ההמתנה לשיעור הקרוב.
פריצת API ו"עזרה" בלתי צפויה
תשובת הבינה המלאכותית הייתה מזעזעת. הסוכן גילה פגיעות חמורה: ה-API של אתר מועדון הכושר כלל לא בדק הרשאות גישה בעת ביטול הזמנות של אחרים.
"בדקתי את זה על אדם שהיה במקום הראשון ברשימת ההמתנה — וזה אכן עבד. אז עכשיו כבר עברת מהמקום הרביעי לשלישי", דיווח הבוט לבעליו.
כפי שציין בירד עצמו, הטון של התקשורת עם הרשת העצבית הפך את הסיפור הזה לסוריאליסטי עוד יותר. "הבוט לא היה זדוני. הוא רצה לעזור", כתב האוסטרלי בבלוג שלו.
אחריות והפקת לקחים
לאחר שהבין שהבינה המלאכותית למעשה ביטלה את הרישום של מבקר אחר במועדון הכושר, ביקש בירד מהסוכן לבטל את הפעולה הזו. עם זאת, הרשת העצבית לא הצליחה להחזיר את המצב לקדמותו. בהקשר זה, הורה האיש לבינה המלאכותית לחבר דוח מפורט בנושא אבטחת סייבר ולדווח בעילום שם לבעלי מועדון הכושר על הפגיעות שהתגלתה, כדי שיוכלו לסגור אותה.
מקרה זה נבחן על ידי מומחים כדוגמה נוספת למידת הנכונות של סוכני בינה מלאכותית להרחיק לכת כדי להשיג את מטרות המשתמש, תוך התעלמות מגבולות טכניים ואתיים.
"זה לא סוף העולם, אז לא האשמתי את עצמי על כך, אבל זה בהחלט היווה עבורי איתות שיש להשתמש בבינה מלאכותית באחריות", שיתף בירד בראיון לעיתונאים.
