Anthropic הודיעה כי השנה סיכלה כמה ניסיונות אפשריים להשתמש במודלי הבינה המלאכותית שלה למחקרים שעלולים היו לסייע ביצירת נשק ביולוגי. החברה פרסמה דוח ב-10 בספטמבר 2026, שבו תיארה מקרים שבהם מדענים ניסו לעקוף את המגבלות.
חוקרים מאזורים אסורים עקפו את חסימות הגישה והסתירו את מטרות עבודתם. Anthropic לא הצליחה לקבוע בוודאות אם המחקרים הללו היו לגיטימיים או זדוניים — לניסויים ביולוגיים רבים יש שימוש כפול, והם יכולים לשמש הן לפיתוח חיסונים והן לפתוגנים מסוכנים.
במקרה אחד, במאי, פנה מדען בבקשה לעזרה בכתיבת בקשת מענק למחקר על נגיף הצ'יקונגוניה, המועבר על ידי יתושים וגורם לכאבים עזים. לפי נתוני החברה, העבודה תוכננה במכון מחקר צבאי.
"אתם לא רואים מישהו בסגנון קומיקס שאומר: 'היי, אני רוצה לבנות נשק ביולוגי כדי להרוג את כולם'", ציין ראש מחלקת האיומים ב-Anthropic, ג'ייקוב קליין. החברה העדיפה לנקוט זהירות וחסמה את החשבונות הקשורים לכך.
המומחה אנדרו ובר מ-Council on Strategic Risks כינה את המקרים הללו "דוגמאות מדאיגות" לכך שמפתחי נשק ביולוגי הקשורים למדינות משתמשים ביכולות של מודלי בינה מלאכותית מתקדמים. הדוח מכסה חמישה אירועים מסוג זה.
עד כמה רחוק יכולה דו-המשמעות הזו להגיע בעולם האמיתי, כשהבינה המלאכותית הולכת ונעשית חזקה יותר?
זהו הדוח הפומבי הראשון של חברת בינה מלאכותית גדולה על ניסיונות ממשיים של שימוש לרעה מסוג זה בתחום הביולוגי, ולא רק בבדיקות מעבדה. Anthropic מדגישה כי ההשלכות של טעות בהערכה עלולות להיות חמורות מכדי לקחת את הסיכון.
