ביום שני אימצו 22 מדינות הצהרה שבה הודגש כי הבינה המלאכותית «חייבת להישאר תחת הנחיה, פיקוח ושליטה אנושיים». המסמך גם מציע להקים משטר פיקוח עולמי על הטכנולוגיה.
ההצהרה נחתמה בשולי העצרת הכללית של האו"ם בניו יורק. בין החותמות כמה מדינות אירופיות, ובהן גרמניה. בריטניה טרם הצטרפה, ואילו צרפת, איטליה ופולין נמנעו מלחתום.
את היוזמה הובילו נשיא פינלנד אלכסנדר סטוב וראש ממשלת נורווגיה יונאס גאר סטורה. הם מקווים להקים מכון בינלאומי לבינה מלאכותית ולשלב בתהליך את ארצות הברית וסין.
«איננו פניקים», ציין סטוב בראיון ל-POLITICO. «אך בלי פיקוח אפקטיבי גוברים הסיכונים: נשק ביולוגי שנוצר על ידי בינה מלאכותית, מתקפות סייבר של סוכני בינה מלאכותית ומערכות קטלניות אוטונומיות».
לא ארצות הברית ולא סין הצטרפו להצהרה. ואולם סטוב הביע תקווה שהמסמך ייצור תנופה להשתתפות רחבה יותר. הפגישה בין הנשיאים דונלד טראמפ ושי ג'ינפינג, המתוכננת ליום חמישי, מעניקה לנושא רלוונטיות נוספת.
באותו יום פרסמה OpenAI הצעות לתקנים טכניים עולמיים למערכות בינה מלאכותית מתקדמות. החברה קראה לארצות הברית להוביל את תיאום התקנים הללו באמצעות המרכז לתקנים וחדשנות בתחום הבינה המלאכותית במשרד המסחר.
OpenAI מדגישה את הצורך במדדים משותפים, בפרוטוקולים לדיווח על תקלות ובאמצעים לפיקוח על שיפור עצמי רקורסיבי של המודלים. המטרה היא לשמור על מערכות המותאמות לערכים אנושיים ותחת שליטה אנושית.
מנכ"ל OpenAI סם אלטמן מתכנן לנאום בפני מועצת הביטחון של האו"ם ביום רביעי. איזה איזון בין ביטחון לחדשנות יצליחו המעצמות למצוא בימים הקרובים?
ההצהרה והיוזמה של OpenAI מלמדות שהדיון על רגולציה של בינה מלאכותית עולה שלב — מצעדים לאומיים לניסיונות תיאום בינלאומי. לעת עתה נותרות השחקניות הגדולות בצד, אך הלחץ למצוא גישות משותפות גובר.
