הבינה המלאכותית מתפתחת כל כך מהר, שכבר לא רק מבקריה מרימים קול מחאה, אלא גם אנשים שעמדו בעצמם בראשיתה של תעשיית ה-AI המודרנית.
ויש להבהיר: רובם אינם מתנגדים לבינה מלאכותית ככזו. הם מדברים על משהו אחר — על כך שהמרוץ אחר מודלים חזקים יותר ויותר מתנהל מהר יותר מקצב הופעתם של כללים ברורים לבטיחות, לפיקוח ולאחריות.
אחד הקולות הידועים ביותר הוא ג'פרי הינטון, אחד מ"סנדקי" הבינה המלאכותית המודרנית. לאחר שעזב את גוגל הוא החל לדבר בגילוי לב רב יותר על הסיכונים: מדחיקתם ההמונית של בני אדם משוק העבודה ועד להופעתן של מערכות שעלולות יום אחד להיות קשות לפיקוח מכפי שאנו מניחים.
איש מפתח נוסף הוא יהושע בנז'יו, גם הוא מחלוצי הלמידה העמוקה. בשנים האחרונות הוא עוסק ביתר שאת בשאלות של בטיחות הבינה המלאכותית וקורא למדינות לא להמתין לאירועים חמורים, אלא להקים מראש פיקוח עצמאי והגבלות על המערכות החזקות ביותר.
בשנת 2023 תמך בנז'יו במכתב פתוח הקורא להשהות לפחות בחצי שנה את אימון המערכות החזקות מ-GPT-4.
בין החותמים היה גם אילון מאסק. הוא תמך ברעיון של הפסקה במרוץ המודלים הגדולים ביותר של AI, כדי שבזמן הזה ייווצרו כללים אמינים יותר, תקני בטיחות ודרכי פיקוח.
לקריאה הזו הצטרף גם ממייסדי אפל סטיב ווזניאק. מאוחר יותר הוא דיבר בנפרד על כך שמפתחים צריכים להיות שקופים יותר ולשאת באחריות לנזק שהטכנולוגיה עלולה לגרום.
בין האינטלקטואלים הידועים ביותר נמצא ההיסטוריון והסופר יובל נח הררי. זה מכבר הוא מזהיר שהסכנה המיוחדת של הבינה המלאכותית אינה רק ב"מכונות חכמות", אלא ביכולתם של האלגוריתמים לייצר בהיקף המוני טקסטים, תמונות ותוכן משכנע. לדעתו, הדבר עלול לשנות באופן מהותי את הסביבה המידעית ואת הדרכים שבהן בני אדם מקבלים החלטות.
אחד המבקרים העקביים ביותר של המרוץ חסר הפיקוח הוא פרופסור מאוניברסיטת קליפורניה בברקלי סטיוארט ראסל, מחבר-שותף של אחד מספרי הלימוד הידועים ביותר בתחום הבינה המלאכותית.
עמדתו די פשוטה: הבעיה נוצרת אם אנו יוצרים מערכות המסוגלות להשיג מטרות ביעילות רבה יותר מבני אדם, אך בה בעת איננו יכולים להבטיח שמטרותיהן אכן חופפות לשלנו.
ומאלף במיוחד שגם ראשיהן של חברות ה-AI הגדולות ביותר החלו לדבר בזהירות רבה יותר.
ראש Anthropic דריו אמודאי קרא בפומבי לפיתוח איטי ומבוקר יותר של מודלים מתקדמים, כדי ששיטות הבטיחות יספיקו להדביק את יכולותיהם. הוא תומך בבדיקות עצמאיות, בתקנים משותפים ובשיתוף פעולה בינלאומי.
אפילו סם אלטמן, ראש OpenAI, דיבר לא אחת על הצורך ברגולציה של המערכות החזקות ביותר ועל כך שפיתוח ה-AI לא צריך להפוך למירוץ שבו המהירות חשובה יותר מהבטיחות.
רעיונות דומים השמיע גם ראש Google DeepMind דמיס האסאביס. חברות ה-AI הגדולות ביותר דנות יותר ויותר בגישות משותפות לפיקוח על הסיכונים החמורים ביותר.
בסופו של דבר מצטיירת תמונה די פרדוקסלית.
הינטון, בנז'יו, ראסל, מאסק, ווזניאק, הררי, אמודאי, אלטמן ואחרים עשויים לחלוק מאוד בהערכת היקף האיום ובשאלה עד כמה יש לבלום את הפיתוח. אך הם תמימי דעים בנקודה אחת: להשאיר בינה מלאכותית רבת-עוצמה ללא כללים כלל — זה רעיון גרוע.
עם זאת, יש גם ספקנים רציניים.
יש מומחים הסבורים שהדיבורים על "קץ האנושות" מוגזמים מאוד, ומזכירים שלמערכות הנוכחיות עדיין יש מגבלות רבות.
אחרים חושדים שלחברות ה-AI הגדולות משתלם לתמוך בדיבורים על רגולציה נוקשה, משום שהדבר עלול להקשות על מתחרים קטנים.
לכן מתנהל סביב הנושא ויכוח רציני מאוד, ואין דעה אחידה בקהילה המדעית.
אך העובדה עצמה ראויה לציון: לפני שנים אחדות בלבד נשמעה השאלה כך:
«מה יוכל ה-AI?»
כעת שואלים לעתים קרובות יותר שאלה אחרת:
«והאם נספיק ללמוד לשלוט בו לפני שהוא יהפוך לעוצמתי מדי?»
