ב-19 באוקטובר 2026 פורסם בכתב העת Nature תגובה מאת חוקר המוח אניל סת' מאוניברסיטת סאסקס, הפילוסוף נד בלוק מאוניברסיטת ניו יורק וחוקר המוח ג'וליו טונוני מאוניברסיטת ויסקונסין במדיסון. שם הטקסט ישיר:
"שלוש סיבות לכך שלבינה מלאכותית אין תודעה, ואולי לעולם לא תהיה לה".
המחברים טוענים שלמערכות בינה מלאכותית בנות ימינו אין חוויה סובייקטיבית, ושבגישות הפיתוח הנוכחיות ספק אם אי פעם תזכינה בה.
הרעיון המרכזי של העבודה הוא להפריד בין שני מושגים שבדיון הציבורי כמעט תמיד מערבבים ביניהם.
אינטליגנציה, על פי הגדרת המחברים, היא מה שהמערכת יודעת לעשות: לבצע פונקציות, לפתור משימות, לשלוט בתנועה.
תודעה — היא דבר אחר לגמרי: זה מה שנחווה כאשר נמצאים במצב של המערכת הזו, ברוח ניסוחו של הפילוסוף תומאס נגל.
אפשר לבחון את ההבדל על המוח עצמו. המוח הקטן מכיל כמעט ארבע חמישיות מכלל הנוירונים במוח האדם ומבצע חישובים מוטוריים מדויקים ומסתגלים במהירות, אך אנו איננו חשים בעבודתם. המחברים מזכירים שהסרה או היעדר של המוח הקטן אינם משפיעים ישירות על התודעה. ואילו התודעה, לדבריהם, היא מה שנעלם בשינה ללא חלומות ובהרדמה כללית.
בעבר נחשבה המחשבה על בינה מלאכותית מודעת לשולית, אך כיום דנים בה ברצינות: הביולוג ריצ'רד דוקינס וג'פרי הינטון התירו בפומבי אפשרות כזו, ו-Anthropic פרסמה בעבר בשנת 2026 מחקר שדיבר על סימנים חישוביים של תודעה במודל Claude.
העבודה עוררה ביקורת, בין היתר מצד אניל סת'. מחברי התגובה משיבים לרקע הזה באמצעות אסימטריה של טעויות: יש לקבל החלטה תוך שקלול הסיכון לשלול בטעות תודעה במקום שהיא קיימת, והסיכון לייחס אותה בטעות במקום שהיא אינה קיימת. לגבי הבינה המלאכותית של ימינו, לפי הערכתם, הטעות השנייה סבירה הרבה יותר.
הטענה השנייה נוגעת למצע — למה שממנו עשויה המערכת. המחברים דוחים את הפונקציונליזם החישובי, שלפיו די בהרצת תוכנית נכונה על כל נשא שהוא כדי שתיווצר חוויה. חישובים, כפי שהם מודים, מספיקים לאינטליגנציה, אך לא בהכרח לתודעה. את המוח, בניסוחם, אי אפשר לצמצם למחשב העשוי מבשר: לרקמת העצבים אין הפרדה בין "תוכנית" ל"חומרה", ומבנהּ והתהליכים הפיזיים שבה אינם ניתנים להפרדה ממה שהיא עושה.
לפיכך, לדעת המחברים, שבבי סיליקון אינם מספקים את הארגון הנדרש לתודעה, בשונה מרשתות הנוירונים של המוח.
הטענה השלישית נשענת על תיאוריות מדעיות קונקרטיות, ובראשן תיאוריית המידע המשולב (IIT), שטונוני מפתח זה שנים רבות. לפיה, התודעה נובעת מקישוריות צפופה בין מרכיבי המערכת, ואילו ברשתות נוירונים עמוקות טיפוסיות בעלות ארכיטקטורה שכבית של התפשטות קדימה (feed-forward) אין קישוריות כזו. מכאן נובע שגם בהינתן שקילות תפקודית מלאה לאדם, מאחורי התנהגות המכונה עשוי לא לעמוד דבר מבחינת החוויה הפנומנלית.
מלבד IIT נשענים המחברים גם על נטורליזם ביולוגי, הקושר את התודעה לתהליכים ביולוגיים של המוח.
ראוי להבין גם את גבולות העבודה עצמה. זה אינו ניסוי אלא תגובה: המחברים מנתחים נתונים נוירו-מדעיים ופילוסופיים שכבר נצברו ואת העמדות הקיימות. מסקנותיהם נשענות על אימוץ תיאוריות מסוימות של תודעה, ופרשנויות חלופיות נותרות בגדר אפשרות.
המחברים מזהירים בנפרד: אילו הבינה המלאכותית אכן הייתה מודעת, הדבר היה מעלה שאלות של סבל, זכויות ורווחה; ואילו היא רק נראית מודעת, אזי הענקת זכויות לה עלולה להקשות על ניהול מערכות כאלה ועל הפיקוח עליהן, והקשב והמשאבים יוסטו מיצורים שיכולתם לסבול אינה מוטלת בספק.
נוח להמחיש את ההבחנה בין אינטליגנציה לתודעה באמצעות השוואה בין מחשבון לאדם. המחשבון מבצע פעולות ללא דופי, אך אין לו עולם פנימי, וכל הגברת כוח לא תהפוך אריתמטיקה לחוויה של התוצאה. האדם לעומת זאת לא רק מחשב אלא גם חש מה יצא.
המחברים למעשה משייכים את הבינה המלאכותית בת ימינו לכלים ולא לסובייקטים, ואף המודלים המורכבים ביותר, לפי היגיון זה, קרובים יותר למחשבון מאשר לאדם.
העבודה מעמידה בסימן שאלה לא רק את הסיכויים הטכניים של "בינה מלאכותית מודעת", אלא גם הנחות רחבות יותר: האם אפשר להפריד את התבונה מבסיסה הביולוגי ומה המשמעות של הדבר לאתיקה ולהבנת החוויה האנושית. אם התבונה ניתנת להעברה לכל נשא שהוא, שאלת תודעתן של מכונות הופכת לשאלה של הנדסה. אם לא, הבינה המלאכותית בת ימינו נותרת כלי עוצמתי, ואת השאלות המוסריות בדבר סבל ראוי להפנות למי שאכן מסוגל לסבול.
המחברים מציעים לקהילה המדעית לצאת כברירת מחדל מן ההנחה שהבינה המלאכותית אינה מודעת. אפשר לחלוק על העמדה הזו, אך דווקא היא קובעת כעת את נקודת המוצא לדיון.
