בינה מלאכותית משמשת יותר ויותר לבדיקת פרסומים מדעיים ומאגרי נתונים. דוגמאות מהעת האחרונה מראות כיצד סוכני בינה מלאכותית חושפים אי-דיוקים שנותרו ללא הבחנה במשך עשורים.
הכימאי התאורטי סבסטיאן פיוס מ-Zhejiang Lab בהאנגג'ואו השתמש במודל בינה מלאכותית כדי לחזות נקודות רתיחה של מולקולות. המערכת הפיקה ערכים הסותרים נתונים מספר עזר בן 75 שנים. בתחילה חשד פיוס בשגיאה של המודל, אך בדיקה של המקורות המקוריים העלתה את ההפך: דווקא נתוני ספרי העזר היו שגויים.
במקרים אחרים, הבינה המלאכותית זיהתה שגיאת דפוס במאמר וערכי מדידה שגויים של נקודות רתיחה בני מאה שנה. שגיאות אלו, לדברי פיוס, עלולות היו לגרום לחוקרים בעיות רבות בעת השימוש במאגר.
כלים דומים מיושמים גם לביקורת של עבודות מכנסים. בניתוח של SAI Labs, סוכני בינה מלאכותית בדקו 168 מאמרים מהרצאות בעל פה בכנס ICML 2026. מתוך 92 עבודות עם כמות מספקת של טענות הניתנות לאימות, הסוכנים הצליחו לשחזר יותר משתיים מתוך חמש טענות מפתח רק ב-34 מקרים. באופן מלא — יותר מ-80% מהטענות — הצליחו לשחזר רק בשמונה מאמרים.
ג'יימס זו מאוניברסיטת סטנפורד ועמיתיו פיתחו "בודק בינה מלאכותית" שסרק מאמרי NeurIPS. מספר השגיאות האובייקטיביות בנוסחאות, בחישובים ובאיורים עלה מ-3.8 למאמר בשנת 2021 ל-5.9 בשנת 2025 — עלייה של 55%. כלים כאלה מאפשרים לעבוד בקנה מידה שאינו נגיש לבני אדם.
עם זאת, מומחים מזהירים: גם הבינה המלאכותית טועה. אוד אריק גונדרסן מהאוניברסיטה הנורווגית למדע וטכנולוגיה מדגיש את הצורך בבקרה אנושית. כיצד אם כן להבטיח את מהימנות הידע המדעי בעידן של בדיקה אוטומטית?
הניתוח מתמקד בשגיאות אובייקטיביות, ומותיר שאלות של חדשנות וחשיבות לשיקול דעתם של בני אדם. הדבר מסייע להימנע מהעמסת יתר על הבינה המלאכותית בשיפוטים סובייקטיביים.
