Künstliche Intelligenz wird zunehmend zur Überprüfung wissenschaftlicher Publikationen und Datenbanken eingesetzt. Jüngste Beispiele zeigen, wie KI-Agenten Ungenauigkeiten aufdecken, die jahrzehntelang unbemerkt blieben.
Der theoretische Chemiker Sebastian Pios vom Zhejiang Lab in Hangzhou setzte ein KI-Modell ein, um die Siedepunkte von Molekülen vorherzusagen. Das System lieferte Werte, die den Daten aus einem 75 Jahre alten Nachschlagewerk widersprachen. Zunächst vermutete Pios einen Fehler im Modell, doch eine Überprüfung der Originalquellen zeigte das Gegenteil: Die Referenzdaten selbst erwiesen sich als falsch.
In anderen Fällen entdeckte die KI einen Tippfehler in einem Artikel und fehlerhafte Messwerte für Siedepunkte, die ein Jahrhundert alt waren. Laut Pios hätten diese Fehler Forschenden bei der Nutzung der Datenbank erhebliche Schwierigkeiten bereiten können.
Ähnliche Werkzeuge werden auch zur Überprüfung von Konferenzbeiträgen eingesetzt. In einer Analyse von SAI Labs überprüften KI-Agenten 168 Artikel aus mündlichen Vorträgen der ICML 2026.
Von 92 Arbeiten mit einer ausreichenden Anzahl überprüfbarer Behauptungen konnten die Agenten nur in 34 Fällen mehr als zwei von fünf Schlüsselbehauptungen reproduzieren. Vollständig – also über 80 % der Behauptungen – ließen sich nur in acht Artikeln reproduzieren.
James Zou von Stanford und Kollegen entwickelten einen „KI-Prüfer“, der NeurIPS-Artikel scannte. Die Anzahl objektiver Fehler in Formeln, Berechnungen und Abbildungen stieg von 3,8 pro Artikel im Jahr 2021 auf 5,9 im Jahr 2025 – ein Anstieg von 55 %. Solche Werkzeuge ermöglichen die Arbeit in einem Maßstab, der für den Menschen unerreichbar ist.
Experten warnen jedoch: Auch KI macht Fehler. Odd Erik Gundersen von der Norwegischen Universität für Wissenschaft und Technologie betont die Notwendigkeit menschlicher Kontrolle. Wie lässt sich also die Zuverlässigkeit wissenschaftlichen Wissens im Zeitalter der automatisierten Überprüfung gewährleisten?
Die Analyse konzentriert sich auf objektive Fehler und überlässt Fragen der Neuheit und Relevanz dem menschlichen Urteilsvermögen. Dies hilft, eine Überlastung der KI mit subjektiven Einschätzungen zu vermeiden.
