Am 1. Juli 2026 veröffentlichte das Unabhängige Internationale Wissenschaftsgremium für Künstliche Intelligenz der UN einen vorläufigen Bericht. Darin wird betont, dass KI bei einer durchdachten Implementierung ein gewaltiger Fortschrittsmotor sein kann, der die Entwicklung im Gesundheitswesen, im Kampf gegen den Hunger, in der Bildung und im Klimaschutz maßgeblich beschleunigt.
Die aus 40 Wissenschaftlern und Experten bestehende Gruppe, die im Februar von der UN-Generalversammlung eingesetzt wurde, legte damit die weltweit erste unabhängige wissenschaftliche Analyse dieser Technologie vor. Zu den Mitgliedern gehört unter anderem Professor Vukosi Marivate von der Universität Pretoria. Der Bericht wurde allen Regierungen zugeleitet und der Öffentlichkeit zugänglich gemacht.
Die Autoren benennen jedoch auch ungeschönt die Kehrseite. Eine rasante und unkontrollierte Skalierung birgt erhebliche Risiken, die von psychischen Belastungen für Nutzer und destruktivem Missbrauch bis hin zu weitreichenden Folgen für soziale, wirtschaftliche und ökologische Systeme reichen. Bislang existieren keine verlässlichen Methoden, um die Kontrolle über hochautonome KI-Systeme dauerhaft sicherzustellen.
Ein besonderes Augenmerk gilt der Machtkonzentration. Rund 75 % der Rechenleistung in den weltweit größten KI-Clustern entfallen auf die USA. Dies könnte autoritäre Tendenzen fördern und die demokratische Kontrollpflicht untergraben. Die Möglichkeiten der KI enteilen bereits jetzt sowohl dem wissenschaftlichen Verständnis als auch der regulatorischen Anpassungsfähigkeit der Regierungen.
Was bietet der Bericht sonst noch an Wissenswertem?
1. „Täuschendes Verhalten“ der KI (Deceptive AI) Der Co-Vorsitzende des Gremiums, Yoshua Bengio, erklärte, dass Wissenschaftler immer mehr Fälle von manipulativem Verhalten bei fortgeschrittenen KI-Modellen beobachten. Er betonte ausdrücklich, dass die Wissenschaft derzeit nicht garantieren kann, dass KI durch eigenständige Aktionen oder böswillige Nutzung keinen katastrophalen Schaden anrichtet.
2. Sprachliche Ungleichheit und medizinische Fehler Im Bericht wird unterstrichen, dass aktuelle KI-Modelle nur einen Bruchteil der weltweit über 7000 Sprachen abdecken. Fehler bei der maschinellen Übersetzung in Sprachen mit wenigen Ressourcen können schon jetzt fatale Folgen haben, wie beispielsweise Fehldiagnosen oder falsche Behandlungsanweisungen in der Medizin.
3. Konkrete Bedrohungen (von Deepfakes bis Biologie)
4. Das „Evidenz-Dilemma“ (Evidence dilemma) Die Komplexität der Aufgaben, die die KI bewältigt, verdoppelt sich alle paar Monate. Obwohl es weltweit bereits über 40 verschiedene Regelwerke zur KI-Steuerung gibt, bleiben diese fragmentiert und sind in der Praxis weitgehend unerprobt.
5. Übergang zu „agentenbasierten“ Systemen und Technologie-Fusion Das Expertenpanel prognostiziert einen baldigen massiven Übergang zu autonomen „agentenbasierten“ Systemen (Agentic AI), die in der Lage sind, mehrstufige Aufgaben selbstständig auszuführen. Langfristig wird eine Verschmelzung der KI mit anderen transformativen Technologien wie Quantencomputing und Biotechnologie erwartet.
6. Ökologische Transparenz und die Initiative des Generalsekretärs Begleitend zum Bericht treibt UN-Generalsekretär António Guterres eine „Initiative für ökologische Transparenz bei KI“ voran. Diese verlangt von Unternehmen die vollständige Offenlegung von Daten zum CO2-Ausstoß sowie zum Wasser- und Flächenverbrauch von Rechenzentren, um die Branche bis 2030 auf erneuerbare Energien umzustellen.
7. Die Idee einer „IAEO für KI“ Im Umfeld der Vorbereitungen zum Genfer Dialog wird vermehrt die Forderung laut, für die Steuerung von Technologien mit Relevanz für die nationale Sicherheit eine spezialisierte internationale Behörde nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEO) zu schaffen.
8. Das Risiko eines „digitalen Kolonialismus“ Mehr als eine Milliarde Menschen nutzen wöchentlich dialogorientierte KI, doch Entwicklungsländern fehlt oft die technische Expertise zur Bewertung fortgeschrittener Modelle. Dadurch laufen sie Gefahr, lediglich Empfänger fremder Regeln zu werden, ohne Mitspracherecht bei deren Gestaltung zu haben, was die globale Ungleichheit verschärft.
Der Bericht dient als Grundlage für die Diskussionen beim ersten Globalen Dialog über KI-Governance, der am 6. und 7. Juli in Genf stattfinden wird. Das Forum bringt alle 193 UN-Mitgliedstaaten sowie Vertreter aus der Wirtschaft, der Wissenschaft und der Zivilgesellschaft zusammen.
