29 September 2026 Jahres fand im Weißen Haus ein Treffen des US-Präsidenten Donald Trump mit den Leitern führender Technologieunternehmen statt, die im Bereich der künstlichen Intelligenz tätig sind. Unter den Teilnehmern waren Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Dario Amodei (Anthropic), Sundar Pichai (Google), Greg Brockman (OpenAI) und Elon Musk (xAI).
Als Ergebnis der Gespräche unterzeichneten die Seiten ein Dokument mit dem Titel „Abkommen des Weißen Hauses über Superintelligenz“ (White House Accord on Super Intelligence). Trump bewertete es sogleich hoch und nannte die Vereinbarung „fast eine Verfassung“ und „eine Form des Schutzes“.
„Das ist fast wie eine Verfassung. Die einflussreichsten Menschen der Welt haben dieses Dokument unterzeichnet, und ich habe es als Präsident unterzeichnet. Es ist wirklich eine Form des Schutzes“, erklärte Trump. Auf die Frage nach der rechtlichen Wirkung der Vereinbarung antwortete er, sie sei „moralisch bindend“.
Das Dokument ist freiwilliger Natur und sieht vier Stufen der Kontrolle und Prüfung vor. Die Unternehmen verpflichten sich, interne Mechanismen zur Überwachung der Fähigkeiten und der „Ausrichtung“ von Modellen einzuführen (insbesondere in den Bereichen Cybersicherheit, Biosicherheit und chemische Bedrohungen), interne Aufsichtsteams zu bilden, unabhängige externe Prüfer hinzuzuziehen und spezielle Ausschüsse bei den Vorständen zur Risikobewertung einzurichten.
Darüber hinaus unterstützten die Teilnehmer des Treffens Trumps Vorschlag, den Begriff „künstliche Intelligenz“ durch „Superintelligenz“ zu ersetzen. Am selben Tag unterzeichnete der Präsident einen entsprechenden Erlass, der die Bundesbehörden anweist, die neue Terminologie zu verwenden.
Mark Zuckerberg merkte an, dass die unterzeichnete Vereinbarung nur ein erster Schritt und keine endgültige Lösung sei. Seinen Worten zufolge muss die Branche die Mechanismen der Selbstkontrolle weiterentwickeln.
Die Vereinbarung entstand vor dem Hintergrund wachsender gesellschaftlicher Besorgnis über die Sicherheit leistungsstarker KI-Systeme. Kritiker weisen bereits darauf hin, dass das Dokument keine strikten Durchsetzungsmechanismen enthält und sich ausschließlich auf die Gewissenhaftigkeit der Unternehmen stützt. Befürworter des Ansatzes sind hingegen der Meinung, dass gerade die Selbstregulierung es der Branche ermöglichen wird, sich schnell zu entwickeln, ohne dabei die Kontrolle über die Risiken zu verlieren.
Bislang bleibt die Hauptfrage offen: Kann die „moralisch bindende“ Vereinbarung tatsächlich zu einer zuverlässigen Form des Schutzes in einem Bereich werden, der sich mit beispielloser Geschwindigkeit verändert?
Elon Musk sagte, als er begann, den Journalisten zu antworten, zunächst „AI“, verbesserte sich aber schnell:
„SI, pardon me“ („SI, verzeihen Sie“) — wobei er „Super Intelligence“ meinte. Trump dankte ihm in diesem Moment für die Verwendung des neuen Begriffs. Musk betonte die positiven Perspektiven der Technologie:
„Ich denke, man sollte die positiven Seiten von SI hervorheben… Das wahrscheinlichste Ergebnis ist ein Zeitalter des Überflusses, in dem wir nicht nur ein universelles Grundeinkommen, sondern ein universelles hohes Einkommen haben werden. … Wenn Roboter und Superintelligenz auftauchen, wird das bedeuten, dass jeder Mensch auf der Welt eine bessere medizinische Versorgung erhalten kann, als sie derzeit sogar ich erhalte. Und ist das nicht wunderbar?“
Außerdem merkte er an, dass die Unternehmen eine gemeinsame Überwachung vereinbart hätten und faktisch „die Hausaufgaben des jeweils anderen überprüfen“ würden. Musk sprach in öffentlichen Kommentaren nach dem Treffen mehr über die Möglichkeiten der Superintelligenz als über die Details der Vereinbarung selbst.
