Die künstliche Intelligenz entwickelt sich so schnell, dass nicht mehr nur ihre Kritiker Alarm schlagen, sondern auch Menschen, die selbst an den Ursprüngen der modernen KI-Industrie standen.
Dabei ist wichtig zu präzisieren: Die meisten von ihnen sind nicht gegen die KI an sich. Sie sprechen von etwas anderem – davon, dass das Rennen um immer leistungsfähigere Modelle schneller voranschreitet, als klare Regeln für Sicherheit, Kontrolle und Verantwortung entstehen.
Eine der bekanntesten Stimmen ist Jeffrey Hinton, einer der „Paten“ der modernen KI. Nach seinem Weggang von Google spricht er deutlich offener über Risiken: von der massenhaften Verdrängung von Menschen vom Arbeitsmarkt bis hin zur Entstehung von Systemen, die eines Tages schwerer zu kontrollieren sein könnten, als wir annehmen.
Eine weitere Schlüsselfigur ist Yoshua Bengio, ebenfalls einer der Pioniere des Deep Learning. In den letzten Jahren befasst er sich immer intensiver mit Fragen der KI-Sicherheit und appelliert an die Staaten, nicht auf große Zwischenfälle zu warten, sondern im Voraus unabhängige Aufsicht und Beschränkungen für die leistungsfähigsten Systeme zu schaffen.
Im Jahr 2023 unterstützte Bengio einen offenen Brief mit der Forderung, das Training von Systemen, die leistungsfähiger sind als GPT-4, mindestens ein halbes Jahr lang auszusetzen.
Unter den Unterzeichnern war auch Elon Musk. Er unterstützte die Idee einer Pause im Rennen der größten KI-Modelle, damit in dieser Zeit verlässlichere Regeln, Sicherheitsstandards und Kontrollmöglichkeiten entstehen.
Diesem Aufruf schloss sich auch der Apple-Mitgründer Steve Wozniakan. Später sprach er gesondert davon, dass Entwickler transparenter sein und Verantwortung für den Schaden tragen müssten, den die Technologie verursachen kann.
Zu den bekanntesten Intellektuellen gehört der Historiker und Schriftsteller Yuval Noah Harari. Er warnt seit Langem, dass die besondere Gefahr der KI nicht nur in „intelligenten Maschinen“ liege, sondern auch in der Fähigkeit von Algorithmen, massenhaft Texte, Bilder und überzeugende Inhalte zu erzeugen. Seiner Ansicht nach kann dies die Informationsumgebung und die Art und Weise, wie Menschen Entscheidungen treffen, ernsthaft verändern.
Einer der konsequentesten Kritiker des unkontrollierten Rennens ist ein Professor der University of California in Berkeley Stuart Russell, Mitautor eines der bekanntesten Lehrbücher über künstliche Intelligenz.
Seine Position ist ziemlich einfach: Das Problem entsteht, wenn wir Systeme erschaffen, die Ziele effizienter erreichen können als ein Mensch, wir aber nicht garantieren können, dass ihre Ziele tatsächlich mit unseren übereinstimmen.
Und besonders bezeichnend ist, dass selbst die Leiter der größten AI-Unternehmen vorsichtiger zu sprechen begannen.
Der Chef von Anthropic Dario Amodei forderte öffentlich eine langsamere und kontrolliertere Entwicklung fortschrittlicher Modelle, damit die Sicherheitsmethoden mit ihren Fähigkeiten Schritt halten können. Er tritt für unabhängige Prüfungen, gemeinsame Standards und internationale Zusammenarbeit ein.
Selbst Sam Altman, der Chef von OpenAI, sprach wiederholt von der Notwendigkeit, die leistungsfähigsten Systeme zu regulieren, und davon, dass die Entwicklung der KI nicht zu einem Wettrennen werden dürfe, in dem die Geschwindigkeit wichtiger wird als die Sicherheit.
Ähnliche Ideen äußerte auch der Chef von Google DeepMind Demis Hassabis. Die größten AI-Unternehmen diskutieren immer häufiger gemeinsame Ansätze zur Kontrolle der schwerwiegendsten Risiken.
Im Ergebnis entsteht ein ziemlich paradoxes Bild.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman und andere können in der Einschätzung des Ausmaßes der Bedrohung und darin, wie stark die Entwicklung gebremst werden muss, stark voneinander abweichen. Doch in einem Punkt sind sie sich einig: Eine übermächtige KI ganz ohne Regeln zu lassen, ist eine schlechte Idee.
Dabei gibt es auch ernsthafte Skeptiker.
Manche Fachleute halten die Rede vom „Ende der Menschheit“ für stark übertrieben und erinnern daran, dass die heutigen Systeme noch immer zahlreiche Einschränkungen haben.
Andere vermuten, dass es für die großen AI-Unternehmen vorteilhaft ist, die Rede von einer strengen Regulierung aufrechtzuerhalten, weil dies das Leben kleinerer Konkurrenten erschweren könnte.
Deshalb gibt es rund um das Thema eine sehr ernsthafte Debatte, und in der wissenschaftlichen Gemeinschaft herrscht keine einheitliche Meinung.
Doch allein die Tatsache ist bemerkenswert: Noch vor einigen Jahren lautete die Frage:
„Wozu wird die KI fähig sein?“
Jetzt wird immer häufiger eine andere Frage gestellt:
„Und werden wir es rechtzeitig schaffen, sie zu steuern, bevor sie zu mächtig wird?“
