Seit dem 2. Februar 2025 hat die Europäische Union Vorschriften erlassen, die KI-Systeme verbieten, die als "inakzeptabel riskant" gelten. Dies ist Teil des umfassenden KI-Regelwerks der EU, bekannt als EU-KI-Gesetz, das am 1. August 2024 in Kraft trat.
Das Gesetz kategorisiert KI-Anwendungen in vier Risikostufen: minimal, begrenzt, hoch und inakzeptabel. Systeme mit minimalem Risiko, wie E-Mail-Spamfilter, unterliegen keiner Aufsicht, während Anwendungen mit inakzeptablem Risiko, wie solche, die soziale Bewertungen vornehmen oder Entscheidungen manipulieren, vollständig verboten sind.
Unternehmen, die diese verbotenen KI-Anwendungen nutzen, könnten mit Geldstrafen von bis zu 35 Millionen Euro (ca. 36 Millionen Dollar) oder 7 % ihres Jahresumsatzes, je nachdem, welcher Betrag höher ist, belegt werden. Die Durchsetzung dieser Strafen beginnt jedoch erst nach einer Übergangszeit.
Über 100 Unternehmen, darunter Amazon und Google, haben im September 2024 den EU-KI-Pakt unterzeichnet und sich verpflichtet, die Prinzipien des KI-Gesetzes einzuhalten. Bemerkenswert abwesend waren jedoch Meta und Apple, die dennoch den Vorschriften entsprechen müssen.
Die Europäische Kommission plant, Anfang 2025 weitere Richtlinien zu veröffentlichen, um die Umsetzung des Gesetzes zu erleichtern, nach Konsultationen mit den Interessengruppen.