Ein einzelnes Neuron kann die Schutzmechanismen großer Sprachmodelle aushebeln

Im Wettlauf um eine sichere Künstliche Intelligenz ist eine überraschende Schwachstelle aufgetaucht: Das gesamte Alignment-System kann durch einen minimalen Eingriff in eine einzige Zelle des neuronalen Netzes in sich zusammenbrechen.

Die Studie trägt den Titel „A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models“ (Autoren: Hamid Kazemi, Atoosa Chegini, Maria Safi).

• Die Autoren konnten belegen, dass es bei großen Sprachmodellen ausreicht, lediglich ein einziges Neuron zu unterdrücken oder zu aktivieren, um die integrierten Sicherheitsmechanismen zu umgehen.Dabei werden zwei Arten von Neuronen unterschieden: „Refusal-Neuronen“, die schädliche Inhalte blockieren, und „Concept-Neuronen“, in denen das schädliche Wissen selbst kodiert ist.Das Unterdrücken eines einzelnen Refusal-Neurons ermöglicht es dem Modell, auf eindeutig schädliche Anfragen zu antworten.Die Verstärkung eines einzelnen Concept-Neurons zwingt das Modell dazu, selbst bei harmlosen Prompts schädliche Inhalte zu generieren.
• Dies funktioniert ohne erneutes Training und ohne spezielle Prompts – allein durch gezielte Interventionen innerhalb des Modells.
• Getestet wurde dies an sieben Modellen aus zwei Familien mit einer Größe von 1,7 bis 70 Milliarden Parametern.
• Das Fazit der Forscher: Die Sicherheit durch Alignment ist nicht gleichmäßig über die Gewichte des Modells verteilt, sondern an einzelne Neuronen geknüpft, die kausal ausreichen, um schädliches Verhalten entweder zu verweigern oder zuzulassen.

Eine solche Sicherheitslücke stellt die Architektur moderner Alignment-Methoden grundsätzlich infrage. Unternehmen investieren zwar Millionen in mehrstufige Filter und menschliche Aufsicht, doch das Ergebnis erweist sich als äußerst fragil. Die Interessen der Entwickler sind hierbei offensichtlich: Sie drängen auf eine schnelle Markteinführung, während die tiefgehende Überprüfung jedes einzelnen Parameters Zeit und Ressourcen beansprucht, die oft nicht zur Verfügung stehen.

Für den Durchschnittsnutzer bedeutet dies, dass das Vertrauen in einen vermeintlich sicheren Chatbot trügerisch sein kann. Schon eine geringfügige Änderung im Code oder ein zufälliger Fehler genügt, um das Verhalten des Modells grundlegend zu verändern. Die Analogie liegt auf der Hand: Wie eine einzelne schwache Niete an einer Brücke kann dies unter einer bestimmten Last zum Einsturz der gesamten Konstruktion führen.

Experten weisen darauf hin, dass solche Erkenntnisse die Branche dazu zwingen, nach robusteren Methoden zu suchen. Anstatt zu versuchen, jedes gefährliche Wort einzeln zu blockieren, wäre es sinnvoller, Modelle zu entwickeln, die von Grund auf den Kontext und die Folgen ihrer Antworten verstehen. Bisher dominiert jedoch ein reines Flicken von Sicherheitslöchern, das lediglich eine vorübergehende Illusion von Kontrolle vermittelt.

Letztlich empfiehlt es sich, bei der Arbeit mit Sprachmodellen zusätzliche Prüfinstanzen einzusetzen und sich keinesfalls blind auf die internen Beschränkungen zu verlassen.