In de race naar veilige kunstmatige intelligentie is een onverwacht zwak punt aan het licht gekomen: het volledige afstemmingssysteem kan instorten door een minimale interventie in slechts één enkele cel van het neurale netwerk.
Het onderzoek "A Single Neuron Is Sufficient to Bypass Safety Alignment in Large Language Models" (auteurs: Hamid Kazemi, Atoosa Chegini, Maria Safi).
- De auteurs tonen aan dat het bij grote LLM's volstaat om slechts één neuron te onderdrukken (suppress) of te activeren om de ingebouwde veiligheidsmechanismen (refusal) te omzeilen.Er bestaan twee soorten neuronen: weigeringsneuronen (die schadelijke inhoud blokkeren) en conceptneuronen (die de schadelijke kennis zelf coderen).Het onderdrukken van één weigeringsneuron stelt het model in staat om te antwoorden op expliciet schadelijke verzoeken.Het versterken van één conceptneuron dwingt het model om schadelijke inhoud te genereren, zelfs bij onschadelijke prompts.
- Dit proces werkt zonder aanvullende training en zonder speciale prompts — het betreft uitsluitend een gerichte interventie binnenin het model.
- De methode is getest op zeven modellen uit twee families (variërend van 1,7 miljard tot 70 miljard parameters).
- De conclusie van de onderzoekers luidt: de veiligheid van de afstemming is niet gelijkmatig verdeeld over de gewichten van het model, maar is gebonden aan individuele neuronen die "causaal voldoende" zijn voor het weigeren of toestaan van schadelijk gedrag.
Een dergelijke kwetsbaarheid stelt de architectuur van de huidige afstemmingsmethoden fundamenteel ter discussie. Bedrijven investeren miljoenen in gelaagde filters en menselijk toezicht, maar het uiteindelijke resultaat blijkt uiterst fragiel. De belangen van de ontwikkelaars zijn hierbij zonneklaar: zij streven ernaar hun producten zo snel mogelijk op de markt te brengen, terwijl een diepgaande controle van elke parameter tijd en middelen vraagt die vaak simpelweg ontbreken.
Voor de gewone gebruiker betekent dit dat het vertrouwen in een "veilige" chatbot een illusie kan zijn. Een kleine wijziging in de code of zelfs een toevallige fout is al genoeg om de modelarchitectuur anders te laten functioneren. De analogie is hier eenvoudig: zoals één zwakke klinknagel in een brug de hele constructie kan doen instorten bij een specifieke belasting.
Experts merken op dat dergelijke bevindingen de industrie aanzetten tot het zoeken naar robuustere methoden. In plaats van te proberen elk gevaarlijk woord te blokkeren, is het verstandiger om modellen te bouwen die van nature de context en de consequenties van hun antwoorden begrijpen. Voorlopig overheerst echter de aanpak van het "dichten van gaten", wat slechts een tijdelijke schijn van controle geeft.
Uiteindelijk is het bij het werken met taalmodellen verstandig om extra controleniveaus toe te passen en niet louter te vertrouwen op de ingebouwde beperkingen.
