Kunstmatige intelligentie ontwikkelt zich zo snel dat niet alleen haar critici alarm slaan, maar ook mensen die zelf aan de wieg van de moderne AI-industrie stonden.
En het is belangrijk om te verduidelijken: de meesten van hen zijn niet tegen AI in het algemeen. Ze zeggen iets anders — namelijk dat de race om steeds krachtigere modellen sneller gaat dan dat er duidelijke regels voor veiligheid, controle en verantwoordelijkheid ontstaan.
Een van de bekendste stemmen is Jeffrey Hinton, een van de ‘peetvaders’ van de moderne AI. Nadat hij bij Google vertrok, is hij veel openlijker gaan spreken over de risico’s: van de massale verdringing van mensen van de arbeidsmarkt tot het ontstaan van systemen die op een dag moeilijker te controleren kunnen blijken dan wij vermoeden.
Nog een sleutelfiguur is Yoshua Bengio, eveneens een van de pioniers van deep learning. De laatste jaren houdt hij zich steeds actiever bezig met vraagstukken rond AI-veiligheid en roept hij overheden op niet te wachten op grote incidenten, maar vooraf onafhankelijk toezicht en beperkingen voor de krachtigste systemen in het leven te roepen.
In 2023 steunde Bengio een open brief met de oproep om de training van systemen krachtiger dan GPT-4 ten minste een half jaar op te schorten.
Onder de ondertekenaars was ook Elon Musk. Hij steunde het idee van een pauze in de race om de grootste AI-modellen, zodat er in die tijd betrouwbaardere regels, veiligheidsnormen en controlemethoden konden ontstaan.
Bij deze oproep sloot zich ook de medeoprichter van Apple aan, Steve Wozniak. Later sprak hij afzonderlijk over het feit dat ontwikkelaars transparanter moeten zijn en verantwoordelijkheid moeten dragen voor de schade die de technologie kan aanrichten.
Een van de bekendste intellectuelen is historicus en schrijver Yuval Noah Harari. Hij waarschuwt al lang dat het bijzondere gevaar van AI niet alleen schuilt in ‘slimme machines’, maar ook in het vermogen van algoritmen om op massale schaal teksten, afbeeldingen en overtuigende content te genereren. Volgens hem kan dit de informatieomgeving en de manieren waarop mensen beslissingen nemen ingrijpend veranderen.
Een van de meest consequente critici van de onbeheerste race is hoogleraar aan de Universiteit van Californië in Berkeley Stuart Russell, coauteur van een van de bekendste handboeken over kunstmatige intelligentie.
Zijn standpunt is vrij eenvoudig: het probleem ontstaat als we systemen creëren die in staat zijn doelen efficiënter te bereiken dan de mens, maar we er tegelijkertijd niet voor kunnen instaan dat hun doelen daadwerkelijk samenvallen met die van ons.
En het is bijzonder veelzeggend dat zelfs de leiders van de grootste AI-bedrijven voorzichtiger zijn gaan spreken.
Het hoofd van Anthropic Dario Amodei riep publiekelijk op tot een tragere en gecontroleerde ontwikkeling van geavanceerde modellen, zodat veiligheidsmethoden gelijke tred kunnen houden met hun mogelijkheden. Hij pleit voor onafhankelijke controles, gemeenschappelijke standaarden en internationale samenwerking.
Zelfs Sam Altman, het hoofd van OpenAI, heeft herhaaldelijk gesproken over de noodzaak om de krachtigste systemen te reguleren en over het feit dat de ontwikkeling van AI niet mag ontaarden in een race waarin snelheid belangrijker wordt dan veiligheid.
Soortgelijke ideeën werden ook geuit door het hoofd van Google DeepMind Demis Hassabis. De grootste AI-bedrijven bespreken steeds vaker gezamenlijke benaderingen voor het beheersen van de ernstigste risico's.
Uiteindelijk ontstaat er een nogal paradoxaal beeld.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman en anderen kunnen sterk van mening verschillen over de inschatting van de omvang van de dreiging en over de mate waarin de ontwikkeling moet worden afgeremd. Maar ze zijn het over één ding eens: superkrachtige AI volledig zonder regels laten, is een slecht idee.
Tegelijkertijd zijn er ook serieuze sceptici.
Sommige specialisten beschouwen de gesprekken over het 'einde van de mensheid' als sterk overdreven en herinneren eraan dat de huidige systemen nog steeds vele beperkingen hebben.
Anderen vermoeden dat het voor grote AI-bedrijven voordelig is om de gesprekken over strikte regulering gaande te houden, omdat dit het leven van kleine concurrenten kan bemoeilijken.
Daarom woedt er een zeer ernstige discussie rond dit onderwerp en is er geen consensus in de wetenschappelijke gemeenschap.
Maar het feit zelf is opmerkelijk: nog maar enkele jaren geleden klonk de vraag als:
‘Wat zal AI kunnen?’
Nu wordt steeds vaker een andere vraag gesteld:
‘En zullen we er op tijd in slagen om hem te leren beheersen voordat hij te machtig wordt?’
