L'intelligence artificielle progresse si vite que l'alarme est désormais tirée non seulement par ses critiques, mais aussi par des personnes qui ont elles-mêmes été à l'origine de l'industrie moderne de l'IA.
Et il importe de préciser une chose : la plupart d'entre eux ne s'opposent pas à l'IA en tant que telle. Ils parlent d'autre chose — du fait que la course à des modèles toujours plus puissants va plus vite que n'apparaissent des règles claires de sécurité, de contrôle et de responsabilité.
L'une des voix les plus connues est celle de Geoffrey Hinton, l'un des « parrains » de l'IA moderne. Après avoir quitté Google, il s'est mis à parler beaucoup plus ouvertement des risques : de l'éviction massive des humains du marché du travail jusqu'à l'apparition de systèmes qui pourraient un jour devenir plus difficiles à contrôler que nous ne le supposons.
Un autre acteur clé est Yoshua Bengio, lui aussi l'un des pionniers de l'apprentissage profond. Ces dernières années, il s'occupe de plus en plus activement des questions de sécurité de l'IA et appelle les États à ne pas attendre de grands incidents, mais à créer par avance une surveillance indépendante et des restrictions pour les systèmes les plus puissants.
En 2023, Bengio a soutenu une lettre ouverte appelant à suspendre au moins six mois l'entraînement de systèmes plus puissants que GPT-4.
Parmi les signataires figurait aussi Elon Musk. Il a soutenu l'idée d'une pause dans la course aux plus grands modèles d'IA, afin que durant ce temps apparaissent des règles plus fiables, des normes de sécurité et des moyens de contrôle.
À cet appel s'est joint le cofondateur d'Apple Steve Wozniak. Il a ensuite évoqué séparément le fait que les développeurs devaient être plus transparents et assumer la responsabilité des dommages que la technologie peut causer.
Parmi les intellectuels les plus connus figure l'historien et écrivain Yuval Noah Harari. Il avertit depuis longtemps que le danger particulier de l'IA ne réside pas seulement dans les « machines intelligentes », mais aussi dans la capacité des algorithmes à générer massivement des textes, des images et des contenus persuasifs. Selon lui, cela peut profondément modifier l'environnement informationnel et la manière dont les gens prennent leurs décisions.
L'un des critiques les plus constants de la course effrénée est un professeur de l'université de Californie à Berkeley Stuart Russell, coauteur de l'un des manuels les plus connus sur l'intelligence artificielle.
Sa position est assez simple : le problème surgit si nous créons des systèmes capables d'atteindre des objectifs plus efficacement qu'un être humain, mais que nous ne pouvons pas garantir que leurs objectifs coïncident réellement avec les nôtres.
Et il est particulièrement révélateur que même les dirigeants des plus grandes entreprises d'IA se soient mis à parler avec plus de prudence.
Le patron d'Anthropic Dario Amodei a publiquement appelé à un développement plus lent et plus contrôlé des modèles de pointe, afin que les méthodes de sécurité suivent le rythme de leurs capacités. Il plaide pour des vérifications indépendantes, des normes communes et une coopération internationale.
Même Sam Altman, le patron d'OpenAI, a maintes fois évoqué la nécessité de réguler les systèmes les plus puissants et le fait que le développement de l'IA ne devait pas se transformer en une course où la vitesse compte plus que la sécurité.
Des idées similaires ont été exprimées par le patron de Google DeepMind Demis Hassabis. Les plus grandes entreprises d'IA discutent de plus en plus souvent d'approches communes pour contrôler les risques les plus graves.
Il en résulte un tableau assez paradoxal.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman et d'autres peuvent diverger fortement dans leur évaluation de l'ampleur de la menace et dans la question de savoir à quel point il faut freiner le développement. Mais ils s'accordent sur un point : laisser une IA surpuissante sans aucune règle est une mauvaise idée.
En même temps, il existe aussi de sérieux sceptiques.
Certains spécialistes jugent les discours sur la « fin de l'humanité » très exagérés et rappellent que les systèmes actuels ont encore de nombreuses limites.
D'autres soupçonnent les grandes entreprises d'IA d'avoir intérêt à entretenir les discussions sur une régulation stricte, car cela peut compliquer la vie des petits concurrents.
C'est pourquoi un débat très sérieux entoure ce sujet, et il n'existe pas d'opinion unanime dans la communauté scientifique.
Mais le fait même est remarquable : il y a encore quelques années, la question se posait ainsi :
« Que pourra faire l'IA ? »
Aujourd'hui, on pose de plus en plus souvent une autre question :
« Et aurons-nous le temps d'apprendre à la maîtriser avant qu'elle ne devienne trop puissante ? »
