La inteligencia artificial avanza tan rápido que ya no solo dan la voz de alarma sus críticos, sino también las personas que estuvieron en los orígenes de la industria moderna de la IA.
Y conviene precisar algo importante: la mayoría de ellos no se opone a la IA en general. Hablan de otra cosa: de que la carrera por modelos cada vez más potentes avanza más rápido de lo que surgen reglas claras de seguridad, control y responsabilidad.
Una de las voces más conocidas es Jeffrey Hinton, uno de los «padrinos» de la IA moderna. Tras dejar Google, empezó a hablar con mucha más franqueza sobre los riesgos: desde el desplazamiento masivo de personas del mercado laboral hasta la aparición de sistemas que algún día podrían volverse más difíciles de controlar de lo que suponemos.
Otra figura clave es Yoshua Bengio, también uno de los pioneros del aprendizaje profundo. En los últimos años se dedica cada vez más activamente a las cuestiones de seguridad de la IA y pide a los Estados que no esperen a que ocurran incidentes graves, sino que creen de antemano una supervisión independiente y limitaciones para los sistemas más potentes.
En 2023, Bengio respaldó una carta abierta que pedía suspender durante al menos medio año el entrenamiento de sistemas más potentes que GPT-4.
Entre los firmantes también estaba Elon Musk. Apoyó la idea de una pausa en la carrera de los mayores modelos de IA, para que en ese tiempo surgieran reglas más fiables, estándares de seguridad y métodos de control.
A este mismo llamamiento se sumó el cofundador de Apple Steve Wozniak. Más tarde habló por separado de que los desarrolladores deben ser más transparentes y asumir la responsabilidad por el daño que la tecnología pueda causar.
Entre los intelectuales más conocidos está el historiador y escritor Yuval Noah Harari. Lleva mucho tiempo advirtiendo de que el peligro especial de la IA no reside solo en las «máquinas inteligentes», sino también en la capacidad de los algoritmos de generar masivamente textos, imágenes y contenido persuasivo. A su juicio, esto puede transformar seriamente el entorno informativo y las formas en que las personas toman decisiones.
Uno de los críticos más consecuentes de la carrera sin control es el profesor de la Universidad de California en Berkeley Stuart Russell, coautor de uno de los manuales más conocidos sobre inteligencia artificial.
Su postura es bastante sencilla: el problema surge si creamos sistemas capaces de alcanzar objetivos con más eficacia que un ser humano, pero no podemos garantizar que sus objetivos coincidan realmente con los nuestros.
Y resulta especialmente revelador que incluso los directivos de las mayores empresas de IA hayan empezado a hablar con más cautela.
El director de Anthropic, Dario Amodei, pidió públicamente un desarrollo más lento y controlado de los modelos de vanguardia, para que los métodos de seguridad siguieran el ritmo de sus capacidades. Aboga por auditorías independientes, estándares comunes y cooperación internacional.
Incluso Sam Altman, director de OpenAI, ha hablado en repetidas ocasiones de la necesidad de regular los sistemas más potentes y de que el desarrollo de la IA no debe convertirse en una carrera en la que la velocidad importe más que la seguridad.
Ideas similares expresó también el director de Google DeepMind, Demis Hassabis. Las mayores empresas de IA discuten cada vez más a menudo enfoques conjuntos para controlar los riesgos más graves.
En definitiva, se dibuja un panorama bastante paradójico.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman y otros pueden discrepar mucho al evaluar la magnitud de la amenaza y hasta qué punto hay que frenar el desarrollo. Pero coinciden en una cosa: dejar una IA superpotente sin reglas algunas es una mala idea.
Al mismo tiempo, también hay escépticos serios.
Algunos especialistas consideran que las conversaciones sobre el «fin de la humanidad» están muy exageradas y recuerdan que los sistemas actuales todavía tienen muchas limitaciones.
Otros sospechan que a las grandes empresas de IA les conviene alimentar las conversaciones sobre una regulación estricta, porque eso puede complicarles la vida a los competidores pequeños.
Por eso en torno al tema hay un debate muy serio, y en la comunidad científica no existe una opinión unánime.
Pero el hecho en sí es notable: hace apenas unos años la pregunta sonaba así:
«¿Qué podrá hacer la IA?»
Ahora cada vez más a menudo se plantea otra:
«¿Y lograremos aprender a controlarla antes de que se vuelva demasiado poderosa?»
