Investigaciones recientes realizadas por cinco lingüistas computacionales han puesto a prueba la afirmación de Noam Chomsky sobre los modelos de lenguaje y su capacidad para aprender idiomas 'imposibles'. Chomsky había argumentado que estos modelos podían dominar fácilmente idiomas regidos por reglas distintas a las de cualquier idioma humano conocido.
El estudio, titulado 'Mission: Impossible Language Models', recibió el premio al mejor artículo en la conferencia de 2024 de la Asociación de Lingüística Computacional. Los autores encontraron que los modelos de lenguaje tenían más dificultades para aprender estos idiomas que el inglés estándar.
Adele Goldberg, lingüista de la Universidad de Princeton, elogió el artículo como 'absolutamente oportuno e importante', sugiriendo que tales modelos podrían ayudar a los investigadores a comprender el balbuceo de los bebés.
Las teorías de Chomsky, que ganaron prominencia a mediados del siglo XX, proponían que los humanos poseen un mecanismo mental innato para el procesamiento del lenguaje, lo que explicaría la ausencia de ciertas reglas gramaticales en los idiomas conocidos. Argumentó que si el aprendizaje del lenguaje fuera similar a otros tipos de aprendizaje, no favorecería ciertas reglas gramaticales sobre otras.
En contraste, los experimentos recientes de Mitchell y Bowers en 2020 mostraron que los modelos de lenguaje podían aprender idiomas imposibles con una sorprendente precisión. Sin embargo, Kallini, una estudiante de posgrado en la Universidad de Stanford, buscó investigar más a fondo las afirmaciones de Chomsky utilizando modelos de transformadores modernos, que son prevalentes en el procesamiento actual del lenguaje.
El equipo de Kallini creó una docena de idiomas imposibles manipulando textos en inglés, observando que los modelos entrenados en estos idiomas mejoraron con el tiempo, pero aún enfrentaron desafíos en comparación con los entrenados en inglés estándar.
Esta investigación indica que los modelos de lenguaje muestran preferencias en el aprendizaje de ciertos patrones lingüísticos, reflejando tendencias humanas, pero no necesariamente idénticas. Los hallazgos sugieren una compleja interacción entre redes neuronales y adquisición del lenguaje humano.
A medida que los investigadores continúan explorando estas dinámicas, el estudio abre caminos para futuras investigaciones sobre la naturaleza del aprendizaje de idiomas y las capacidades de la inteligencia artificial para procesar estructuras lingüísticas complejas.