Meta, la empresa matriz de Facebook, ha presentado un nuevo marco político destinado a gestionar los riesgos asociados con los sistemas de inteligencia artificial (IA) avanzados. El marco Frontier AI clasifica los sistemas de IA en dos niveles de riesgo: «alto riesgo» y «riesgo crítico». Los sistemas de alto riesgo, que incluyen modelos de IA que podrían facilitar los ciberataques o contribuir a las amenazas químicas y biológicas, estarán sujetos a un acceso restringido y medidas de seguridad antes de su lanzamiento público. Los sistemas de riesgo crítico, que podrían tener consecuencias devastadoras e incontrolables si se utilizan de manera incorrecta, se detendrán en su desarrollo hasta que se implementen las salvaguardas suficientes.
El enfoque de Meta para evaluar el riesgo de la IA se basa en evaluaciones de expertos de investigadores internos y externos, en lugar de pruebas empíricas estandarizadas. La empresa reconoce que el campo de la seguridad de la IA carece de métodos científicos «suficientemente robustos» para establecer métricas de riesgo precisas.
La publicación del marco Frontier AI parece ser una medida estratégica en respuesta a las crecientes preocupaciones sobre la filosofía de desarrollo de IA abierta de Meta. Si bien Meta ha adoptado un enfoque más abierto al desarrollo de la IA, también ha sido criticado por su falta de salvaguardas sólidas, lo que ha generado preocupaciones sobre el posible uso indebido de sus modelos de IA.
El documento político de Meta enfatiza la importancia de equilibrar la innovación con la seguridad. La empresa declara: «Creemos que al considerar tanto los beneficios como los riesgos al tomar decisiones sobre cómo desarrollar e implementar la IA avanzada, es posible entregar esa tecnología a la sociedad de una manera que preserve los beneficios de esa tecnología para la sociedad, mientras que también mantiene un nivel de riesgo apropiado».