Hong Kong - El 5 de diciembre de 2024, Amazon Web Services (AWS) anunció la disponibilidad de las instancias Amazon Elastic Compute Cloud (Amazon EC2) Trn2, impulsadas por el nuevo chip de IA Amazon Trainium2, durante la conferencia global re:Invent 2024. Las instancias Trn2 prometen una mejora del 30-40% en la relación costo-rendimiento en comparación con las instancias EC2 basadas en GPU existentes, facilitando el entrenamiento y despliegue de modelos de IA avanzados.
David Brown, vicepresidente de AWS para Computación y Redes, declaró que el Amazon Trainium2 está diseñado para soportar cargas de trabajo de IA generativa a gran escala, abordando la necesidad de un entrenamiento e inferencia eficientes a medida que los parámetros del modelo se acercan a los billones. Los nuevos UltraServers EC2 Trn2 ofrecen capacidades de entrenamiento e inferencia a alta velocidad, permitiendo a las empresas desplegar modelos a gran escala más rápidamente y de manera más rentable.
Las instancias Trn2 integran 16 chips Trainium2, ofreciendo hasta 20.8 Petaflops de rendimiento de punto flotante, ideales para entrenar modelos de miles de millones de parámetros. Los UltraServers permiten a los clientes escalar más allá de las limitaciones de las instancias Trn2 individuales, mejorando la velocidad de entrenamiento y la preparación para el mercado.
AWS está colaborando con Anthropic para desarrollar el Proyecto Rainier, un clúster de computación distribuido que utiliza UltraServers Trn2, con el objetivo de entrenar modelos de IA con un poder de cómputo sin precedentes. Se espera que esta iniciativa produzca el clúster de computación de IA más grande disponible a nivel mundial.
Además, AWS anunció planes para el chip Amazon Trainium3 de nueva generación, que se lanzará a finales de 2025 y que mejorará aún más el rendimiento y la eficiencia energética para cargas de trabajo de IA avanzadas.