OpenAI presentó su primer chip especializado Jalapeño para tareas de inferencia de grandes modelos de lenguaje. Desarrollado en colaboración con Broadcom, el acelerador está orientado al procesamiento de consultas a modelos como GPT y Codex, no al entrenamiento. El anuncio en la conferencia Hot Chips en agosto de 2026 estuvo acompañado de los primeros puntos de referencia, que mostraron una ventaja notable en tokens por vatio y reducción de latencias.
El aspecto técnico clave es la arquitectura, optimizada para los patrones característicos de la inferencia de LLM: alto rendimiento con baja latencia y uso eficiente de la memoria. A diferencia de las GPU universales, Jalapeño se centra en operaciones específicas, como la atención y las redes feed-forward en los transformadores. Las pruebas tempranas en SemiAnalysis InferenceX demuestran 1,5–1,9 veces más trabajo por vatio en comparación con Nvidia Blackwell, y en ciertos escenarios se afirma hasta 104 veces más tokens por vatio, una cifra que requiere verificación independiente.
La metodología de prueba incluye la comparación con sistemas basados en Nvidia GB200/GB300, normalizando por la potencia declarada del chip (700 W, con consumo real de hasta 550 W). Los resultados cubren tanto modelos internos de OpenAI como externos: DeepSeek R1 y Kimi K2.5. Esto refuerza el argumento de aplicabilidad entre modelos, pero la falta de ablaciones detalladas y una descripción completa de los conjuntos de datos deja preguntas sobre la reproducibilidad.
En el panorama de los chips de IA, Jalapeño ocupa un nicho de ASIC especializados para inferencia, similar a las TPU de Google o Trainium/Inferentia de Amazon. A diferencia del enfoque de Meta o Microsoft, OpenAI apuesta por una integración estrecha con sus propios modelos y una plataforma multigeneracional. Esto acerca la estrategia a la de Google, pero acelera el ciclo de desarrollo a nueve meses gracias al uso de IA en el diseño.
Para la industria, esto significa una posible reducción de costos de inferencia en los centros de datos, lo cual es especialmente importante al escalar sistemas de agentes y API. La menor latencia (1,7–3,6 veces) permite atender a más usuarios sin compromisos entre rendimiento y velocidad de respuesta.
Queda por ver cuán sostenibles son las métricas bajo carga real en 2027, cuando los competidores lancen nuevas generaciones. Las pruebas independientes y la divulgación de detalles de la arquitectura serán clave para evaluar el impacto a largo plazo.
El desarrollo de Jalapeño subraya que la eficiencia de la inferencia ahora está determinada no solo por el tamaño del modelo, sino también por la especialización del hardware para cargas de trabajo específicas.
