En el evento anual TechXchange, IBM anunció el lanzamiento de Granite 3.0, una familia de modelos de inteligencia artificial con licencia Apache 2.0, enfatizando el compromiso de la empresa con la IA de código abierto.
Los nuevos modelos Granite 8B y 2B están diseñados para aplicaciones de IA empresarial, ofreciendo un rendimiento avanzado a un costo reducido para tareas como la Generación Aumentada por Recuperación (RAG), clasificación, resumen, extracción de entidades y uso de herramientas. Estos modelos pueden ser entrenados con datos empresariales e integrados sin problemas en varios entornos comerciales.
A diferencia de la mayoría de los grandes modelos de lenguaje (LLM) que se entrenan con datos públicos, Granite aprovecha datos empresariales infrautilizados. Al combinar Granite con datos comerciales y utilizar métodos de reentrenamiento como InstructLab, introducido por IBM y RedHat, las empresas pueden lograr un rendimiento competitivo a costos significativamente más bajos.
El lanzamiento de Granite 3.0 refuerza el compromiso de IBM con la transparencia, la seguridad y la fiabilidad. Una documentación técnica completa detalla los conjuntos de datos utilizados para el entrenamiento, los procesos de filtrado, limpieza y curación, así como los datos de rendimiento frente a los principales estándares académicos y comerciales. IBM también ofrece garantías de propiedad intelectual para todos los modelos Granite en watsonx.ai, asegurando que los clientes puedan integrar sus datos de manera segura.
Los modelos Granite 3.0 han sido entrenados con más de 12 billones de tokens en 12 idiomas y 116 lenguajes de programación, utilizando un método de entrenamiento en dos fases optimizado a través de miles de experimentos. Para finales de año, los modelos 8B y 2B también incluirán soporte para longitudes de contexto extendidas de hasta 128K y capacidades de comprensión multimodal de documentos.
Además, IBM introdujo la familia de modelos Granite Guardian, que permite a los desarrolladores de aplicaciones implementar medidas de seguridad controlando las solicitudes de los usuarios y las respuestas de los LLM frente a diversos riesgos. Los modelos Granite Guardian 8B y 2B ofrecen un conjunto completo de funciones de detección de riesgos y pueden utilizarse junto a cualquier modelo de IA de código abierto o propietario.
La suite completa de modelos Granite 3.0 y los modelos de series temporales actualizados están disponibles para su descarga en HuggingFace bajo la licencia Apache 2.0 sin restricciones. Las variantes de instrucción de los nuevos modelos Granite 3.0 y los modelos Granite Guardian están disponibles desde hoy para uso comercial en la plataforma IBM watsonx. Una selección de modelos Granite 3.0 también estará disponible como microservicios Nvidia NIM y a través del Vertex AI Model Garden de Google Cloud con HuggingFace. Una selección curada de modelos Granite 3.0 también está disponible en Ollama y Replicate.
Esta última generación de modelos Granite amplía el catálogo de código abierto de IBM con potentes LLM diseñados para objetivos específicos. IBM ha colaborado con socios como AWS, Docker, Domo, Qualcomm AI Hub, Salesforce, SAP y otros para integrar los modelos Granite en sus ofertas o hacerlos disponibles en sus plataformas.