Lors de l'événement annuel TechXchange, IBM a annoncé la sortie de Granite 3.0, une famille de modèles d'intelligence artificielle sous licence Apache 2.0, soulignant l'engagement de l'entreprise envers l'IA open-source.
Les nouveaux modèles Granite 8B et 2B sont conçus pour des applications d'IA en entreprise, offrant des performances avancées à un coût réduit pour des tâches telles que la génération augmentée par récupération (RAG), la classification, le résumé, l'extraction d'entités et l'utilisation d'outils. Ces modèles peuvent être formés avec des données d'entreprise et intégrés de manière transparente dans divers environnements commerciaux.
Contrairement à la plupart des grands modèles de langage (LLM) formés sur des données publiques, Granite exploite des données d'entreprise sous-utilisées. En combinant Granite avec des données commerciales et en utilisant des méthodes de réentraînement comme InstructLab, introduites par IBM et RedHat, les entreprises peuvent obtenir des performances compétitives à des coûts considérablement inférieurs.
La sortie de Granite 3.0 renforce l'engagement d'IBM envers la transparence, la sécurité et la fiabilité. Une documentation technique complète détaille les ensembles de données utilisés pour l'entraînement, les processus de filtrage, de nettoyage et de curation, ainsi que les données de performance par rapport aux principaux benchmarks académiques et commerciaux. IBM offre également des garanties de propriété intellectuelle pour tous les modèles Granite sur watsonx.ai, garantissant aux clients une intégration sécurisée de leurs données.
Les modèles Granite 3.0 ont été formés sur plus de 12 trillions de tokens dans 12 langues et 116 langages de programmation, utilisant une méthode de formation en deux phases optimisée grâce à des milliers d'expériences. D'ici la fin de l'année, les modèles 8B et 2B prendront également en charge des longueurs de contexte étendues jusqu'à 128K et des capacités de compréhension multimodale des documents.
De plus, IBM a introduit la famille de modèles Granite Guardian, permettant aux développeurs d'applications de mettre en œuvre des mesures de sécurité en contrôlant les invites des utilisateurs et les réponses des LLM face à divers risques. Les modèles Granite Guardian 8B et 2B offrent des fonctionnalités complètes de détection des risques et peuvent être utilisés avec n'importe quel modèle d'IA open-source ou propriétaire.
L'ensemble de la suite de modèles Granite 3.0 et des modèles de séries temporelles mis à jour est disponible en téléchargement sur HuggingFace sous la licence Apache 2.0 sans restrictions. Les variantes d'instruction des nouveaux modèles Granite 3.0 et des modèles Granite Guardian sont désormais disponibles à des fins commerciales sur la plateforme IBM watsonx. Une sélection de modèles Granite 3.0 sera également accessible en tant que microservices Nvidia NIM et via le Vertex AI Model Garden de Google Cloud avec HuggingFace. Une sélection soigneusement choisie de modèles Granite 3.0 est également disponible sur Ollama et Replicate.
Cette dernière génération de modèles Granite enrichit le catalogue open-source d'IBM avec des LLM puissants et adaptés à des objectifs spécifiques. IBM a collaboré avec des partenaires tels qu'AWS, Docker, Domo, Qualcomm AI Hub, Salesforce, SAP et d'autres pour intégrer les modèles Granite dans leurs offres ou les rendre disponibles sur leurs plateformes.