Auf dem jährlichen TechXchange-Event kündigte IBM die Veröffentlichung von Granite 3.0 an, einer Familie von Modellen für künstliche Intelligenz, die unter Apache 2.0 lizenziert sind, und betont damit das Engagement des Unternehmens für Open-Source-AI.
Die neuen Modelle Granite 8B und 2B sind für Unternehmensanwendungen von KI konzipiert und bieten fortschrittliche Leistungen zu geringeren Kosten für Aufgaben wie Retrieval Augmented Generation (RAG), Klassifizierung, Zusammenfassung, Entitätsextraktion und Tool-Nutzung. Diese Modelle können mit Unternehmensdaten trainiert und nahtlos in verschiedene Geschäftsumgebungen integriert werden.
Im Gegensatz zu den meisten großen Sprachmodellen (LLMs), die auf öffentlichen Daten trainiert werden, nutzt Granite untergenutzte Unternehmensdaten. Durch die Kombination von Granite mit Geschäftsdaten und die Verwendung von Nachschulungsmethoden wie InstructLab, die von IBM und RedHat eingeführt wurden, können Unternehmen wettbewerbsfähige Leistungen zu deutlich niedrigeren Kosten erzielen.
Die Veröffentlichung von Granite 3.0 bekräftigt IBMs Engagement für Transparenz, Sicherheit und Zuverlässigkeit. Umfassende technische Dokumentationen erläutern die verwendeten Datensätze für das Training, die Filter-, Reinigungs- und Pflegeprozesse sowie Leistungsdaten im Vergleich zu wichtigen akademischen und geschäftlichen Benchmarks. IBM bietet auch Garantien für geistiges Eigentum für alle Granite-Modelle auf watsonx.ai, sodass Kunden ihre Daten sicher integrieren können.
Die Granite 3.0-Modelle wurden mit über 12 Billionen Tokens in 12 Sprachen und 116 Programmiersprachen trainiert und nutzen eine zweiphasige Trainingsmethode, die durch Tausende von Experimenten optimiert wurde. Bis Ende des Jahres werden die Modelle 8B und 2B auch erweiterte Kontextlängen von bis zu 128K und multimodale Dokumentenverständnisfähigkeiten unterstützen.
Zusätzlich stellte IBM die Granite Guardian-Modellfamilie vor, die es Anwendungsentwicklern ermöglicht, Sicherheitsmaßnahmen zu implementieren, indem sie die Benutzeraufforderungen und die Antworten der LLMs hinsichtlich verschiedener Risiken kontrollieren. Die Modelle Granite Guardian 8B und 2B bieten umfassende Funktionen zur Risikodetektion und können mit jedem offenen oder proprietären KI-Modell verwendet werden.
Die gesamte Suite von Granite 3.0-Modellen und aktualisierten Zeitreihenmodellen ist unter der uneingeschränkten Apache 2.0-Lizenz auf HuggingFace zum Download verfügbar. Die Anweisungsvarianten der neuen Granite 3.0-Modelle und der Granite Guardian-Modelle sind jetzt kommerziell auf der IBM watsonx-Plattform erhältlich. Eine Auswahl von Granite 3.0-Modellen wird auch als Nvidia NIM-Mikrodienste und über Google Clouds Vertex AI Model Garden mit HuggingFace zugänglich sein. Eine kuratierte Auswahl von Granite 3.0-Modellen ist auch auf Ollama und Replicate verfügbar.
Diese neueste Generation von Granite-Modellen erweitert IBMs Open-Source-Katalog mit leistungsstarken, zielgerichteten LLMs. IBM hat mit Partnern wie AWS, Docker, Domo, Qualcomm AI Hub, Salesforce, SAP und anderen zusammengearbeitet, um die Granite-Modelle in deren Angebote zu integrieren oder sie auf ihren Plattformen verfügbar zu machen.