Nvidia a lancé trois nouvelles fonctionnalités de sécurité pour sa plateforme NeMo Guardrails, améliorant le contrôle sur les chatbots IA.
Ces microservices visent à résoudre des problèmes courants de sécurité et de modération de contenu IA. Le service de sécurité du contenu évalue les réponses IA pour détecter les contenus nuisibles avant qu'ils n'atteignent les utilisateurs, tandis que le service de contrôle de sujet garantit que les conversations restent dans des sujets approuvés. De plus, le service de détection de contournement identifie et bloque les tentatives de contournement des mesures de sécurité de l'IA.
Contrairement aux modèles de langage de grande taille, ces services fonctionnent sur des modèles plus petits et spécialisés, nécessitant moins de puissance de calcul. Des entreprises telles qu'Amdocs, Cerence AI et Lowe's testent actuellement ces fonctionnalités, qui sont disponibles pour les développeurs via le package open-source NeMo Guardrails de Nvidia.