Nvidia ha lanzado tres nuevas características de seguridad para su plataforma NeMo Guardrails, mejorando el control sobre los chatbots de IA.
Estos microservicios buscan abordar problemas comunes de seguridad y moderación de contenido de IA. El servicio de Seguridad de Contenido evalúa las respuestas de IA en busca de contenido dañino antes de que lleguen a los usuarios, mientras que el servicio de Control de Temas asegura que las conversaciones se mantengan dentro de temas aprobados. Además, el servicio de Detección de Jailbreak identifica y bloquea intentos de eludir las medidas de seguridad de la IA.
A diferencia de los modelos de lenguaje grandes, estos servicios operan en modelos más pequeños y especializados, que requieren menos potencia de cómputo. Empresas como Amdocs, Cerence AI y Lowe's están probando actualmente estas características, que están disponibles para desarrolladores a través del paquete de código abierto NeMo Guardrails de Nvidia.