Microsoft lance un outil d'IA qui corrige automatiquement les erreurs
Microsoft lance un outil d'IA qui corrige automatiquement les erreurs
Microsoft a dévoilé une nouvelle fonctionnalité appelée “correction”, visant à améliorer la précision des systèmes d’intelligence artificielle. Disponible en avant-première via Azure AI Studio, cet outil permet aux entreprises utilisant les services Azure de détecter et de corriger automatiquement les erreurs dans les sorties d'IA avant même que l’utilisateur ne les voit.
La fonctionnalité correction va au-delà de la simple détection d'inexactitudes dans les réponses générées par l'IA. En comparant les résultats avec des documents sources fournis par l’utilisateur, le système est capable de mettre en évidence les erreurs, d'expliquer pourquoi elles sont incorrectes, et de réécrire le contenu. Cet outil s'inscrit dans une suite d’outils de sécurité conçus pour identifier les vulnérabilités, détecter les "hallucinations" de l'IA, et bloquer les prompts malveillants.
Cette fonctionnalité ressemble à des initiatives similaires, telles que le système de Vertex AI de Google, qui vérifie les résultats générés par l’IA en les comparant à des données internes ou à Google Search. Bien que l'outil de Microsoft utilise des modèles de petite et grande taille pour aligner les réponses avec les documents de référence, la société reconnaît qu'il ne garantit pas une précision totale. En effet, comme le souligne Microsoft, la détection d'ancrage (groundedness) ne résout pas complètement le problème de l'exactitude, mais aide à améliorer la cohérence entre les sorties de l'IA et les documents sources.
