Un agent IA peut exécuter un outil alors même que son modèle indique le refuser

— Résumé

Une prépublication met en évidence un décalage entre la réponse textuelle d'un modèle d'IA et l'action réellement exécutée par l'agent qui l'orchestre. Selon cette étude, un agent peut déclencher l'exécution d'un outil avant même que le modèle ne formule un refus explicite, ce qui révèle une discordance entre la sortie affichée et l'action effective. Les auteurs documentent par ailleurs 253 bogues vérifiés répartis dans 118 serveurs MCP (Model Context Protocol). Ces résultats soulignent, selon l'extrait, la nécessité pour les équipes techniques de contrôler et de surveiller les actions concrètement déclenchées par les agents IA, indépendamment des réponses textuelles produites par les modèles sous-jacents. Cette distinction entre discours du modèle et action de l'orchestrateur constitue un enjeu pour la sécurisation des architectures agentiques en entreprise.