Un responsable de TrendAI critique des IA livrées sans télémétrie suffisante

— Résumé

David Girard, directeur de la sécurité de l'IA et des partenariats chez TrendAI, dénonce le fait que de nombreux fournisseurs auraient livré des systèmes d'intelligence artificielle sans la télémétrie nécessaire pour assurer leur traçabilité. Selon lui, ce manque de suivi des actions effectuées par ces systèmes pose problème. C'est pour répondre à cette lacune qu'il a fondé un groupe de travail visant à imposer aux fournisseurs d'IA des exigences de traçabilité sur les actions de leurs systèmes. L'initiative s'inscrit dans une démarche de régulation du secteur, cherchant à établir des standards permettant de mieux surveiller et comprendre le comportement des IA déployées par les entreprises. Cette proposition s'adresse directement aux acteurs du marché de l'intelligence artificielle et à leurs pratiques de développement et de livraison des produits.