« Casseur-payeur » : avec l'IA, la responsabilité incombe à l'entreprise

— Résumé

L'article aborde la question de la responsabilité des entreprises utilisant l'intelligence artificielle face aux erreurs commises par ces outils dans leurs interactions avec les clients. Selon l'extrait, ce n'est pas l'IA elle-même qui serait tenue pour responsable des dysfonctionnements, mais l'entreprise qui l'a déployée. Une règle européenne entrant en vigueur le 9 décembre viendrait formaliser ce principe. L'article propose trois questions à se poser avant de mettre en place un système d'IA destiné à interagir avec la clientèle, afin d'anticiper les risques liés à cette responsabilité. Pour les entreprises, cette évolution réglementaire implique une vigilance accrue dans le choix, le paramétrage et le contrôle des outils d'IA utilisés dans la relation client, sous peine d'assumer les conséquences d'éventuelles erreurs commises par ces systèmes.