Anthropic et OpenAI veulent intégrer des évaluateurs de sécurité indépendants

— Résumé

Anthropic et OpenAI souhaitent intégrer des évaluateurs de sécurité indépendants directement au sein de leurs laboratoires d'intelligence artificielle. Cette initiative offrirait à des chercheurs un accès jusqu'ici inédit aux systèmes développés par ces entreprises. Si cet accès est accueilli favorablement par certains chercheurs, ceux-ci mettent en garde sur les conditions nécessaires pour qu'une telle supervision soit réellement efficace. Selon eux, une surveillance significative nécessite plusieurs éléments : la transparence des processus d'évaluation, une véritable indépendance des évaluateurs par rapport aux laboratoires qu'ils examinent, et à terme la mise en place d'une régulation externe. La question centrale soulevée porte sur la capacité réelle de ces évaluateurs à exercer leur mission de manière autonome, dès lors qu'ils sont intégrés directement dans la structure des entreprises qu'ils sont censés évaluer. Cette démarche s'inscrit dans les débats plus larges sur la gouvernance et le contrôle des systèmes d'intelligence artificielle avancés.