Goodfire lance des moniteurs « inside-out » censés détecter les agents IA déviants à moindre coût

— Résumé

Goodfire a annoncé le lancement d'un nouveau système de surveillance pour les agents d'intelligence artificielle, présenté comme une alternative moins coûteuse aux méthodes existantes. Selon l'entreprise, au lieu de faire appel à une seconde IA pour examiner en continu toutes les actions d'un agent, ses moniteurs observent directement l'intérieur du modèle pendant son fonctionnement. Ce système ne solliciterait une vérification supplémentaire que lorsqu'un comportement semble suspect. Cette approche viserait ainsi à réduire les ressources nécessaires pour détecter des agents IA dont le comportement dévierait de ce qui est attendu. L'extrait ne précise pas les modalités techniques détaillées ni les résultats de performance associés à ce nouvel outil de surveillance.