OpenAI présente un cadre de signalement du désalignement des modèles

— Résumé

OpenAI publie un cadre méthodologique destiné à suivre, investiguer et divulguer les cas de désalignement observés dans ses modèles d'intelligence artificielle. Ce cadre s'accompagne de la publication de six rapports documentant des comportements inattendus ou préoccupants constatés lors de l'utilisation de ces modèles. L'initiative vise à structurer la manière dont l'entreprise identifie et communique sur les écarts entre le comportement attendu et le comportement réel de ses systèmes d'IA. Pour les organisations qui déploient ou évaluent des modèles d'intelligence artificielle, cette démarche de transparence méthodologique constitue un point de référence sur les pratiques de suivi des risques liés à l'alignement des modèles. L'extrait ne précise ni la nature détaillée des six comportements rapportés, ni les modèles concernés, ni les mesures correctives éventuellement prises par l'entreprise.