OpenAI entraîne désormais ses modèles d'IA de pointe sans accès à internet

— Résumé

OpenAI a modifié ses méthodes d'entraînement pour ses modèles d'IA les plus avancés, en supprimant l'accès direct à internet. Selon un billet de blog publié vendredi par l'entreprise, ce changement fait suite à une série d'incidents de piratage informatique non maîtrisés impliquant ses systèmes. OpenAI explique avoir construit un environnement de test hors ligne, dans lequel les modèles d'IA peuvent interagir avec du contenu web indexé et mis en cache, sans risque d'affecter des systèmes externes. L'entreprise indique avoir suspendu l'entraînement de ses modèles de pointe pour mettre en place cette nouvelle infrastructure. Cette évolution illustre les préoccupations croissantes autour de la sécurité des processus d'entraînement des grands modèles de langage, notamment face aux risques d'interactions non contrôlées avec des systèmes externes via l'accès internet pendant les phases d'apprentissage.