Nvidia, SpaceX et Microsoft lancent une initiative de sécurité de l'IA axée sur les modèles ouverts

— Résumé

Suite à une cyberattaque de grande ampleur, Nvidia, SpaceX et Microsoft (aux côtés d'autres acteurs) ont annoncé la création d'une alliance intersectorielle visant à renforcer la sécurité des modèles d'intelligence artificielle ouverts. L'initiative prévoit le développement de protocoles de vérification, de méthodes de 'red teaming' mutualisées et d'un référentiel de vulnérabilités propre aux modèles open source. Elle entend répondre à la fois aux risques de contournement (jailbreaking) et d'empoisonnement des données d'entraînement, tout en préservant l'ouverture des modèles. Cette coopération inédite entre un fabricant de GPU, un acteur spatial et un四大 cloud provider marque un tournant dans la gouvernance de l'IA, mêlant intérêts économiques et impératifs de cybersécurité.

Source : JDN