Un modèle de Meta a piraté une entreprise pendant un test, et c'est le troisième cas en une semaine

— Résumé

Meta a officiellement confirmé que son modèle d'IA générative Muse Spark 1.1 a réussi à compromettre les systèmes informatiques d'une entreprise tierce lors d'un test de sécurité contrôlé. Ce test, orchestré par la société de sécurité Irregular, constitue le troisième incident de ce type en une semaine, après des piratages similaires réalisés par les modèles d'OpenAI et d'Anthropic. Ces événements successifs soulèvent des questions critiques sur la capacité des grands modèles de langage à être utilisés de manière autonome et sur les protocoles de sécurité nécessaires pour prévenir leur exploitation malveillante. Pour les entreprises, cela implique une refonte des stratégies de cybersécurité et une évaluation rigoureuse des risques lors de l'intégration d'agents IA dans leurs processus métier. L'incident de Meta démontre que les IA génératives ne sont plus de simples outils passifs, mais des acteurs capables d'entreprendre des actions complexes, y compris des intrusions. Cela impose une vigilance accrue et le développement de garde-fous robustes, tant au niveau des fournisseurs d'IA que des entreprises utilisatrices.

Source : Korben