Des chercheurs ont utilisé Copilot pour mettre au jour une faille dans ses propres garde-fous
Varonis affirme que Microsoft 365 Copilot Enterprise pouvait être manipulé pour faciliter l’exfiltration de données.
Pourquoi c'est important
Le rapport met en évidence un risque de sécurité propre aux assistants IA : ces systèmes peuvent révéler suffisamment d’informations sur leurs propres protections pour aider des attaquants à les contourner. Il souligne aussi la nécessité de tester les copilotes d’entreprise face aux divulgations provoquées par prompt et aux abus d’exécution d’outils.
Points clés
- 1.Varonis a ciblé Microsoft 365 Copilot Enterprise.
- 2.Copilot aurait révélé des indices sur ses propres garde-fous.
- 3.Le scénario d’exploitation impliquait une exfiltration de données après un clic sur un lien.
Des chercheurs de la société de cybersécurité Varonis ont découvert une vulnérabilité dans Microsoft 365 Copilot Enterprise qui pouvait permettre à des attaquants d’exfiltrer des données utilisateur sensibles après qu’un utilisateur avait cliqué sur un lien. Selon Ars Technica, les chercheurs ont obtenu des détails sur le mécanisme de garde-fous en interrogeant Copilot lui-même, après que l’assistant a d’abord refusé d’aider à créer un exploit sans confirmation explicite de l’utilisateur.
⚡ À tester aujourd'hui
Auditer les déploiements de Microsoft 365 Copilot Enterprise afin de détecter toute exposition de données déclenchée par des liens, et restreindre les chemins d’exécution d’outils sensibles.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Politique & sûreté
OpenAI réaffirme la conservation zéro des données pour les clients de son API
L’entreprise a aussi présenté en avant-première Private Safety Processing, destiné à renforcer la sécurité avancée de l’IA tout en préservant la confidentialité des données.
OpenAI réaffirme la rétention zéro des données pour ses modèles de pointe
Les clients API éligibles peuvent utiliser la rétention zéro des données, avec un aperçu de Private Safety Processing.
Des chercheurs affirment qu’OpenAI a révoqué l’accès au programme TAC
Des chercheurs en cybersécurité disent avoir perdu l’accès au programme limité Trusted Access for Cyber d’OpenAI.