Forscher nutzten Copilot, um eine Schwachstelle in dessen eigenen Schutzmechanismen aufzudecken
Varonis zufolge ließ sich Microsoft 365 Copilot Enterprise dazu bringen, Datenabfluss zu ermöglichen.
Warum es wichtig ist
Der Bericht macht ein Sicherheitsrisiko deutlich, das speziell KI-Assistenten betrifft: Systeme können genug über ihre eigenen Schutzvorkehrungen preisgeben, um Angreifern bei deren Umgehung zu helfen. Zugleich unterstreicht er, dass Enterprise-Copilots auf promptbasierte Offenlegungen und Missbrauch bei der Ausführung von Tools getestet werden müssen.
Die Kernpunkte
- 1.Varonis nahm Microsoft 365 Copilot Enterprise ins Visier.
- 2.Copilot gab Berichten zufolge Hinweise auf seine eigenen Schutzmechanismen preis.
- 3.Der Exploit-Pfad führte nach einem Link-Klick zur Exfiltration von Daten.
Forscher des Sicherheitsunternehmens Varonis fanden eine Schwachstelle in Microsoft 365 Copilot Enterprise, durch die Angreifer nach einem Klick eines Nutzers auf einen Link sensible Nutzerdaten hätten exfiltrieren können. Laut Ars Technica entdeckten die Forscher Details des Schutzmechanismus, indem sie Copilot selbst befragten, nachdem der Assistent zunächst abgelehnt hatte, ohne ausdrückliche Bestätigung des Nutzers bei der Erstellung eines Exploits zu helfen.
⚡ Heute ausprobieren
Prüfen Sie Microsoft 365 Copilot Enterprise-Installationen auf durch Links ausgelöste Datenexposition und beschränken Sie Ausführungspfade für sensible Tools.
Quellen & Originalberichte
Dieser Brief fasst die Berichterstattung der folgenden Medien zusammen und verlinkt sie.
Hat dir dieses Briefing gefallen? Erhalte das nächste per Mail.
Mehr in Politik & Sicherheit
OpenAI stärkt den Datenschutz für Kunden
TechCrunch berichtet, dass OpenAI mit Anthropic um Datenschutz bei Unternehmensdaten konkurriert.
OpenAI bekräftigt Zero Data Retention für API-Kunden
Das Unternehmen gab zudem einen Ausblick auf Private Safety Processing für fortgeschrittene KI-Sicherheit bei gleichzeitiger Wahrung des Datenschutzes.
OpenAI bekräftigt Zero Data Retention für Frontier-Modelle
Berechtigte API-Kunden können Zero Data Retention nutzen; Private Safety Processing wurde als Vorschau vorgestellt.