研究者がCopilotを使い、自身のガードレール欠陥を発見
Varonisによると、Microsoft 365 Copilot Enterpriseはデータ流出を可能にするよう誘導される恐れがあった。
なぜ重要か
この報告は、AIアシスタントに特有のセキュリティリスクを浮き彫りにしている。システムが自らの安全対策について十分な情報を明かし、攻撃者がそれを回避する手助けになり得るという点だ。また、企業向けcopilotについて、プロンプトによる情報開示やツール実行の悪用を想定した検証が必要であることも示している。
要点
- 1.VaronisはMicrosoft 365 Copilot Enterpriseを対象にした。
- 2.Copilotは自身のガードレールに関する手がかりを明かしたとされる。
- 3.攻撃経路には、リンククリック後のデータ流出が含まれていた。
セキュリティ企業Varonisの研究者は、Microsoft 365 Copilot Enterpriseに、ユーザーがリンクをクリックした後で攻撃者が機密性の高いユーザーデータを流出させられる可能性のある脆弱性を発見した。Ars Technicaによれば、研究者らは当初、明示的なユーザー確認なしにエクスプロイト作成を支援することをCopilotが拒否した後、Copilot自身に質問することでガードレールの仕組みに関する詳細を突き止めた。
⚡ 今日から使える
Microsoft 365 Copilot Enterpriseの導入環境について、リンクを起点とするデータ露出を監査し、機密性の高いツール実行経路を制限すべきだ。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。
関連： 政策と安全
OpenAI、API顧客向けのZero Data Retentionを改めて確認
同社は、データプライバシーを保ちながら高度なAI安全性を支えるPrivate Safety Processingも予告した。
OpenAI、フロンティアモデル向けZero Data Retentionを再確認
条件を満たすAPI顧客はZero Data Retentionを利用可能。Private Safety Processingもプレビュー公開。
研究者ら、OpenAIがTACプログラムへのアクセスを取り消したと指摘
サイバーセキュリティ研究者らが、OpenAIの限定プログラム「Trusted Access for Cyber」へのアクセスを失ったと報告した。