裁判所提出書面に隠されたAI向けプロンプトを判事が指摘
Connecticut州の判事は、このプロンプトインジェクションの試みは訴訟の結論に影響しなかったと述べた。
なぜ重要か
裁判所システムでAIツールの利用が広がるなか、この事案は新たな信頼性リスクを示している。AIを用いる法務ワークフローでは、文書内に埋め込まれたプロンプトインジェクションの試みに対する防御策が必要になり得ることを浮き彫りにした。
要点
- 1.裁判所提出書面を確認するAIシステムを狙った隠しテキストが含まれていた。
- 2.判事は、そのプロンプトは判断に影響しなかったと述べた。
- 3.AI利用の拡大に伴い、裁判所はより多くのプロンプトインジェクションの試みに直面する可能性がある。
Connecticut州のWalter Spader Jr.判事は、原告側の裁判所提出書面に、人間の読者には見えない一方でソフトウェアには読み取れるよう設定された隠しテキストが含まれていることを確認した。このテキストは、文書を確認するAIシステムに影響を与える狙いがあったとみられ、AIの出力が原告側の主張を支持するよう指示していた。Spader判事は、裁判所は記録アクセスをめぐる訴訟を本案に基づいて判断しており、隠されたプロンプトは影響を及ぼさなかったと述べた。
⚡ 今日から使える
モデル出力を利用する前に、法務文書向けAIワークフローで隠しテキストやプロンプトインジェクション指示の有無を監査すべきだ。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。