新研究、LLMエージェントのプロンプトインジェクションリスクに照準

LLMエージェントにおけるプロンプトインジェクションのリスクと防御策を扱う新規・更新版の論文が相次いでいる。AgentAntibodyは、ユーザーのセキュリティ境界を時間とともに学習する、経験ベースの持続的な防御手法を提案する。一方、SIEVEは、ツールを使うエージェントに対する間接的なプロンプトインジェクションについて、選択的な整合性チェックとエスカレーションを提案している。ほかにも、自動化されたプロンプトインジェクションのレッドチーミング手法PIMinerを導入する研究や、LLMベースのマルチエージェント型ロボットシステム内で攻撃がどのように拡散し得るかを分析する研究がある。