ホワイトハウスのAIテスト計画、オープンモデルを対象外に
任意参加のサイバーセキュリティ枠組みでは、公開前テストの対象からオープンAIモデルが外れると報じられている。
なぜ重要か
この除外により、連邦政府によるAIリスクテストの対象範囲は狭まり、主要なモデル配布経路の一つが枠組みの外に置かれることになる。また、クローズドなフロンティアモデルの公開と、ダウンロード可能なオープンモデルとの間に政策上の線引きがあることも示している。
要点
- 1.任意指針はオープンモデルを対象外としていると報じられている。
- 2.この枠組みは、フロンティアモデル共有に関する6月の大統領令を受けたもの。
- 3.公開済みのオープンモデルは、この計画の下では制限できないとされる。
The Vergeが引用したAxiosの報道によると、Trump政権が先進AIのサイバーセキュリティリスクを評価するために設けた枠組みは、オープンモデルを対象外としている。この任意参加の枠組みは、President Trumpが6月に署名した、AI企業に対してフロンティアモデルを公開前に連邦政府と共有するよう求める大統領令を受けて作成された。報道によれば、この枠組みは、公開後のオープンモデルを制限するためには使えないともしている。
⚡ 今日から使える
リスク管理プロセスで米連邦政府のAIテスト指針に依拠している場合は、オープンモデルのサイバーセキュリティリスクを別途評価する必要がある。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。
関連： 政策と安全
政策
OpenAI、Hugging Face侵害を受けて安全対策を強化
同社はモデル監視を強化し、ポストトレーニング段階でのアラインメントとセキュリティ対策にさらに力を入れる。
TechCrunch AI+1 outlet·8h ago
政策
研究者がCopilotを使い、自身のガードレール欠陥を発見
Varonisによると、Microsoft 365 Copilot Enterpriseはデータ流出を可能にするよう誘導される恐れがあった。
Ars Technica AI·13h ago
政策
OpenAI、10代向けの専用ChatGPTモードを導入
ChatGPT for Teensは、より強力な保護機能、健全な利用を促す機能、保護者向け管理機能を追加する。
OpenAI+2 outlets·15h ago