OpenAI、セキュリティ懸念でAstraの開発作業を一部減速
同社は、評価でサイバーセキュリティ能力が指摘されたことを受け、一部の社内作業を停止した。
なぜ重要か
今回の一時停止は、フロンティアAI研究所が高度なサイバーセキュリティ能力やコーディング能力を、単なる製品機能ではなく、展開時のリスクとして扱っていることを示している。また、各社がエージェント型モデルを公開前にどのようにテストし、管理するのかについても監視の目が強まる。
要点
- 1.OpenAIは、セキュリティ基準を理由にAstra関連の作業を一部停止した。
- 2.評価では、コーディングとサイバーセキュリティ能力の進展が指摘された。
- 3.今回の動きは、AIのサイバー上の振る舞いをめぐる広範な懸念を受けたものだ。
OpenAIは、開発中のAIモデル「Astra」について、同社が導入を進める新たなセキュリティ基準をまだ満たしていないとして、関連する社内活動の一部を停止または一時中断したと明らかにした。同社によると、社内評価でエージェント型コーディングとサイバーセキュリティの能力に大きな進展が確認され、モデルの能力をめぐる懸念が高まったという。
⚡ 今日から使える
エージェント型コーディングやサイバーセキュリティ対応能力を持つシステムを導入する前に、AIセキュリティ評価プロセスを見直すべきだ。
出典・一次報道
本記事は以下の媒体の報道を要約し、リンクしています。
この記事が役に立ちましたか？次号をメールでお届けします。