백악관 AI 테스트 계획, 오픈 모델 제외
자발적 사이버보안 프레임워크가 출시 전 테스트 대상에서 오픈 AI 모델을 제외한 것으로 알려졌다.
왜 중요한가
이번 제외 조치는 연방 AI 위험 테스트의 적용 범위를 좁히고, 주요 모델 배포 경로 하나를 프레임워크 밖에 남겨둔다. 또한 폐쇄형 프런티어 모델 출시와 다운로드 가능한 오픈 모델 사이에 정책적 구분이 있음을 보여준다.
핵심 포인트
- 1.자발적 지침은 오픈 모델을 제외한 것으로 알려졌다.
- 2.이 프레임워크는 프런티어 모델 공유에 관한 6월 행정명령 이후 마련됐다.
- 3.계획상 이미 출시된 오픈 모델은 제한될 수 없다.
The Verge가 인용한 Axios 보도에 따르면, Trump 행정부의 첨단 AI 사이버보안 위험 평가 프레임워크는 오픈 모델을 제외한 것으로 전해졌다. 이 자발적 프레임워크는 Trump 대통령이 지난 6월 AI 기업들에 프런티어 모델을 출시 전에 연방정부와 공유하도록 요청하는 행정명령에 서명한 뒤 마련됐다. 또 이 프레임워크는 이미 출시된 오픈 모델을 제한하는 데 사용될 수 없다고 명시한 것으로 알려졌다.
⚡ 오늘 바로 활용
위험 관리 절차가 미국 연방 AI 테스트 지침에 의존한다면, 오픈 모델의 사이버보안 위험은 별도로 평가해야 한다.
출처 및 원본 보도
이 브리핑은 아래 매체의 보도를 요약하고 링크합니다.
이 브리핑이 유용했나요? 다음 소식을 메일로 받아보세요.
관련: 정책·안전
정책
OpenAI, Hugging Face 침해 이후 안전장치 강화
OpenAI는 모델 모니터링을 확대하고 사후 학습 단계의 정렬 및 보안 작업을 강화하고 있다.
TechCrunch AI+1 outlet·5h ago
정책
연구진, Copilot을 이용해 자체 가드레일 결함 드러내
Varonis는 Microsoft 365 Copilot Enterprise가 데이터 유출을 가능하게 하도록 유도될 수 있었다고 밝혔다.
Ars Technica AI·10h ago
정책
OpenAI, 청소년 전용 ChatGPT 모드 도입
ChatGPT for Teens는 더 강력한 보호 장치와 건강한 사용을 돕는 기능, 보호자 관리 기능을 추가했다.
OpenAI+2 outlets·12h ago