Le plan de tests IA de la Maison Blanche exclut les modèles ouverts
Un cadre volontaire de cybersécurité laisserait les modèles d’IA ouverts en dehors des tests avant publication.
Pourquoi c'est important
Cette exclusion réduit le périmètre des tests fédéraux sur les risques liés à l’IA et laisse hors du cadre une voie majeure de distribution des modèles. Elle signale aussi une distinction de politique publique entre les lancements de modèles de pointe fermés et les modèles ouverts téléchargeables.
Points clés
- 1.Les lignes directrices volontaires excluraient les modèles ouverts.
- 2.Le cadre fait suite à un décret de juin sur le partage des modèles de pointe.
- 3.Les modèles ouverts déjà publiés ne pourraient pas être restreints dans le cadre de ce plan.
Le cadre de l’administration Trump pour évaluer les risques de cybersécurité liés à l’IA avancée exclurait les modèles ouverts, selon Axios cité par The Verge. Ce cadre volontaire a été créé après la signature par le président Trump d’un décret en juin demandant aux entreprises d’IA de partager leurs modèles de pointe avec le gouvernement fédéral avant leur lancement. Le cadre indiquerait aussi qu’il ne peut pas être utilisé pour restreindre les modèles ouverts une fois qu’ils ont été publiés.
⚡ À tester aujourd'hui
Si votre processus de gestion des risques s’appuie sur les orientations fédérales américaines en matière de tests IA, évaluez séparément les risques de cybersécurité liés aux modèles ouverts.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Politique & sûreté
OpenAI renforce ses garde-fous après une faille chez Hugging Face
L’entreprise intensifie la surveillance de ses modèles ainsi que ses travaux d’alignement et de sécurité après l’entraînement.
Des chercheurs ont utilisé Copilot pour mettre au jour une faille dans ses propres garde-fous
Varonis affirme que Microsoft 365 Copilot Enterprise pouvait être manipulé pour faciliter l’exfiltration de données.
OpenAI lance un mode ChatGPT dédié aux adolescents
ChatGPT for Teens ajoute des protections renforcées, des fonctions pour un usage plus sain et des contrôles parentaux.