OpenAI aurait dissous son équipe de préparation aux risques
Les travaux d’évaluation des risques sont répartis entre des équipes existantes, selon le Financial Times.
Pourquoi c'est important
Cette décision modifie la manière dont OpenAI organise en interne l’évaluation des risques liés aux modèles de pointe. Elle intervient dans un contexte de changements plus larges au sein de l’entreprise, alors qu’OpenAI se dirige vers une importante IPO attendue.
Points clés
- 1.OpenAI aurait dissous son équipe de préparation aux risques le mois dernier.
- 2.Les travaux sur les risques biologiques et cyber ont été transférés à des équipes existantes.
- 3.Ce changement s’inscrit dans une série d’autres évolutions organisationnelles chez OpenAI.
OpenAI a dissous son équipe de préparation aux risques à la fin du mois dernier, a rapporté The Verge, citant le Financial Times. Cette équipe était chargée d’évaluer si les modèles présentaient des risques graves et de mettre au point des mesures d’atténuation. Selon l’article, la responsabilité de domaines comme les risques biologiques et cyber a été répartie et transférée à des équipes existantes.
⚡ À tester aujourd'hui
Identifiez quelles équipes ou quels contacts chez OpenAI sont désormais responsables des questions de risque liées aux modèles pertinentes pour vos déploiements.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Politique & sûreté
Les enfants de Robin Williams relancent son Instagram pour contrer les abus liés à l’IA
La famille de l’acteur affirme que le compte partagera des souvenirs authentiques sur fond d’inquiétudes autour des usages abusifs de l’IA.
OpenAI renforce ses garde-fous après une faille chez Hugging Face
L’entreprise intensifie la surveillance de ses modèles ainsi que ses travaux d’alignement et de sécurité après l’entraînement.
Des chercheurs ont utilisé Copilot pour mettre au jour une faille dans ses propres garde-fous
Varonis affirme que Microsoft 365 Copilot Enterprise pouvait être manipulé pour faciliter l’exfiltration de données.