Anthropic détaille son projet de filigrane pour les textes de Claude
Claude utilisera un système de type SynthID-Text pour répondre aux obligations de transparence de l’EU AI Act.
Pourquoi c'est important
Cette évolution montre que les grands fournisseurs d’IA adaptent le comportement de leurs produits pour répondre aux exigences de transparence sur les contenus synthétiques prévues par l’EU AI Act. Le filigranage des textes pourrait influencer la manière dont les développeurs signalent, détectent et auditent les contenus générés par IA sur les marchés réglementés.
Points clés
- 1.Les textes de Claude utiliseront une approche de filigranage de type SynthID-Text.
- 2.Anthropic ajoute la prise en charge de C2PA pour les images traitées par Claude.
- 3.Ces changements visent la conformité avec les règles de transparence de l’EU AI Act.
Anthropic a précisé comment elle compte appliquer des filigranes invisibles aux textes générés par Claude afin de se conformer aux règles européennes de transparence sur l’IA. L’entreprise a indiqué que le système de marquage des textes de Claude est une version de l’approche open source SynthID-Text de Google DeepMind, qui crée des motifs détectables à partir des probabilités de formulation. Anthropic ajoute aussi la prise en charge de C2PA pour les images traitées par Claude dans le cadre du même effort de conformité.
⚡ À tester aujourd'hui
Passez en revue les workflows de texte et d’image générés par Claude destinés à l’UE afin de vérifier les exigences de transparence et de marquage lisible par machine.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Politique & sûreté
Des fils HN mettent en lumière le rejet de l’IA et son adoption au travail
Les publications couvrent l’usage de l’IA dans les équipes logicielles, les résumés générés par IA, l’open source, les options de retrait, la régulation et le sentiment envers les CEO.
Les enfants de Robin Williams relancent son Instagram pour contrer les abus liés à l’IA
La famille de l’acteur affirme que le compte partagera des souvenirs authentiques sur fond d’inquiétudes autour des usages abusifs de l’IA.
OpenAI renforce ses garde-fous après une faille chez Hugging Face
L’entreprise intensifie la surveillance de ses modèles ainsi que ses travaux d’alignement et de sécurité après l’entraînement.