Anthropic détaille son projet de filigrane textuel pour Claude
Les futurs modèles Claude marqueront les textes à l’échelle mondiale afin de respecter les règles de transparence de l’AI Act européen.
Pourquoi c'est important
Cette évolution montre que les grands fournisseurs d’IA passent de détecteurs d’IA généralistes à des contrôles de provenance contrôlés par les fournisseurs et fondés sur des clés. Elle souligne aussi les limites du secteur : les filigranes sont probabilistes, moins efficaces sur des textes courts ou très contraints, et peuvent être affaiblis par une réécriture substantielle.
Points clés
- 1.Les futurs modèles Claude intégreront des filigranes textuels à l’échelle mondiale.
- 2.Anthropic affirme que le marquage n’ajoute ni caractères cachés ni tokens supplémentaires.
- 3.La détection est probabiliste et fonctionne mieux sur des passages longs.
Anthropic a indiqué que les futurs modèles Claude généreront des textes contenant un filigrane statistique destiné à évaluer la probabilité que Claude ait participé à la production d’un passage. L’entreprise affirme que la méthode s’appuie sur l’approche SynthID-Text de Google DeepMind, qu’elle n’ajoute ni caractères cachés ni tokens supplémentaires, et qu’elle n’est pas conçue pour identifier un utilisateur, une organisation ou une conversation en particulier. Anthropic dit déployer ce changement mondialement dès son lancement afin de se conformer aux exigences de l’AI Act européen, et prévoit de proposer une API de détection du filigrane.
⚡ À tester aujourd'hui
Passez dès maintenant en revue les workflows de publication et de conformité utilisant des contenus générés par Claude, et prévoyez l’intégration de la future API de détection d’Anthropic lorsque les contrôles de provenance sont importants.
Sources et articles originaux
Ce brief résume et renvoie vers la couverture des médias ci-dessous.
Ce brief vous a plu ? Recevez le prochain par e-mail.
Plus dans Politique & sûreté
OpenAI réaffirme la conservation zéro des données pour les clients de son API
L’entreprise a aussi présenté en avant-première Private Safety Processing, destiné à renforcer la sécurité avancée de l’IA tout en préservant la confidentialité des données.
OpenAI réaffirme la rétention zéro des données pour ses modèles de pointe
Les clients API éligibles peuvent utiliser la rétention zéro des données, avec un aperçu de Private Safety Processing.
Des chercheurs affirment qu’OpenAI a révoqué l’accès au programme TAC
Des chercheurs en cybersécurité disent avoir perdu l’accès au programme limité Trusted Access for Cyber d’OpenAI.