Anthropic ora inserisce un pattern statistico nascosto — SynthID-Text — in ogni risposta di Claude. L'azienda afferma che la mossa soddisfa il Transparency Code dell'EU AI Act e offre agli sviluppatori un modo per dimostrare che un testo proviene da un modello di IA. Il watermark sopravvive a modifiche superficiali lasciando la prosa intatta per i lettori umani.

Perché viene aggiunto il watermark

I regolatori europei hanno fatto pressione sui fornitori di modelli linguistici di grandi dimensioni (LLM) affinché rendano il contenuto generato dall'IA distinguibile dalla scrittura umana. Il Transparency Code dell'EU AI Act, che sarà presto applicato in tutto il blocco, obbliga gli sviluppatori a fornire un metodo di rilevamento affidabile per qualsiasi testo prodotto dai loro modelli. Anthropic ha risposto adottando la tecnica SynthID-Text, descritta per la prima volta da Google DeepMind lo scorso anno.

La decisione ha scatenato una raffica di discussioni su Reddit e X, dove gli utenti temevano che il watermark potesse degradare la qualità dell'output o diventare una porta sul retro per la sorveglianza. Anthropic ribatte che il pattern è invisibile ai lettori, non aggiunge latenza e può essere disattivato per le implementazioni private. Pubblicando i dettagli tecnici, l'azienda spera di calmare le speculazioni e stabilire un punto di riferimento per il settore.

Come funziona SynthID-Text

I detector di IA tradizionali cercano stranezze linguistiche: frasi ripetute, punteggiatura insolita o deviazioni statistiche dalla scrittura umana. Quei segnali scompaiono non appena un essere umano riscrive un paragrafo, rendendo i detector inaffidabili. SynthID-Text, al contrario, inserisce un segnale occulto durante la fase di selezione dei token del modello.

Quando Claude sceglie tra due token ugualmente plausibili — ad esempio "overcast" rispetto a "grey" — il sistema orienta la decisione verso quello che si adatta a un pattern binario pre-calcolato. Lungo l'intero documento, queste spinte creano una sequenza di bit che un'API di rilevamento può successivamente estrarre. Il pattern è deliberatamente a basso impatto: il sinonimo scelto è comunque una parola perfettamente naturale, quindi il flusso del testo rimane invariato. Poiché il watermark risiede nel flusso dei token piuttosto che nel testo superficiale, sopravvive alla maggior parte delle elaborazioni a valle che non sostituiscono ogni singolo token.

Resistenza all'editing: cosa sopravvive e cosa no

Una critica comune è che gli utenti potrebbero semplicemente modificare la prosa generata dall'IA per cancellare il watermark. I test interni di Anthropic delineano tre scenari di editing:

  • Editing leggero – correzione di refusi, sostituzione di alcuni aggettivi o regolazione dell'ordine delle frasi. La firma statistica del watermark rimane ampiamente intatta perché la maggior parte dei token non cambia.
  • Editing pesante assistito da Claude – istruire Claude a riscrivere una bozza che contiene già frasi generate dall'IA. Se l'utente mantiene il controllo sulla maggior parte della formulazione, il segnale del watermark si indebolisce in proporzione alla quantità di nuovo testo scelto dall'uomo.
  • Riscrittura completa – sostituzione di ogni token con una nuova generazione o una riscrittura manuale. A quel punto il watermark originale viene distrutto, ma il testo risultante non soddisfa più la definizione di "generato dall'IA" dell'UE perché non rimane alcuna traccia dell'output originale del modello.

In sintesi: il watermark resiste alla rifinitura superficiale, ma non a una rigenerazione completa del contenuto.

Generazione di codice: dove risiede il watermark

Claude è ampiamente utilizzato come assistente alla programmazione, producendo di tutto, da snippet di una riga a moduli full-stack. I linguaggi di programmazione lasciano poco spazio alla scelta di sinonimi; sostituire un token come "for" con "while" altererebbe la logica. Anthropic prevede quindi che il watermark appaia quasi esclusivamente nelle sezioni in cui il modello ha la libertà di scegliere le parole: commenti, docstring e prosa esplicativa che accompagna il codice.

Poiché la parte funzionale del codice rimane intatta, gli sviluppatori non dovrebbero riscontrare cali di correttezza o prestazioni. La presenza del watermark è limitata al testo accessorio che aiuta gli umani a comprendere il codice, soddisfacendo il requisito di trasparenza senza comprometterne l'utilità.

Effetti a catena nel settore

Anthropic non sta agendo da sola. Diversi altri sviluppatori di LLM hanno firmato lo stesso Codice di Pratica che richiede un'API di rilevamento standardizzata. Se il cronoprogramma di attuazione dell'UE procederà come previsto, il watermarking potrebbe diventare uno strato predefinito nello stack degli LLM, proprio come la crittografia lo è oggi per la trasmissione dei dati. Le aziende che ignorano il requisito rischiano sanzioni, la perdita dell'accesso al mercato europeo o la rimozione forzata dei propri servizi.

Punti di controversia

I critici sostengono che una firma nascosta, anche se invisibile, potrebbe essere riutilizzata per il tracciamento o l'attribuzione oltre la conformità normativa. Temono inoltre i falsi positivi: un'API di rilevamento che etichetta erroneamente testi scritti da esseri umani potrebbe minare la fiducia nelle piattaforme che si affidano a tale segnale. Anthropic riconosce questi rischi e afferma che l'algoritmo di rilevamento sarà open-source, consentendo audit e calibrazioni indipendenti.

Un'altra preoccupazione pratica riguarda il carico computazionale necessario per generare il watermark. Anthropic riferisce che l'elaborazione aggiuntiva aggiunge meno di una frazione di punto percentuale al tempo di inferenza, un'affermazione che i benchmark di terze parti metteranno presto alla prova.

Cosa osservare in seguito

  • Rilascio dell'API – Anthropic prevede di rilasciare un endpoint pubblico in grado di estrarre il pattern di bit nascosto da qualsiasi output di Claude. Gli sviluppatori potranno integrare il controllo nelle pipeline di moderazione dei contenuti.
  • Sforzi di standardizzazione – Gli organismi di regolamentazione e i gruppi industriali stanno elaborando un formato comune per i metadati del watermark, il che potrebbe facilitare il rilevamento tra modelli diversi.
  • Studi empirici – Ricercatori indipendenti stanno iniziando a testare la resilienza di SynthID-Text contro gli strumenti di riscrittura avversaria. I loro risultati determineranno quanta fiducia le piattaforme riporranno nel segnale.

In sintesi

L'adozione di SynthID-Text da parte di Anthropic offre alla comunità dell'IA uno strumento concreto per rispettare le imminenti norme europee sulla trasparenza, mantenendo intatta la qualità dell'output di Claude. Il watermark sopravvive alla correzione di bozze quotidiana, ma scompare quando il testo viene completamente rigenerato, e risiede nelle parti non relative al codice degli output di programmazione, dove non interferisce con la funzionalità. Se questo approccio diventerà lo standard del settore dipenderà dalle prestazioni dell'API di rilevamento in scenari reali e dalla capacità di affrontare le preoccupazioni relative alla privacy e ai falsi allarmi.