OpenAI mette la filigrana invisibile nei testi di ChatGPT, ma solo in Europa

C'è una cosa curiosa nell'annuncio con cui OpenAI ha introdotto la filigrana invisibile nei testi prodotti da ChatGPT e Codex: la notizia non è tanto che lo fa, ma dove lo fa. Solo nell'Unione Europea. Il resto del mondo continuerà a ricevere output senza marcatura, almeno per ora.

La mossa serve a rispettare le regole di trasparenza dell'AI Act, entrate in vigore il 2 agosto, che impongono ai fornitori di sistemi generativi di marcare i contenuti sintetici in un formato leggibile dalle macchine. OpenAI ha scelto la strada del watermarking statistico e ha pubblicato anche un report tecnico sul metodo, battezzato textGrain, scritto insieme a ricercatori della University of Pennsylvania e di Yale.

Come funziona una filigrana fatta di parole

Non c'è nessun simbolo nascosto, nessun carattere invisibile, nessun metadato appiccicato al file. La filigrana vive dentro il testo stesso. Semplificando: a ogni passo il modello deve scegliere la parola successiva tra diverse candidate quasi equivalenti, e una chiave segreta orienta quella scelta secondo uno schema preciso. Una singola decisione non dice nulla. Centinaia di micro-spinte accumulate lasciano invece un pattern statistico che un rilevatore, conoscendo la chiave, è in grado di riconoscere.

Il vantaggio pratico è evidente: siccome il segnale è nelle parole, sopravvive al copia-incolla. Non si perde passando da un documento Word a una mail, da un CMS a un PDF, cosa che invece succede regolarmente ai metadati. OpenAI sostiene che il sistema ha eguagliato o superato approcci alternativi come SynthID for text di Google DeepMind — lo stesso su cui si basa il watermarking annunciato da Anthropic ad agosto — e che i benchmark non mostrano peggioramenti significativi nella qualità delle risposte con la marcatura attiva.

Fin qui la teoria. La pratica è più fragile, e va riconosciuto a OpenAI di averlo scritto nero su bianco. In un test interno, sostituire il 10% delle parole con sinonimi ha fatto crollare il tasso di rilevamento da circa il 92% al 66%. Testi brevi, risposte matematiche e traduzioni risultano più difficili da riconoscere. Tradotto: chiunque voglia davvero cancellare la filigrana, passando il testo in un secondo modello o riscrivendolo a mano, ci riesce senza particolari sforzi.

Proprio per questo il rilevatore non sarà pubblico. L'accesso è riservato, caso per caso, a ricercatori e organizzazioni esperte che facciano richiesta, e lo strumento si limiterà a dire se rileva o meno una filigrana OpenAI, senza identificare l'utente né mostrare prompt o conversazioni. Una scelta prudente e sensata: un detector aperto a tutti, con quel margine di falsi negativi e falsi positivi, diventerebbe in due settimane uno strumento di accusa usato male nelle scuole, nelle redazioni e negli uffici HR.

L'avvertenza più importante è anche la meno letta

OpenAI mette le mani avanti su un punto che meriterebbe di essere stampato e appeso nelle aule universitarie: l'assenza di filigrana non dimostra che un testo sia stato scritto da un essere umano. Può essere troppo corto, troppo editato, oppure prodotto da un modello di un'altra azienda. E vale anche il contrario: la presenza della filigrana indica che un sistema OpenAI ha generato o elaborato parte del passaggio, ma non dice nulla su quanto giudizio, revisione o creatività umana ci sia dentro.

È qui che si annida il vero nodo culturale. Il watermarking risponde a una domanda tecnica — questo testo è passato per una macchina? — che il dibattito pubblico tende però a confondere con una domanda morale: questo testo è autentico? Sono due cose diverse. Quando Anthropic ha applicato la marcatura a Claude su scala globale, parte degli utenti ha protestato sostenendo di aver fornito istruzioni, contesto e decisioni, mentre il modello era solo lo strumento. Un'obiezione che ha un suo peso, e che le aziende non hanno ancora saputo disinnescare.

Perché solo l'Europa (e cosa succederà dopo)

OpenAI dice che l'approccio regionale serve a imparare dall'uso reale prima di estendere la funzione. Plausibile. Ma c'è un secondo livello di lettura difficile da ignorare: nel 2024 il Wall Street Journal aveva riportato che l'azienda aveva già pronto un sistema di watermarking testuale e aveva preferito tenerlo nel cassetto, anche per il timore che gli utenti migrassero verso concorrenti che non marcavano nulla. Lo svantaggio competitivo, insomma, pesava più della trasparenza.

L'AI Act ha cambiato il calcolo. In Europa la conformità non è opzionale, e marcare i testi diventa un costo di accesso al mercato anziché un handicap commerciale. Fuori dall'UE, dove quel costo non esiste, la marcatura resta disattivata di default anche per le API, con la possibilità per gli sviluppatori di attivarla volontariamente su modelli selezionati — e OpenAI sta lavorando con i partner cloud per estendere l'opzione nelle prossime settimane.

È l'ennesima conferma del cosiddetto effetto Bruxelles al contrario: invece di uniformare gli standard al rialzo su scala globale, le aziende costruiscono una versione europea dei loro prodotti e tengono tutto il resto com'era. Google, Meta, Microsoft, Anthropic e OpenAI hanno aderito al codice di condotta UE sui contenuti generati dall'AI, ma l'adesione si traduce in geografie di conformità, non in una scelta di campo.

Per chi lavora con l'AI in azienda, la conseguenza operativa arriva presto. Se producete contenuti con modelli OpenAI per il mercato europeo, da oggi quei testi portano un segnale che in teoria qualcuno potrà verificare. Vale la pena mettere mano alle policy interne: chi dichiara cosa, in quali documenti, con quale livello di revisione umana. Non per paura del rilevatore — che quasi nessuno avrà — ma perché la trasparenza sull'uso dell'AI sta diventando una voce di due diligence nei contratti, non un esercizio di stile.

La mia previsione: entro un anno il watermarking testuale sarà presente, in qualche forma, nei prodotti di tutti i grandi fornitori. E sarà altrettanto facile da aggirare di oggi. Servirà più come prova di conformità normativa che come reale strumento di accertamento. Il che non lo rende inutile, ma è bene sapere cosa stiamo comprando.