Gemini inserisce una filigrana nei suoi testi? Come funziona SynthID

Sì. Da maggio 2024 Google contrassegna i testi dell'app Gemini e di Gemini sul web con SynthID, una filigrana invisibile (watermark) integrata nelle parole che il modello sceglie. Google DeepMind l'ha annunciata insieme alla filigrana per i video di Veo, poi ha pubblicato il metodo su Nature e ne ha rilasciato una versione open source. Google è anche insolitamente schietta sui limiti: con le sue parole, i punteggi di confidenza di SynthID "possono ridursi notevolmente quando un testo generato dall'AI viene riscritto a fondo o tradotto in un'altra lingua".

Questo articolo spiega cos'è SynthID per il testo, dove si applica, cosa lo indebolisce e perché non puoi verificare da solo se un testo di Gemini lo contiene.

Cos'è SynthID per il testo

SynthID è nato come filigrana per le immagini generate dall'AI ed è diventato una famiglia di tecniche per immagini, audio, video e testo. La versione per il testo funziona diversamente dalle altre, perché non c'è un'immagine in cui nascondere qualcosa.

Lavora invece sulle parole. Come spiega Google DeepMind, un modello linguistico assegna a ogni possibile parola successiva un punteggio di probabilità. SynthID modifica leggermente quei punteggi, usando una chiave segreta, in modo che lungo un passaggio le parole scelte formino uno schema. Il testo si legge allo stesso modo e lo schema è invisibile, ma un rilevatore che possiede la chiave può calcolare quanto un passaggio vi corrisponde.

Google lo ha testato sul campo prima di scriverne. Nell'articolo su Nature pubblicato a ottobre 2024, Google DeepMind ha riportato una prova su quasi 20 milioni di risposte di Gemini, senza trovare differenze significative nel modo in cui gli utenti valutavano le risposte con e senza filigrana.

Dove si applica la filigrana di Gemini

L'annuncio di Google cita l'app Gemini e la versione web. Non menziona l'API, e le risposte dei dipendenti di Google sul forum per sviluppatori sono state contraddittorie. Finché Google non lo dirà in modo esplicito, considera i testi dell'API non confermati, in un senso o nell'altro.

Google ha anche aderito, insieme ad Anthropic, Meta, Microsoft e OpenAI, al codice di buone pratiche dell'UE sulla marcatura dei contenuti generati dall'AI previsto dall'AI Act dell'UE. Sia Claude sia ChatGPT hanno introdotto filigrane testuali nel 2026; quella di Gemini è la più vecchia delle tre.

Cosa indebolisce SynthID, secondo Google

Il post di Google di maggio 2024 elenca i limiti da solo:

• Riscrittura approfondita. I punteggi di confidenza "possono ridursi notevolmente quando un testo generato dall'AI viene riscritto a fondo".
• Traduzione. La stessa frase continua: "o tradotto in un'altra lingua".
• Risposte fattuali. SynthID "è meno efficace nelle risposte a prompt fattuali". Quando esiste una sola risposta giusta, c'è poco margine di scelta tra le parole, e quindi poco margine per orientarle.
• Lunghezza. "Funziona meglio quando un modello linguistico genera risposte più lunghe". Una risposta breve contiene troppe poche spinte da misurare.

Il filo comune è il margine di scelta. La filigrana vive nelle scelte che il modello ha fatto tra alternative valide. Elimina quelle scelte, sostituendo le parole o facendo una domanda che ha una sola risposta possibile, e lo schema se ne va con loro.

Questo spiega anche cosa non la indebolisce. SynthID non è fatto di caratteri nascosti, quindi gli strumenti che eliminano gli spazi a larghezza zero o sostituiscono la punteggiatura lo lasciano intatto. I ritocchi leggeri lasciano al loro posto gran parte delle parole scelte in origine. Una riscrittura completa con parole nuove, che è quello che fa un umanizzatore, ne sostituisce la maggior parte.

Puoi verificare se un testo di Gemini contiene SynthID?

Oggi no, e non per mancanza di strumenti:

• Il portale SynthID Detector controlla file di immagini, video e audio. La pagina di Google non indica il testo tra i formati supportati.
• La libreria open source SynthID Text è su GitHub e in Hugging Face Transformers. Permette agli sviluppatori di inserire e rilevare la filigrana nei testi dei propri modelli, con le proprie chiavi. Non può leggere la filigrana di Gemini, perché le chiavi di Gemini non sono pubbliche.
• I "verificatori SynthID" di terze parti per testi incollati non hanno nemmeno loro la chiave di Google. Nel migliore dei casi usano un generico rilevatore AI, che fa una stima in base allo stile di scrittura e sbaglia.

Quindi, se qualcuno dice di aver trovato una filigrana di Gemini nel tuo testo, chiedi come. Solo Google può fare quel controllo sui testi di Gemini.

Cosa dimostra una filigrana, e cosa no

Google stessa presenta SynthID come qualcosa che "non è una soluzione miracolosa" per identificare i contenuti AI. Una filigrana rilevata è una buona prova che un passaggio sia stato prodotto da Gemini. Una filigrana assente dimostra poco: il testo può essere breve, fattuale, modificato, tradotto o scritto da un modello che non usa SynthID.

Cosa significa se scrivi con Gemini

• Prima controlla le regole. Scuole, case editrici e aziende stabiliscono le proprie regole sull'aiuto dell'AI e sull'obbligo di dichiararlo. Una filigrana non le cambia, e nemmeno una riscrittura.
• Dai per scontato che i testi dell'app Gemini abbiano la filigrana. Le risposte più lunghe e aperte sono quelle in cui la filigrana è più forte.
• Piccole modifiche ne lasciano gran parte. Una riscrittura approfondita è ciò che, secondo la stessa Google, la riduce, e tende anche a far sembrare il testo tuo.
• I pulitori di caratteri non servono a nulla. SynthID sta nelle parole.

Se vuoi che la riscrittura venga fatta al posto tuo, Rimuovi filigrana Gemini applica il nostro umanizzatore ai testi di Gemini: riscrive ogni frase con parole nuove, poi confronta il risultato con la tua bozza e segnala ogni numero, nome o citazione che è cambiato. Puoi provarlo direttamente nella pagina, senza account.

In breve

Da maggio 2024 Google inserisce la filigrana SynthID nei testi dell'app Gemini e di Gemini sul web; non è detto chiaramente se anche i testi dell'API siano contrassegnati. La filigrana è uno schema nella scelta delle parole, invisibile per chi legge e impossibile da verificare da soli, perché le chiavi di Gemini non sono pubbliche. Google dice che una riscrittura approfondita o una traduzione la riducono notevolmente, e che è più debole nelle risposte brevi e fattuali. Eliminare caratteri non serve a nulla.