Falsi positivi dei rilevatori AI: perché i testi umani vengono segnalati

Un falso positivo di un rilevatore AI si ha quando uno strumento etichetta come generato dall'AI un testo scritto da una persona. Succede più spesso di quanto si pensi, perché i rilevatori giudicano quanto un testo sembra prevedibile, non chi l'ha scritto davvero. I testi formali, quelli brevi e quelli scritti da chi non è madrelingua inglese sono i più esposti a segnalazioni sbagliate. Se capita a te, mantieni la calma, raccogli le tue bozze e la cronologia delle versioni e chiedi un confronto invece di discutere del punteggio.

Qui sotto trovi perché succede, chi ne è più colpito e un piano pratico su cosa fare.

Perché i testi umani vengono segnalati

I rilevatori fanno passare il tuo testo attraverso modelli statistici e stimano quanto sia simile all'output dell'AI. Guardano a cose come la prevedibilità di ogni parola e quanto varia la struttura delle frasi. Spieghiamo il meccanismo in come funzionano i rilevatori AI.

Il punto chiave: un rilevatore non può vederti mentre scrivi. Vede solo le parole finite. Qualsiasi testo umano che risulti scorrevole, regolare e prevedibile può finire dalla parte sbagliata della linea.

Ecco le cause più comuni.

Generi standardizzati

Alcuni tipi di scrittura sono prevedibili di proposito. Una relazione di laboratorio segue una struttura fissa. Un tema in cinque paragrafi segue uno schema. Lettere di presentazione, abstract, sintesi di policy e descrizioni di prodotto usano tutti formule ricorrenti perché è quello che il genere richiede. La bassa sorpresa è una caratteristica del genere, e un rilevatore la legge come la bassa sorpresa dei testi AI.

Scrivere in una seconda lingua

È il caso meglio documentato. Nel 2023 alcuni ricercatori di Stanford, guidati da Weixin Liang, in uno studio pubblicato sulla rivista Patterns, hanno testato diversi rilevatori GPT molto diffusi su temi scritti per l'esame di inglese TOEFL da parlanti non nativi. I rilevatori hanno segnalato come generata dall'AI una quota elevata di quei temi, mentre hanno valutato con molta più precisione i temi di studenti statunitensi madrelingua.

Il motivo non è misterioso. Quando scrivi in una lingua che stai ancora imparando, tendi a usare parole comuni di cui sei sicuro e strutture di frase che sai essere corrette. Questo stile attento e regolare è proprio quello che i rilevatori associano alle macchine.

Testi brevi

Un rilevatore ha bisogno di abbastanza parole per misurare qualcosa. In una risposta di 150 parole, un paio di frasi prevedibili possono ribaltare il risultato. Molti strumenti fissano una lunghezza minima, e i risultati vicini a quel minimo sono i meno affidabili.

Revisione grammaticale e stilistica pesante

Il controllo ortografico va benissimo. Ma accettare decine di suggerimenti di riscrittura da un assistente di scrittura può appiattire il tuo ritmo naturale in qualcosa di più scorrevole e uniforme. Più formulazioni tue vengono sostituite da uno strumento, meno il testo assomiglia a te.

Testi famosi o molto copiati

Circolano screenshot di documenti storici molto noti valutati come probabilmente AI da rilevatori gratuiti. Il motivo più probabile è che testi del genere compaiono così spesso nei dati di addestramento che i modelli li trovano facilissimi da prevedere. È un buon promemoria del fatto che "prevedibile per un modello" e "scritto da un modello" non sono la stessa cosa.

Come appare un falso positivo

Ecco un paragrafo del tipo che gli studenti scrivono ogni giorno, interamente a mano:

Il cambiamento climatico rappresenta una delle sfide più importanti che il mondo si trova ad affrontare oggi. Esso incide sugli ecosistemi, sulle economie e sulle comunità in molti modi diversi. Governi, imprese e cittadini hanno tutti un ruolo da svolgere nell'affrontare questo problema.

Non c'è niente di disonesto. Ma guarda cosa vede un rilevatore: tre frasi di lunghezza simile, un'apertura molto comune, un elenco di tre elementi in due frasi su tre e nessun dettaglio che possa venire solo da chi scrive. Ogni parola è facile da prevedere. È il profilo dell'output di un modello, quindi un rilevatore potrebbe valutarlo come probabile AI.

Ora confrontalo con una versione che dice la stessa cosa, ma con più di chi scrive dentro:

L'estate in cui il pozzo dei miei nonni rimase a secco fu la prima volta che il cambiamento climatico mi sembrò una cosa vicina. Usavano quel pozzo da quarant'anni. Ripararlo costò più della loro macchina.

Nessuno lo scambierebbe per uno schema preconfezionato. Ed è anche scritto meglio. Questa sovrapposizione non è un caso, ed è la cosa più utile da capire sui falsi positivi: le abitudini che li provocano sono soprattutto abitudini che rendono la scrittura generica.

Se l'inglese non è la tua lingua madre

Non dovresti dover sembrare madrelingua per essere creduto. Detto questo, alcune cose aiutano. Conserva bozze e appunti. Usa esempi tratti dalla tua esperienza e dalle tue letture, che nessun modello può prevedere. E se usi strumenti di traduzione o correttori grammaticali, conserva una copia di ciò che avevi scritto prima, così da poter mostrare le tue parole se te lo chiedono.

Cosa fare se vieni segnalato per errore

Se un docente, un editor o un cliente ti dice che il tuo lavoro è risultato AI, ecco un piano che funziona meglio del panico.

1. Mantieni la calma e chiedi cosa è stato segnalato

Chiedi quale strumento è stato usato, qual era il punteggio e quali passaggi sono stati evidenziati. Hai il diritto di capire il problema. Mantieni un tono fattuale. Anche chi lo solleva potrebbe non sapere quanto fidarsi dello strumento.

2. Raccogli le prove del tuo processo di lavoro

La prova più forte è una traccia del lavoro svolto nel tempo:

• Cronologia delle versioni. Google Docs (File, poi Cronologia delle versioni) e Microsoft Word con OneDrive conservano entrambi le modifiche con data e ora. Un documento cresciuto in più sessioni appare molto diverso da uno incollato tutto in una volta.
• Appunti e scalette. A mano o in digitale, possibilmente con le date.
• Bozze precedenti. Anche quelle grezze.
• Fonti. Cronologia del browser, prestiti in biblioteca, PDF che hai annotato.

Se di solito non conservi queste cose, inizia ora. Non costa nulla ed è il modo più semplice per proteggerti in futuro.

3. Offriti di discutere il lavoro

Offriti di spiegare la tua argomentazione, di raccontare come hai trovato le fonti o di rispondere a domande sulle scelte che hai fatto. Chi ha scritto un testo di solito sa parlarne a fondo. Spesso è più convincente di qualsiasi documento.

4. Richiama le indicazioni dello strumento stesso

I produttori dei rilevatori sono chiari: i punteggi non sono prove. Turnitin, per esempio, dice che il suo indicatore di scrittura AI non dovrebbe essere l'unica base per prendere provvedimenti contro uno studente, e nasconde i punteggi bassi proprio perché sono meno affidabili. Il nostro approfondimento su Turnitin spiega cosa mostra davvero il suo report. Citare le indicazioni dello strumento non è polemico. Serve solo a mettere il punteggio nel giusto contesto.

5. Conosci la procedura formale

Se il confronto non risolve la situazione, cerca il regolamento sull'integrità accademica del tuo istituto o le clausole sulle controversie del tuo contratto. La maggior parte delle scuole ha una procedura di ricorso, e molte hanno un garante degli studenti o un rappresentante che può aiutarti. Chiedi che la decisione e le prove ti vengano fornite per iscritto.

Come ridurre il rischio la prossima volta

Non dovresti dover cambiare il tuo modo di scrivere per accontentare uno strumento. Ma alcune abitudini rendono i falsi positivi meno probabili e molto più facili da gestire:

• Scrivi in un documento con cronologia delle versioni, non in un semplice editor di testo da cui poi incolli.
• Mantieni la tua voce. Esempi concreti, opinioni e frasi di lunghezza variabile sono scrittura migliore e anche meno "da AI". La nostra guida su perché i testi sembrano scritti dall'AI elenca gli schemi a cui fare attenzione.
• Vacci piano con i suggerimenti di riscrittura dei correttori grammaticali. Correggi gli errori, mantieni le tue formulazioni.
• Controlla prima di consegnare se la posta in gioco è alta. Passare la bozza in un rilevatore, come il Rilevatore AI di RealWrite, evidenzia le frasi che sembrano AI e spiega perché. Considera il risultato un indizio su dove rivedere, non un verdetto.

Una nota per docenti ed editor

Se ti trovi dall'altra parte, un punteggio alto è un motivo per parlarne, non per trarre conclusioni. Chiedi di vedere le bozze. Chiedi a chi ha scritto di raccontarti il testo. Confrontalo con i suoi lavori precedenti. Presta particolare attenzione a chi scrive in una seconda lingua e ai compiti di tipo formale, dove i falsi positivi sono più probabili.

Diverse università hanno scelto di disattivare del tutto le funzioni di rilevamento AI proprio per questi motivi. La Vanderbilt University è stata tra le prime a dirlo pubblicamente, nel 2023. Altre mantengono gli strumenti ma formano il personale a considerarli un elemento tra tanti.

In sintesi

I falsi positivi sono un limite noto del modo in cui funzionano i rilevatori AI, non un segno che tu abbia fatto qualcosa di sbagliato. Conserva le prove del tuo processo di lavoro, resta sui fatti e chiedi che la decisione si basi su qualcosa di più di un singolo numero.

Se vuoi vedere che punteggio ottiene la tua scrittura prima che lo controlli qualcun altro, puoi fare un controllo gratuito su RealWrite. I dettagli dei piani sono nella pagina dei prezzi.