Allucinazioni AI: cosa sono e come verificare ChatGPT

Un'allucinazione AI è una risposta sicura di sé e ben scritta, data da un chatbot come ChatGPT, Gemini o Claude, che è falsa o priva di fondamento, per esempio una citazione inventata, un link rotto o una data sbagliata. Succede perché i modelli linguistici generano testo prevedendo le parole più probabili invece di cercare i fatti. Per verificare una risposta AI, controlla ogni fonte, link, numero e citazione su un originale indipendente prima di fidartene.

I chatbot sono utili per scrivere bozze, riassumere e spiegare, e su argomenti comuni la maggior parte di ciò che dicono è corretta. Il problema è che le loro risposte sbagliate sembrano identiche a quelle giuste. Questa guida spiega da dove nascono le allucinazioni, che forme prendono di solito e una procedura pratica per controllare una risposta.

Perché i grandi modelli linguistici allucinano

Prevedono il token successivo

Un grande modello linguistico (LLM) viene addestrato su un'enorme quantità di testo per prevedere il pezzetto di testo successivo, detto token, dato tutto ciò che lo precede. Quando gli fai una domanda, produce la continuazione che meglio si adatta agli schemi che ha imparato. Se nei dati di addestramento la risposta compariva molte volte, la continuazione più probabile di solito è corretta. Se non compariva, il modello produce comunque la continuazione dall'aspetto più plausibile, perché nel meccanismo di base nulla dice "fermati, non lo so".

Ecco perché le invenzioni sono così convincenti. Un riferimento inventato ha la forma giusta: nomi di autori realistici, una rivista che pubblica in quel campo, un anno sensato e un DOI nel formato corretto. Il modello ha imparato com'è fatta una citazione molto meglio di quanto abbia memorizzato quali citazioni esistano davvero.

L'addestramento premia il rispondere

Dopo il pre-addestramento, i modelli vengono ottimizzati per essere utili, e sia i valutatori umani sia i benchmark automatici hanno tendenzialmente premiato una risposta completa rispetto a "non ne sono sicuro". In un articolo del 2025, Why Language Models Hallucinate, i ricercatori di OpenAI sostengono che una valutazione che non dà alcun punteggio a chi si astiene incoraggia i modelli a tirare a indovinare. I modelli più recenti sono più bravi a esprimere l'incertezza, ma la tendenza non è scomparsa.

Data limite dell'addestramento

La conoscenza di un modello si ferma alla data limite del suo addestramento. Se gli chiedi di eventi successivi, nuove leggi, prezzi attuali o dell'ultima versione di un software, un modello senza accesso alla ricerca può descrivere come attuale una situazione vecchia oppure colmare la lacuna con un'ipotesi.

Nessun recupero di informazioni per impostazione predefinita

A meno che un chatbot sia collegato alla ricerca web o ai documenti che gli fornisci, risponde solo a memoria. Non può aprire l'articolo che sta citando né verificare che un URL funzioni. Anche quando ha la ricerca, può leggere male una pagina, confondere due fonti o associare una citazione corretta a un'affermazione che la fonte non fa.

I tipi più comuni di allucinazione

Le citazioni false hanno avuto conseguenze concrete. Nel caso statunitense del 2023 Mata v. Avianca, degli avvocati sono stati sanzionati dopo aver depositato una memoria contenente sentenze che ChatGPT aveva inventato. Da allora sono stati segnalati episodi simili in altri tribunali e in articoli accademici pubblicati.

Procedura passo passo per verificare una risposta AI

Non serve controllare ogni frase di ogni risposta. Adatta l'impegno a ciò che è in gioco: il suggerimento per una ricetta richiede meno attenzione di un'affermazione medica, legale o finanziaria, o di qualsiasi cosa pubblicherai con il tuo nome.

1. Estrai le affermazioni verificabili. Elenca ogni riferimento, link, numero, data, nome e citazione diretta. È qui che si nascondono la maggior parte delle allucinazioni e dove controllare è più veloce.
2. Risolvi ogni identificativo. Apri ogni URL, risolvi ogni DOI su doi.org, cerca ogni ISBN e ID arXiv. Un identificativo che non funziona, o che porta a un'altra opera, è un campanello d'allarme per l'intero riferimento.
3. Verifica che ogni fonte dica ciò che si afferma. Un articolo reale può comunque non sostenere la frase a cui è collegato. Leggi l'abstract, la sezione pertinente o il passaggio citato.
4. Confronta i numeri con le fonti primarie. Vai all'istituto di statistica, all'autorità di regolamentazione, al bilancio dell'azienda o allo studio originale, non a un blog che ripete il dato. Annota la data del numero.
5. Risali all'origine delle citazioni. Cerca le parole esatte tra virgolette. Se le uniche fonti sono raccolte di citazioni senza riferimento all'originale, considera la frase non verificata.
6. Ricostruisci il ragionamento. Rifai i calcoli, prova il codice in un ambiente reale e controlla che ogni passaggio derivi dal precedente.
7. Leggi in modo laterale. Per le affermazioni importanti, cerca due fonti affidabili e indipendenti che concordino, invece di basarti su una sola.
8. Elimina o segnala ciò che non riesci a verificare. Se un'affermazione non può essere confermata, toglila o segnalala chiaramente come non confermata.

La nostra Verifica allucinazioni AI automatizza i primi passaggi. Incolla una risposta AI e lo strumento verifica i DOI su Crossref, controlla se i link funzionano, verifica gli ID arXiv e gli ISBN, esamina le righe dei riferimenti ed elenca le statistiche e le affermazioni fattuali che richiedono ancora un controllo umano. Ti dice quali identificativi sono reali; leggere la fonte per confermare che sostenga l'affermazione resta compito tuo.

Prompt che riducono le allucinazioni

Il modo in cui chiedi influisce su quanto spesso un modello inventa. Queste tecniche aiutano, anche se nessuna da sola rende affidabile una risposta.

• Concedi il permesso di non sapere. I modelli ammettono più facilmente l'incertezza se gli dici che va bene.
• Fornisci il materiale di partenza. Incolla il documento, il rapporto o i dati e chiedi al modello di rispondere solo in base a quelli. È la modifica singola più efficace.
• Chiedi le citazioni. Pretendere per ogni affermazione una breve citazione testuale dal testo fornito rende più facile individuare le frasi senza fondamento.
• Separa i fatti dalle deduzioni. Chiedi al modello di indicare cosa è scritto nelle fonti e cosa è un suo ragionamento.
• Evita le domande tendenziose. "Quale studio ha dimostrato X?" invita il modello a produrre uno studio. "Ci sono prove a sostegno di X?" lascia spazio a un "no".
• Chiedi meno riferimenti, ma migliori. Le richieste di lunghe liste di letture producono più voci inventate.

Un esempio di prompt che combina più di queste tecniche:

Rispondi usando solo il rapporto incollato qui sotto.
Per ogni affermazione, includi una breve citazione testuale del rapporto che la sostenga.
Se il rapporto non contiene la risposta, scrivi "Non indicato nel rapporto".
Non aggiungere riferimenti o dati che non siano nel rapporto.

[incolla qui il rapporto]

Chiedere a un modello di controllare la propria risposta precedente può far emergere qualche errore, ma può altrettanto facilmente confermare un'invenzione. L'autocontrollo non sostituisce l'apertura della fonte.

Quando aiutano la ricerca integrata e gli strumenti di recupero

Molti assistenti ora possono cercare sul web o leggere i file che carichi prima di rispondere. Questo approccio, spesso chiamato retrieval-augmented generation (RAG), dà al modello testo pertinente su cui lavorare invece di farlo affidare alla memoria. Aiuta soprattutto con:

• eventi recenti, prezzi e versioni usciti dopo la data limite dell'addestramento;
• domande su un documento, un contratto, una policy o un set di dati specifici che fornisci tu;
• argomenti di nicchia comparsi raramente nei dati di addestramento.

Basare la risposta su fonti riduce le fonti inventate, perché le citazioni rimandano a pagine effettivamente recuperate. Non garantisce però l'accuratezza. La ricerca può restituire una pagina scadente o superata, il modello può riassumerla male, oppure può citare una pagina reale accanto a un'affermazione che quella pagina non fa. Considera le citazioni di una risposta basata su fonti come un elenco di letture da verificare, non come una prova.

Quando fare più attenzione

• Salute, legge e denaro. Gli errori hanno costi reali, e le regole variano da paese a paese e cambiano nel tempo. Usa l'AI per capire le domande da porre, poi conferma con le indicazioni ufficiali o con un professionista qualificato.
• Tutto ciò che pubblichi o consegni. C'è il tuo nome, non quello del modello. Redattori, insegnanti e tribunali considerano i riferimenti inventati una responsabilità dell'autore.
• Argomenti di nicchia o locali. Meno si è scritto su un tema online, meno materiale ha a disposizione il modello.
• Richieste molto specifiche. Numeri di pagina esatti, citazioni di sentenze, articoli di legge e statistiche precise sono particolarmente soggetti a invenzioni.

Se stai rivedendo un testo prodotto da qualcun altro e sospetti che sia stato generato, la nostra guida su come capire se un testo è stato scritto dall'AI spiega il rilevamento e i suoi limiti, e il Rilevatore AI può fornire un ulteriore indizio. I riferimenti non verificabili sono spesso una prova più forte di qualsiasi punteggio di un rilevatore.

Domande frequenti

Perché ChatGPT inventa le fonti?

Perché genera un testo che somiglia a una risposta probabile. Ha imparato benissimo il formato delle citazioni, quindi quando non ha un riferimento reale può produrne uno con autori, titoli e identificativi plausibili che non corrispondono ad alcuna pubblicazione esistente.

Come posso verificare se un riferimento dato dall'AI è reale?

Cerca il titolo esatto su Google Scholar o in un catalogo di biblioteca, risolvi il DOI su doi.org e controlla che autori, rivista e anno corrispondano. Poi leggi abbastanza della fonte da confermare che sostenga l'affermazione. Uno strumento come la nostra verifica delle allucinazioni può controllare DOI, ISBN, ID arXiv e link in blocco.

I modelli AI più recenti allucinano ancora?

Sì. I modelli più recenti in genere allucinano meno sulle domande comuni e sono più bravi a dire quando non sono sicuri, ma ogni modello attuale può ancora produrre affermazioni false, soprattutto su argomenti di nicchia, eventi recenti e richieste di dettagli esatti.

La ricerca web impedisce le allucinazioni AI?

Le riduce, in particolare le fonti inventate e i fatti superati, ma non le impedisce. Il modello può comunque leggere male o riportare in modo scorretto le pagine che ha trovato, quindi apri le pagine citate e controlla.

Un'allucinazione è la stessa cosa di una bugia?

No. Una bugia implica l'intenzione di ingannare. Un modello non ha intenzioni; produce testo fluido senza un controllo interno affidabile su quanto sia vero. L'effetto su chi legge può essere lo stesso, ed è per questo che la verifica conta.