Come verificare le allucinazioni in una risposta AI
- Incolla la risposta di ChatGPT, Gemini, Claude, Copilot o di qualsiasi altro assistente, compresi i link e l'elenco dei riferimenti. Puoi anche cliccare Carica file per caricare un documento .txt, .pdf o .docx.
- Clicca Cerca allucinazioni. Lo strumento trova ogni fonte nel testo e le controlla tre alla volta; ognuna diventa verde, rossa o ambra man mano che arriva il risultato.
- Leggi il riepilogo in alto: quante fonti sono state verificate, quante non sono state trovate e quante non è stato possibile controllare.
- Passa in rassegna Affermazioni da verificare, l'elenco delle frasi con più probabilità di contenere fatti inventati.
Cosa viene inviato e dove
Il tuo testo resta nel tuo browser. Vengono cercati solo gli elementi che lo strumento trova: link e ID arXiv tramite il nostro controllo dei link, DOI e righe dei riferimenti su Crossref (il database pubblico delle pubblicazioni scientifiche) e gli ISBN su Open Library. Le frasi che li circondano e il resto del testo non vengono inviati da nessuna parte.
Cosa viene controllato
| Trovato nel testo | Come viene controllato |
|---|---|
DOI, come 10.1038/nature14539 | Cercato su Crossref, che restituisce il titolo, la rivista e l'anno reali. Se Crossref non lo ha, lo strumento verifica se doi.org riesce a risolverlo; un DOI che non è registrato da nessuna parte viene segnato come non trovato. |
| Link (URL) | Il nostro server richiede la pagina. Un HTTP 404 o 410 significa che la pagina non esiste. Un HTTP 401, 403, 429 o un errore 5xx significa che il sito ha rifiutato la richiesta o non ha risposto, quindi il link viene segnato come non verificabile. |
ID arXiv, come arXiv:1706.03762 | Viene richiesta la pagina arXiv corrispondente per vedere se l'articolo esiste. |
| ISBN | Prima si convalida la cifra di controllo: un ISBN con la cifra di controllo errata non può appartenere ad alcun libro. I numeri validi vengono poi cercati su Open Library. |
Righe dell'elenco dei riferimenti, come Author, A. (2019). Title. Journal | Cercate su Crossref. Conta come corrispondenza quando circa il 70% delle parole del titolo trovato compare nella tua riga di riferimento. |
Come leggere i risultati
Ogni fonte riceve uno di tre esiti:
- Verificata: la fonte esiste. Per DOI e riferimenti viene mostrato il titolo reale, così puoi confrontarlo con la citazione.
- Non trovata: la pagina ha restituito 404 o 410, il DOI non è registrato, l'ID arXiv non esiste o l'ISBN non è valido. I DOI inventati e i link a pagine mai esistite sono allucinazioni classiche, e ogni elemento rosso merita sospetto.
- Non verificabile: il sito ha bloccato la nostra richiesta, il riferimento non è stato trovato su Crossref oppure un ISBN valido manca su Open Library. Non è una prova di allucinazione. Cerca tu stesso la fonte.
Affermazioni da verificare
I modelli linguistici allucinano più spesso nei dettagli specifici, quindi lo strumento elenca le frasi che li contengono: statistiche e percentuali, somme di denaro, date, espressioni come "secondo", superlativi come "il primo", "il più grande", "sempre" e "mai", e citazioni attribuite a una persona. Non può dire se siano vere; ti mostra dove guardare. Lo strumento segnala anche le avvertenze sulla data limite delle conoscenze, come "fino al mio ultimo aggiornamento di addestramento", un promemoria che la risposta potrebbe essere superata.
Il limite più importante
Questo strumento conferma che una fonte esiste, non che sostenga l'affermazione. Un'allucinazione comune cita un articolo reale per un numero che al suo interno non compare da nessuna parte. Una spunta verde significa "questo articolo è reale", niente di più. Prima di fidarti di un'affermazione, apri la fonte e trova il passaggio che la sostiene.
Crossref copre la maggior parte degli articoli di riviste ma non include molti libri, rapporti, tesi e atti di convegni. Un riferimento segnato come non verificabile può essere perfettamente reale. Se non lo trovi nemmeno in un catalogo di biblioteca, su Google Scholar o sul sito dell'editore, consideralo inventato.
Consigli
- Chiedi al chatbot di fornire un DOI o un link per ogni affermazione. Gli identificativi specifici si possono controllare; i riferimenti vaghi a "uno studio del 2023" no.
- Per un link segnato come non verificabile, aprilo nel browser. Verifica redirect mostra dove porta davvero un link.
- Per controllare i riferimenti in un articolo o rapporto in PDF, convertilo con PDF in testo e incolla l'elenco dei riferimenti.
Domande frequenti
Cos'è un'allucinazione AI?
Un'allucinazione è un'affermazione che un modello linguistico presenta come un fatto ma che è falsa o priva di fondamento: uno studio inventato, una citazione falsa, una data sbagliata o un link a una pagina mai esistita.
Controlla se i fatti sono veri?
No. Controlla se le fonti citate esistono ed elenca le frasi che dovresti verificare. Giudicare se un'affermazione sia vera richiede comunque una persona che legga la fonte.
Il mio testo viene inviato a un server?
Vengono cercati soltanto i link, i DOI, gli ID arXiv, gli ISBN e le righe dei riferimenti che trova, tramite il nostro controllo dei link, Crossref e Open Library. Il resto del testo resta nel tuo browser.
Perché un sito reale risulta "non verificabile"?
Molti siti bloccano le richieste automatiche o limitano la frequenza delle risposte, restituendo codici come 403 o 429. Questo non dice nulla sull'esistenza della pagina, quindi aprila tu.
Aggiornato
Commenti
Accedi per valutare questo strumento.
Condividi un consiglio, fai una domanda o racconta come ti è andata con lo strumento.
Ancora nessun commento. Racconta per primo com’è andata.