Una risposta convincente può essere completamente sbagliata
Quando un assistente di intelligenza artificiale inventa un libro, attribuisce una frase alla persona sbagliata o fornisce un collegamento inesistente, si parla comunemente di “allucinazione”.
Il termine può far pensare a un episodio eccezionale o misterioso. In realtà descrive un problema strutturale: un modello può generare un’affermazione plausibile, coerente e linguisticamente corretta che non è sostenuta dai fatti o dalle fonti disponibili.
Il pericolo non è soltanto l’errore. È la combinazione tra errore e credibilità della forma: più la risposta appare ordinata e sicura, meno spontaneamente sentiamo il bisogno di controllarla.
L’intelligenza artificiale non sta consultando automaticamente un archivio della verità
Un modello linguistico genera una risposta prevedendo sequenze di elementi del linguaggio. Ha appreso regolarità da grandi quantità di dati, ma non possiede necessariamente una scheda verificata per ogni nome, data o evento.
Secondo una ricerca pubblicata da OpenAI nel 2025, una parte del problema dipende anche dal modo in cui i modelli vengono addestrati e valutati: molti sistemi di valutazione premiano la risposta corretta ma non valorizzano abbastanza la scelta di dichiarare “non lo so”. Indovinare può quindi risultare più conveniente che astenersi.
Questo non significa che ogni risposta sia casuale. Significa che fluidità, precisione grammaticale e sicurezza del tono non costituiscono una prova di verità.
Allucinazione, errore e informazione superata
Non tutte le risposte sbagliate sono uguali.
Fatto inventato
Il sistema produce un nome, una data, una statistica o un evento che non trova riscontro.
Fonte inesistente
Vengono creati titolo, autore, DOI, sentenza o collegamento apparentemente credibili.
Fonte reale, contenuto attribuito male
Il documento esiste, ma non sostiene ciò che la risposta afferma.
Informazione superata
Il dato era corretto in passato, ma una norma, un prezzo, un incarico o una funzione è cambiata.
Inferenza presentata come fatto
Il modello collega elementi reali e produce una conclusione possibile, senza indicare che si tratta di un’interpretazione.
Riempimento di informazioni mancanti
Una richiesta ambigua porta il sistema a completare i vuoti invece di chiedere chiarimenti.
Distinguere questi casi serve perché la correzione cambia: aggiornare una fonte non risolve un ragionamento infondato; chiedere un collegamento non basta se il collegamento può essere inventato.
Perché il tono sembra così sicuro?
Il modello genera linguaggio plausibile. Espressioni come “certamente”, una struttura ordinata o una bibliografia dettagliata possono apparire anche quando la base fattuale è debole.
La sicurezza linguistica non equivale alla probabilità che l’affermazione sia vera. Inoltre, chiedere semplicemente “Sei sicuro?” può produrre una conferma altrettanto convincente oppure una nuova versione incompatibile con la precedente.
Questo si collega a un altro fenomeno: la compiacenza del modello (sycophancy), cioè la tendenza del sistema ad assecondare l’impostazione dell’utente. Se una domanda contiene già una premessa falsa, il modello può accettarla e costruirvi sopra una risposta coerente. Il fenomeno è approfondito nell’articolo Perché l’intelligenza artificiale tende a darci ragione.
Quando il rischio aumenta
Le allucinazioni diventano più probabili o più pericolose quando:
- la domanda riguarda un fatto raro o poco documentato;
- servono informazioni molto recenti;
- si richiedono citazioni precise;
- il contesto fornito è insufficiente o contraddittorio;
- si domanda una certezza che le fonti non consentono;
- il modello non può consultare fonti aggiornate;
- il testo è molto lungo e alcune istruzioni escono dal contesto operativo;
- l’errore riguarda salute, diritto, denaro, sicurezza o reputazione.
Non è sufficiente scegliere “il modello migliore”. Modelli più capaci possono ridurre alcuni errori, ma nessun miglioramento rende inutile la verifica.
Cinque controlli che funzionano meglio della fiducia
1. Chiedere quali affermazioni richiedono verifica
Invece di domandare soltanto le fonti, chiedere di separare fatti, interpretazioni e ipotesi.
2. Aprire davvero le fonti
Vedere un collegamento non significa avere una prova. Una fonte può essere inventata; oppure può esistere davvero senza contenere ciò che le viene attribuito. Bisogna aprirla e controllare autore, data, documento e passaggio rilevante.
3. Preferire la fonte primaria
Per una legge usare il testo ufficiale; per una ricerca il documento originale; per una funzione di un prodotto la documentazione del produttore.
4. Effettuare una verifica indipendente
Non chiedere allo stesso sistema soltanto di controllare se stesso. Confrontare il dato con una fonte esterna o con un secondo processo di verifica.
5. Ridurre l’ambiguità
Specificare luogo, periodo, definizioni e formato. Se mancano dati, autorizzare esplicitamente il sistema a fare domande e a non rispondere.
Un prompt utile, ma non una garanzia
“Separa la risposta in fatti verificabili, inferenze e informazioni mancanti. Non completare i vuoti. Per ogni fatto variabile indica una fonte primaria e la data. Se non puoi verificarlo, scrivi chiaramente che non è verificato.”
Questa istruzione può migliorare il comportamento, ma non certifica il risultato. Anche la dichiarazione “Non verificato” è generata dal modello e deve essere valutata.
La verifica deve essere proporzionata alle conseguenze
Non ogni errore richiede lo stesso livello di controllo. Un suggerimento creativo può tollerare più incertezza di una comunicazione sanitaria o di una decisione economica.
Possiamo usare tre livelli:
- basso impatto: idee, riformulazioni, alternative creative;
- medio impatto: contenuti pubblici, dati commerciali, procedure interne;
- alto impatto: salute, diritto, finanza, lavoro, sicurezza e decisioni sulle persone.
All’aumentare dell’impatto devono aumentare qualità delle fonti, competenza del revisore e tracciabilità della decisione.
L’obiettivo non è eliminare ogni errore
Pretendere infallibilità porta a due estremi inutili: fidarsi di tutto oppure rifiutare completamente lo strumento.
Un uso maturo consiste nel progettare il lavoro sapendo che l’errore è possibile. Si sceglie quali compiti delegare, si limita l’accesso ai dati, si richiedono fonti, si controllano i passaggi decisivi e si conserva la responsabilità umana.
La domanda conclusiva non è “Questa AI allucina?”, perché tutti i grandi modelli possono produrre risposte non fondate. La domanda utile è: quale controllo impedisce a questo errore di diventare una decisione, una pubblicazione o un danno?
Per approfondire e seguire gli aggiornamenti: consulta il NIST Generative AI Profile, la ricerca Why language models hallucinate e il corso gratuito AI Capabilities and Limitations. Fonti verificate alla data di pubblicazione dell’articolo: 13 settembre 2026.
Fonti
- NIST — Artificial Intelligence Risk Management Framework: Generative AI Profile
- OpenAI — Why language models hallucinate
- Claude Academy — AI Capabilities and Limitations
- Li et al. — The Dawn After the Dark: An Empirical Study on Factuality Hallucination in Large Language Models, ACL 2024 — studio che introduce il benchmark HaluEval 2.0.