Lallucinazione (detta anche confabulazione) è una risposta generata da un'intelligenza artificiale generativa che contiene dati falsi o fuorvianti presentati come fatti.

Tipi

Il termine deriva da una vaga analogia con le allucinazioni umane, derivate normalmente da false percezioni. Le allucinazioni dell'intelligenza artificiale tuttavia, al contrario di quelle umane, originano da risposte costruite in modo errato, e non da un'errata percezione. Il concetto di “allucinazione” è stato infatti criticato da diversi esperti per le sue connotazioni mediche - inapplicabili a una macchina - e per via del fatto che la parola presuppone l’esistenza di uno stato di coscienza e conoscenza da cui l’IA può, sbagliando, deviare. Le IA generative, però, non sono né coscienti, né possono conoscere quello che dicono: di conseguenza, non possono nemmeno avere allucinazioni.

I modelli prevedono quale sia la parola successiva più probabile da un punto di vista statistico. Per questo motivo, quando si trovano a rispondere a domande generiche, i chatbot dimostrano tutta la loro limitatezza. Così un chatbot generato da un modello linguistico di grandi dimensioni, come ChatGPT, può includere contenuti falsi generati automaticamente all'interno delle proprie risposte. Secondo uno studio del 2023, a seconda dei chatbot la percentuale di dati falsi generati variava dal 3 al 27%, mentre un altro studio ha rilevato dati errati in media nel 46% dei testi generati. OpenAI ha dichiarato che in questi casi specifici le sue ultime tecnologie hanno allucinazioni dal 51% al 79% delle volte. Sebbene siano in grado di generare testi coerenti e persuasivi, questi modelli non comprendono davvero i contenuti, almeno non nel senso in cui lo farebbe un essere umano. La probabilità che si generino tali errori aumenta all'incrementarsi della complessità delle domande.

C'è poi un altro aspetto: i modelli linguistici sono progettati per soddisfare l’utente. Essendo prodotti commerciali, vengono sviluppati per non ammettere l’incertezza. Chi paga un abbonamento per usare ChatGPT, si aspetta risposte alle proprie domande. Da un punto di vista di mercato, quindi, le aziende tecnologiche come OpenAI, Google, Deepseek e altre ritengono preferibile fornire una qualsiasi risposta piuttosto che nessuna. Risposte plausibili ma non veritiere, che sembrano corrette ma non poggiano su alcun fondamento reale.

Dall'ottobre 2025 Elon Musk ha lanciato Grokipedia. Le singole voci sono alimentate da Grok, sistema che viene utilizzato anche su X. In pratica, come qualsiasi modello di intelligenza artificiale generativa, ha introitato una mole enorme di dati, utilizzati poi per produrre le singole voci dell’enciclopedia. Alcuni analisti hanno già rilevato le solite “allucinazioni” tipiche delle intelligenze artificiali e una tendenza a mescolare fonti molto diverse, trattandole sullo stesso piano. Secondo la testata ebraica Forward, una prima versione della voce dedicata a Hitler menzionava l’Olocausto solo in un secondo momento, descrivendo il dittatore semplicemente come «un politico tedesco di origine austriaca» che ottenne rapidi successi economici, consolidando il potere «con mezzi legali e successive epurazioni».

I large language model rappresentano una forma di algoritmo di deep learning caratterizzato dalla capacità di riconoscere, riassumere, tradurre e generare testi, e altri contenuti, sulla base della conoscenza appresa dal loro dataset in fase di addestramento. GPT-3 è stato per esempio addestrato attraverso 800 gigabyte di informazioni, tra cui l’intera Wikipedia in lingua inglese, centinaia di migliaia di articoli delle principali testate d’informazione, grandi porzioni di forum come Reddit e altro ancora. Sfruttare una tale mole di dati pescati dalla rete significa, inevitabilmente, anche impiegare in fase di addestramento dei contenuti di scarsa qualità, delle informazioni errate, delle teorie controverse e altro ancora. Un altro elemento problematico è che questi modelli operano attraverso un modello probabilistico, il quale rappresenta un processo incerto. Questo significa che anziché fornire risposte assolute o certezze, i modelli di intelligenza artificiale forniscono stime di probabilità su quale risposta (o sequenza di parole) sia la più probabile in base alle informazioni disponibili. In altre parole, il modello valuta diverse possibilità e assegna loro una probabilità di occorrenza, consentendo di selezionare l'opzione più plausibile in base a tali stime. Tuttavia, poiché le probabilità non forniscono una certezza assoluta, ciò introduce un elemento di incertezza nel processo decisionale dell'AI, rendendolo suscettibile a errori o allucinazioni, soprattutto in contesti complessi o ambigui. In pratica, ogni token (termine con cui si definiscono le unità di testo impiegate da questi modelli) presente nel dataset deve avere una probabilità di venire selezionato superiore a zero, dando così al sistema la flessibilità necessaria ad apprendere nuovi pattern, ma creando anche il rischio di generare informazioni scorrette. Il problema fondamentale è che i modelli linguistici sono probabilistici, la verità invece non lo è.

Sostiene l'ingegnere informatico Anthony Moser: «Non è un malfunzionamento. Un modello predittivo prevede del testo: magari è accurato, magari no, ma il processo è lo stesso in ogni caso. In altre parole: gli LLM sono strutturalmente indifferenti alla verità».

Dibattito scientifico Il professor Andrew Heiss ha messo in luce come gli articoli fatti generare da studenti e studiosi all'IA, e che contengono riferimenti a ricerche inesistenti, se non segnalati e ritirati per l’uso improprio dell’IA finiscono per essere citati in altri lavori accademici, “ripulendo” di fatto le loro citazioni errate. In questo modo, studenti e ricercatori (e anche i modelli linguistici a cui eventualmente chiedono aiuto) finiscono per considerare quelle “fonti” come affidabili, senza verificarne mai l’esistenza. Più queste citazioni false vengono ripetute acriticamente da un articolo all’altro, più si rafforza l’illusione della loro autenticità. Le citazioni inventate sono diventate un incubo per i bibliotecari universitari, che secondo alcune stime arrivano a sprecare fino al 15 per cento del loro tempo di lavoro per rispondere a richieste di documenti inesistenti evocati da ChatGPT o Google Gemini. La psicologa e scienziata cognitiva Iris van Rooij ha sostenuto che la diffusione dello “slop” dell’IA nelle risorse accademiche preannuncia «la distruzione della conoscenza». Nel luglio 2025, lei e altri studiosi di settori affini hanno firmato una lettera aperta in cui invitavano le università a resistere all’hype e al marketing per «tutelare l’istruzione superiore, il pensiero critico, la competenza, la libertà accademica e l’integrità scientifica».

Le IA accedono continuamente a Wikipedia e agli altri siti di informazione per ottenere le risposte alle domande degli utenti e mostrargliele in comodi riassunti. In termini pragmatici, questo implica che molte persone si fermano al riassunto mostrato da Google, senza accedere al sito di Wikipedia. Italo Valdelli Inovation Program Lead (capo del programma di innovazione) di Wikimedia CH, il ramo svizzero della parte operativa di Wikimedia, ha affermato: «Paradossalmente è aumentato il traffico in generale, ma è aumentato di più il traffico dei bot rispetto al traffico umano. Il traffico dei bot ci sta togliendo dei click» Circa le fonti dalle quali l'IA trae informazioni, ma sulle quali potrebbe sviluppare una sorta di sostituzione nella stesura delle stesse, Dice inoltre Valdelli: «Wikipedia fornisce la qualità a questi modelli: se dovesse collassare Wikipedia, praticamente i modelli genererebbero moltissime allucinazioni e non sarebbero più affidabili». Un internet dove i contenuti sono generati dall’IA sarebbe poco sostenibile, perché è su quegli stessi testi che i modelli verrebbero addestrati. Una spirale autoreferenziale dove gli errori (le allucinazioni), sia linguistici che nozionistici, si moltiplicherebbero in modo esponenziale, rendendo gli strumenti perfettamente inutili.

Una analisi di OpenAI si sofferma anche sul ruolo dei sistemi di valutazione. Nove dei dieci principali benchmark utilizzati da Google, OpenAI e nelle classifiche di settore penalizzano i modelli che dichiarano dubbi, assegnando zero punti sia alle risposte incerte che a quelle completamente errate. Questo meccanismo incentiva matematicamente l’IA a “tirare a indovinare”, piuttosto che astenersi, per massimizzare il punteggio atteso. OpenAI propone dunque di introdurre delle soglie di certezza che permettano all’IA di esprimere dubbi, riducendo efficacemente le allucinazioni. Tuttavia, implementare questa soluzione richiederebbe costi computazionali significativamente maggiori e degraderebbe l’esperienza utente. Se infatti ChatGPT iniziasse a rispondere “non lo so” anche solo al 30% delle domande, molti utenti probabilmente abbandonerebbero il servizio. Gli incentivi commerciali dell’IA consumer rimangono quindi strutturalmente disallineati con la riduzione del fenomeno. Diverso il discorso per gli ambiti ad alta criticità, come finanza, logistica o medicina, dove ridurre le allucinazioni diventa non solo sostenibile ma soprattutto necessario. Un tentativo di soluzione potenziale è quello di integrare i grafi di conoscenza (KGs) negli LLMs. I grafi di conoscenza, che memorizzano enormi quantità di informazioni sotto forma di triple, rappresentano un metodo strutturato di rappresentazione della conoscenza. Esempi di grafi di conoscenza sono DBPedia e WikiData, che raccolgono in modo strutturato l’informazione che in Wipedia è pensata per essere letta e usata da utenti umani. Tuttavia, va considerato che la costruzione dei KGs è complessa e gli approcci attuali spesso non riescono a gestire la natura incompleta e dinamicamente mutevole dei KGs reali.

La Rai ha preso parte a un progetto di ricerca coordinato da EBU e guidato da BBC. News Integrity in AI Assistants - an International PSM Study. La ricerca ha coinvolto 18 paesi per 14 lingue in 22 media pubblici europei, statunitensi e canadesi, per un campione statistico di oltre 3000 risposte, e messo in luce che ci sono criticità in tutti gli assistenti presi in esame: ChatGPT, Gemini, Perplexity e Copilot. Il 45% di tutte le risposte ha evidenziato almeno un problema "significativo", in grado di compromettere il significato della notizia. Se si includono i problemi minori, ovvero in grado di distorcere solo in parte i fatti, senza alterare sostanzialmente il contenuto informativo, si raggiunge l'81%. Guardando ai singoli assistenti, Gemini ha registrato la percentuale più alta di problemi significativi, con un impatto sul 76% delle risposte, il doppio di Copilot (37%), seguito a sua volta da ChatGPT (36%) e Perplexity (31%). L'uso delle fonti è stata la principale causa di problemi, significativi nel 31% di tutte le risposte, come informazioni non supportate dalla fonte citata, risposte senza fonti o che presentano affermazioni errate o non verificabili relative alla testate usate come “base” per la notizia generata. Spicca in senso negativo Gemini (Google), che ha mostrato un tasso di errore particolarmente elevato per l’uso delle fonti: il 72% contro il 25% massimo per gli altri.