L’Intelligenza Artificiale ha un problema curioso, riesce a sbagliare molto bene.
Non sempre ci restituisce una risposta evidentemente assurda, piena di errori grammaticali o talmente improbabile da farci venire subito un dubbio. Sarebbe quasi più semplice.
Può fare una cosa molto più insidiosa: scrivere una risposta ordinata, precisa, convincente, con date, nomi, numeri, riferimenti, magari perfino con una spiegazione logica impeccabile, e avere comunque torto.
Questo vale per ChatGPT, Claude, Gemini, Copilot e, più in generale, per i sistemi di Intelligenza Artificiale generativa.
OpenAI stessa spiega che ChatGPT può produrre informazioni errate o fuorvianti, inventare citazioni, studi o riferimenti inesistenti e rispondere con sicurezza anche quando la risposta non è corretta. Il NIST, il National Institute of Standards and Technology statunitense, usa il termine “confabulation” per indicare proprio la produzione, presentata con sicurezza, di contenuti falsi o erronei da parte dei sistemi di IA generativa.
La questione, allora, non è chiedersi soltanto quanto sia diventata brava l’Intelligenza Artificiale.
La domanda più utile è un’altra: quando ricevo una risposta dall’IA, come faccio a capire se posso davvero usarla?
Perché leggere una risposta non significa averla verificata.
Una risposta dell’IA non è una fonte
Questo è il primo passaggio da capire, forse quello che evita più errori di tutti.
Se chiediamo a un sistema di Intelligenza Artificiale:
“Qual è la normativa che disciplina questa situazione?”
oppure:
“Quali sono gli ultimi dati ISTAT su questo fenomeno?”
oppure ancora:
“Trova una sentenza che confermi questa interpretazione”
possiamo ricevere una risposta straordinariamente dettagliata.
Il problema nasce quando quella risposta diventa automaticamente la nostra fonte.
Non dovrebbe accadere.
L’IA può aiutarci a individuare informazioni, organizzare un argomento, suggerire una direzione di ricerca, confrontare materiali, spiegare un concetto, analizzare documenti e perfino cercare fonti quando dispone di strumenti di ricerca sul web.
Il passaggio successivo, però, resta nostro.
OpenAI raccomanda espressamente di verificare le informazioni importanti, in particolare citazioni, dati, informazioni tecniche e riferimenti a documenti esterni, consultando direttamente le fonti.
Questa distinzione sembra piccola, ma cambia completamente il modo di usare l’IA nel lavoro.
Una risposta può essere un ottimo punto di partenza.
Non è automaticamente un punto di arrivo.
Perché l’Intelligenza Artificiale può sembrare sicura anche quando sbaglia
Un modello linguistico non ragiona sulla verità di una frase nello stesso modo in cui lo facciamo noi quando controlliamo un documento, una legge, un bilancio o una fonte.
Durante il suo funzionamento costruisce le risposte sulla base di relazioni e probabilità apprese dai dati e questo permette di produrre linguaggio estremamente coerente, anche quando qualche informazione all’interno della risposta è errata.
Nel settembre 2025 OpenAI ha dedicato un approfondimento proprio al problema delle allucinazioni, ricordando che anche modelli più avanzati continuano a poter produrre affermazioni plausibili ma false.
Il NIST richiama lo stesso rischio e sottolinea un aspetto che considero fondamentale: proprio la sicurezza con cui un contenuto falso viene presentato può indurre una persona a fidarsi e quindi ad agire sulla base di quell’informazione.
Qui, secondo me, c’è uno dei veri problemi dell’IA generativa.
La macchina non deve necessariamente convincerci.
A volte siamo noi a concederle troppo facilmente credibilità, perché la risposta è scritta bene.
Per questo, nel Metodo Sinibaldi, continuo a ripetere un concetto semplice: l’output va letto, interpretato e verificato prima di entrare nel lavoro reale.
Vediamo, però, come farlo davvero.
1. Prima di verificare la risposta, chiediti quanto pesa
Non tutte le risposte richiedono lo stesso livello di controllo.
Se utilizzo l’IA per trovare dieci idee per il nome di una festa aziendale, un errore ha conseguenze limitate.
Se la utilizzo per cercare una norma, interpretare un contratto, analizzare dei dati, preparare una comunicazione sanitaria, sintetizzare informazioni finanziarie, valutare un curriculum, redigere un documento destinato a un cliente o costruire un contenuto giornalistico, il peso cambia completamente perché entrano in gioco anche i rischi legali dell’Intelligenza Artificiale per aziende e professionisti
Il primo controllo, quindi, non riguarda ancora la risposta.
Riguarda il rischio che sto correndo se quella risposta è sbagliata.
Faccio spesso questo ragionamento anche durante la formazione: più una risposta può produrre conseguenze su persone, denaro, diritti, reputazione, salute, sicurezza o decisioni professionali, più deve salire il livello del controllo umano.
Questo principio è coerente anche con l’impostazione europea sull’AI literacy. L’AI Act richiede infatti che la competenza nell’uso dell’IA tenga conto, tra le altre cose, del contesto in cui il sistema viene utilizzato.
Un controllo serio, quindi, parte da una domanda molto umana:
“Cosa succede se questa risposta è sbagliata?”
Più è pesante la risposta a questa domanda, meno possiamo permetterci di fermarci al testo prodotto dall’IA.
2. Separa i fatti dalle interpretazioni
Quando leggiamo un testo generato dall’IA, tendiamo a leggerlo come un blocco unico.
Meglio fare il contrario.
Bisogna smontarlo.
Prendiamo una risposta ipotetica:
“Secondo il Regolamento europeo X, entrato in vigore il 15 marzo 2025, le aziende con più di 50 dipendenti devono nominare un responsabile interno entro sei mesi.”
Dentro una sola frase ci sono almeno quattro informazioni verificabili:
esiste davvero quel Regolamento?
È entrato in vigore il 15 marzo 2025?
La soglia è davvero 50 dipendenti?
Esiste davvero l’obbligo di nominare quel responsabile entro sei mesi?
Potrebbero essere tutte corrette.
Potrebbero esserlo solo alcune.
Potrebbero essere completamente inventate.
La verifica comincia quando smettiamo di domandarci genericamente “è vero?” e iniziamo a individuare quali singole affermazioni devono essere dimostrate.
È una differenza enorme.
La stessa cosa vale per numeri, percentuali, nomi di persone, date, sentenze, articoli di legge, studi scientifici, citazioni, prezzi, caratteristiche tecniche, statistiche, dichiarazioni pubbliche.
Ogni elemento fattuale importante deve poter essere ricondotto a qualcosa che esiste fuori dalla risposta dell’IA.
3. Chiedi all’IA di distinguere ciò che sa da ciò che deve verificare
Qui possiamo utilizzare la stessa Intelligenza Artificiale per migliorare il controllo.
Non per certificare se stessa, sarebbe un errore, ma per obbligarla a rendere più visibili i punti deboli della risposta.
Dopo aver ricevuto un testo, possiamo scrivere:
“Rileggi la risposta che mi hai dato. Individua tutte le affermazioni fattuali che richiedono una verifica esterna. Per ciascuna indicami cosa deve essere controllato, quale tipo di fonte primaria dovrei cercare e segnala chiaramente ciò di cui non sei sicuro. Non inventare fonti mancanti.”
Questo passaggio è utile perché cambia il compito.
Prima stavamo chiedendo all’IA di rispondere.
Adesso le stiamo chiedendo di aiutarci a preparare la verifica.
Attenzione, però, perché anche questa seconda risposta può essere sbagliata.
Se l’IA scrive “ho verificato ed è corretto”, non abbiamo ancora verificato nulla.
Se ci indica una fonte, quella fonte va aperta.
Se ci fornisce un link, va controllato.
Se cita un documento, dobbiamo verificare che il documento esista e che dica realmente ciò che l’IA sostiene.
La verifica non può essere delegata allo stesso soggetto che ha prodotto l’informazione da verificare.
4. Apri davvero le fonti
Questo sembra quasi banale.
Nella pratica, non lo è affatto.
Riceviamo una risposta con cinque riferimenti, vediamo nomi autorevoli, domini conosciuti, titoli credibili e ci sentiamo rassicurati.
Poi magari non apriamo nulla.
Un link esistente non dimostra automaticamente l’affermazione alla quale è stato associato.
Quando una risposta dell’IA cita una fonte, io controllerei almeno quattro cose: che la pagina esista davvero, che sia la fonte che dichiara di essere, che contenga realmente l’informazione citata e che quella informazione sia ancora aggiornata.
C’è una differenza enorme, per esempio, tra leggere:
“Lo dice la Commissione Europea”
e aprire materialmente il documento della Commissione Europea nel quale quella frase dovrebbe trovare conferma.
Lo stesso vale per una sentenza, una circolare, una ricerca scientifica o un dato statistico.
Non fermarti al titolo.
Vai dentro la fonte.
Cerca il passaggio.
Leggi ciò che viene prima e ciò che viene dopo.
Controlla la data.
Controlla se esistono aggiornamenti successivi.
A volte la frase dell’IA è formalmente vera, ma usa una fonte superata.
Anche questo è un errore.
5. Cerca prima la fonte primaria
Questo è uno dei controlli più semplici da trasformare in abitudine.
Se devo verificare una legge italiana, cerco la Gazzetta Ufficiale o Normattiva.
Se devo verificare un regolamento europeo, parto da EUR-Lex o dalle istituzioni europee competenti.
Se devo controllare un dato statistico italiano, vado alla fonte ISTAT.
Se una società annuncia una nuova funzione del proprio prodotto, controllo prima la documentazione ufficiale di quella società.
Se sto verificando una ricerca scientifica, cerco lo studio originale e non soltanto l’articolo che ne parla.
Questo non significa che le fonti secondarie non servano.
Servono moltissimo per capire, contestualizzare, confrontare interpretazioni, leggere punti di vista diversi.
Quando dobbiamo accertare un fatto, però, arrivare alla fonte primaria riduce un passaggio della catena.
La regola che uso è semplice:
IA → fonte indicata → fonte primaria → controllo umano.
Quando l’informazione è particolarmente delicata, aggiungo anche una seconda fonte indipendente.
Non perché due siti che ripetono la stessa cosa trasformino automaticamente una falsità in verità, ma perché il confronto può far emergere discrepanze che altrimenti non vedremmo.
6. Numeri, date, leggi e citazioni meritano un controllo separato
Esistono informazioni davanti alle quali alzerei automaticamente il livello di attenzione.
I numeri sono una di queste.
Se l’IA mi dice che “il 72% delle aziende italiane utilizza sistemi di Intelligenza Artificiale”, voglio sapere da dove arriva quel 72%.
Qual è la ricerca?
Chi l’ha realizzata?
Qual era il campione?
Di quale anno stiamo parlando?
Che cosa significa esattamente “utilizza sistemi di IA”?
Sono state considerate tutte le aziende o soltanto quelle sopra una determinata dimensione?
Un numero senza contesto può essere formalmente corretto e diventare comunque ingannevole.
Lo stesso discorso vale per le date.
Vale per le leggi, dove basta confondere l’entrata in vigore con la data di applicazione di un obbligo per cambiare completamente il significato di un articolo.
Vale per le citazioni attribuite a una persona.
Vale per sentenze e riferimenti bibliografici.
Vale anche per i calcoli.
Se un risultato numerico ha conseguenze operative, rifaccio il calcolo con uno strumento appropriato o con una seconda procedura indipendente.
Il controllo deve essere proporzionato al danno che potrebbe produrre l’errore.
7. Fai l’ultimo controllo senza chiederti “ha ragione l’IA?”
Questo, per me, è il passaggio più importante.
Alla fine non dobbiamo più guardare quella risposta pensando:
“ChatGPT ha ragione?”
Dobbiamo poter dire:
“Io, sulla base delle fonti che ho verificato, considero questa informazione utilizzabile.”
La differenza sembra sottile.
In realtà sposta completamente la responsabilità.
L’Intelligenza Artificiale torna al posto giusto, quello di strumento.
La persona torna al proprio, quello di chi comprende il contesto, valuta le conseguenze e decide.
Prima di utilizzare l’output, quindi, farei un ultimo passaggio mentale: se qualcuno domani mi chiedesse “da dove arriva questa informazione?”, sarei in grado di rispondere senza dire “me l’ha detto ChatGPT”?
Se la risposta è no, probabilmente il lavoro di verifica non è ancora finito.
Un esempio pratico: verificare una risposta in meno di cinque minuti
Immaginiamo di chiedere all’IA:
“Dal 2 agosto 2026 tutte le aziende italiane che usano ChatGPT devono avere obbligatoriamente un Registro IA?”. È proprio il tipo di domanda in cui una risposta apparentemente netta può nascondere molte sfumature, come ho approfondito nell’articolo dedicato a cosa cambia davvero con l’AI Act dal 2 agosto 2026 per aziende, professionisti e PMI.
La risposta potrebbe essere molto sicura.
Prima di usarla in un articolo, in una consulenza o in una comunicazione aziendale, però, separerei immediatamente le affermazioni.
Esiste una disposizione dell’AI Act che impone esplicitamente a “tutte le aziende italiane” un documento chiamato “Registro IA”?
La data del 2 agosto 2026 a quale obbligo si riferisce esattamente?
L’utilizzo di ChatGPT rende automaticamente un’azienda soggetta a quell’eventuale obbligo?
Esiste una norma italiana specifica che aggiunge qualcosa rispetto al Regolamento europeo?
A quel punto chiederei all’IA di indicarmi gli articoli normativi pertinenti, poi uscirei dalla risposta e andrei direttamente alle fonti europee e italiane.
Soltanto dopo scriverei la conclusione.
È questo il punto che spesso manca.
Usiamo l’IA per arrivare più velocemente vicino alla risposta.
Poi dobbiamo fare gli ultimi metri noi.
Un prompt pratico per controllare meglio un output
Naturalmente la verifica comincia già nel modo in cui costruiamo la richiesta, perché, come ho spiegato parlando di prompt e importanza del contesto, una buona istruzione dovrebbe chiarire anche limiti, dati mancanti e ciò che non deve essere inventato. Quando una risposta contiene informazioni importanti, puoi utilizzare anche questo prompt come primo livello di controllo:
DIVENTA un revisore critico dell’output che hai appena prodotto. Non riscrivere il testo. Individua separatamente ogni affermazione fattuale verificabile, compresi nomi, date, percentuali, dati, norme, studi, citazioni e riferimenti. Per ciascuna indica: cosa devo verificare, quale sarebbe la fonte primaria più autorevole, se disponi realmente di una fonte che conferma l’affermazione e quali elementi della risposta potrebbero essere incerti, incompleti, superati o frutto di inferenza. Se non puoi verificare qualcosa, scrivi chiaramente “DA VERIFICARE”. Non inventare riferimenti mancanti. Alla fine indicami quali tre controlli devo effettuare personalmente prima di usare questa risposta.
È un ottimo filtro.
Non è una certificazione.
Questo va ricordato.
Il prompt può aiutarci a scoprire dove guardare, ma la conferma deve arrivare dalle fonti.
Verificare non significa non fidarsi dell’Intelligenza Artificiale
A volte il tema della verifica viene raccontato quasi come una guerra tra uomo e macchina.
La considero una lettura sbagliata.
Io utilizzo l’Intelligenza Artificiale proprio perché può fare cose straordinarie, velocizzare ricerche, aprire prospettive che non avevo considerato, analizzare enormi quantità di informazioni, aiutarmi a ragionare, confrontare, scrivere, organizzare.
Proprio perché la uso, però, devo conoscerne anche il limite.
Guidare l’IA non significa diffidare di ogni parola.
Significa sapere dove serve mettere le mani sul volante.
È una parte dell’AI literacy, quella competenza che ormai riguarda concretamente aziende, professionisti e organizzazioni e che il Regolamento europeo sull’Intelligenza Artificiale collega anche alla capacità di utilizzare i sistemi tenendo conto delle conoscenze delle persone e del contesto nel quale vengono impiegati.
Nel Metodo Sinibaldi questo passaggio viene dopo il prompting per una ragione precisa.
Un prompt scritto bene aumenta la probabilità di ottenere un buon risultato.
La verifica decide se quel risultato può entrare nel mondo reale.
Sono due cose diverse.
Le 7 domande da farti prima di usare una risposta dell’IA
Prima di copiare, pubblicare, inviare, firmare o trasformare una risposta dell’Intelligenza Artificiale in una decisione, prova a fermarti qualche minuto e chiederti:
- Se questa risposta fosse sbagliata, quali conseguenze avrebbe?
- Quali affermazioni contenute nel testo sono fatti verificabili?
- L’IA distingue ciò che sa da ciò che sta deducendo?
- Ho aperto davvero le fonti citate?
- Ho cercato la fonte primaria?
- Ho ricontrollato separatamente numeri, date, norme e citazioni?
- Sarei capace di difendere questa informazione senza dire “me l’ha detto l’IA”?
Se l’ultima risposta è sì, probabilmente hai fatto qualcosa di molto diverso dal semplice utilizzare ChatGPT.
Hai governato il processo.
La vera competenza arriva dopo la risposta
Per mesi abbiamo parlato di come scrivere prompt migliori.
È servito, serve ancora.
Credo però che la fase più interessante inizi adesso, perché milioni di persone hanno imparato a ottenere risposte molto buone dall’Intelligenza Artificiale e il problema si sta spostando.
La domanda non è più soltanto:
“Come faccio a farmi rispondere meglio?”
Sta diventando:
“Come faccio a sapere se questa risposta merita la mia fiducia?”
Qui la tecnologia da sola non basta più.
Servono metodo, esperienza, fonti, contesto, dubbio, capacità di fermarsi e quella cosa che continuiamo a chiamare controllo umano quasi fosse un ultimo passaggio da aggiungere alla procedura, mentre è probabilmente il primo elemento da non perdere.
L’IA può cercare.
Può confrontare.
Può calcolare.
Può suggerire.
Può anche controllare una prima volta se stessa.
Alla fine, però, qualcuno deve assumersi la responsabilità di dire: questa informazione la uso.
Quel qualcuno siamo ancora noi.
Domande frequenti
Le risposte di ChatGPT sono sempre affidabili?
No. ChatGPT e gli altri modelli di IA generativa possono produrre informazioni corrette, ma anche informazioni errate, incomplete, superate o inventate. La sicurezza con cui una risposta viene formulata non rappresenta una garanzia della sua accuratezza. OpenAI raccomanda di verificare le informazioni importanti consultando fonti affidabili.
Come capire se ChatGPT sta inventando una fonte?
Bisogna verificare materialmente che la fonte esista, aprirla e controllare che contenga davvero l’informazione attribuita. Titolo, autore, URL, data di pubblicazione e contenuto devono essere coerenti. Chiedere nuovamente a ChatGPT “sei sicuro?” non sostituisce questo controllo.
Posso chiedere all’IA di verificare la propria risposta?
Sì, ed è utile come primo filtro, soprattutto per individuare affermazioni da controllare, incongruenze e punti di incertezza. Non deve però diventare l’unico controllo, perché lo stesso sistema può sbagliare anche durante la revisione.
Quali informazioni dell’IA devono essere sempre controllate?
È particolarmente importante verificare dati numerici, date, norme, sentenze, citazioni, studi scientifici, riferimenti bibliografici, informazioni tecniche e tutte le informazioni che possono incidere su decisioni professionali, economiche, giuridiche, sanitarie o comunque rilevanti.
Usare la ricerca web dell’IA elimina le allucinazioni?
No. Gli strumenti di ricerca possono migliorare l’accesso a informazioni aggiornate e verificabili e consentire di consultare le fonti citate, ma non trasformano automaticamente ogni risposta in una risposta corretta. Anche quando l’IA utilizza il web, le fonti importanti devono essere aperte e controllate. OpenAI stessa invita a visitare direttamente i collegamenti quando l’accuratezza è importante.
Fonti ufficiali e riferimenti verificabili
OpenAI – ChatGPT dice la verità?
https://help.openai.com/it-it/articles/8313428-does-chatgpt-tell-the-truth
OpenAI – Perché i modelli linguistici hanno allucinazioni
https://openai.com/it-IT/index/why-language-models-hallucinate/
NIST – Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
EUR-Lex – Regolamento (UE) 2024/1689 sull’Intelligenza Artificiale
https://eur-lex.europa.eu/legal-content/IT/ALL/?uri=CELEX%3A32024R1689
OpenAI – ChatGPT Search
https://help.openai.com/it-it/articles/9237897-chatgpt-search
Bio autore
Antonio Sinibaldi è formatore e docente di intelligenza artificiale, specializzato nell’uso consapevole dell’IA, nel ragionamento umano e nella responsabilità professionale. Formatore in Intelligenza Artificiale per aziende e professionisti. Docente del corso IA per l’Istituto Nazionale Tributaristi. Autore della collana IA PRATICA.