Chiedi a un assistente artificiale il titolo di un libro poco conosciuto. La risposta arriva in pochi secondi: autore, anno di pubblicazione, trama e perfino un commento critico. Tutto ordinato, tutto plausibile. Poi cerchi quel libro in biblioteca e scopri che non esiste. Non è un episodio di fantascienza: è una delle stranezze più importanti da capire quando usiamo l’intelligenza artificiale generativa.
Ci aspetteremmo che una macchina molto avanzata sappia distinguere con chiarezza ciò che conosce da ciò che ignora. E invece può produrre una risposta sbagliata con la stessa scioltezza di una corretta. La cosa più ingannevole non è necessariamente l’errore. È la tranquillità con cui viene presentato.
Una risposta convincente non è sempre una risposta vera
Un modello linguistico viene addestrato su grandi quantità di dati per imparare strutture, relazioni e regolarità del linguaggio. Quando gli facciamo una domanda, costruisce una risposta coerente con il contesto e con ciò che ha appreso. Questo può produrre spiegazioni utilissime, traduzioni, riassunti e idee originali. Ma la coerenza di una frase e la sua verità sono due caratteristiche diverse.
Se mancano informazioni affidabili su un dettaglio specifico, il sistema può comunque completare il discorso in modo plausibile. Ecco perché talvolta troviamo citazioni inesistenti, riferimenti bibliografici sbagliati, numeri non verificati o eventi attribuiti alla persona sbagliata. A questi errori si dà spesso il nome di «allucinazioni». È un termine efficace, purché non ci faccia immaginare una macchina che sogna: stiamo parlando di contenuti generati senza un adeguato fondamento.
Perché non dice semplicemente «non lo so»?
In parte perché l’obiettivo di generare una risposta utile non coincide automaticamente con quello di sospendere il giudizio quando le prove sono insufficienti. I modelli moderni vengono allenati anche a riconoscere l’incertezza, a essere prudenti e a rifiutare risposte non fondate. Tuttavia il comportamento non è perfetto e può variare molto in base alla domanda, al modello e agli strumenti disponibili.
Prova a immaginare un esame orale in cui allo studente venga chiesto di continuare sempre a parlare. Se non conoscesse un dettaglio, potrebbe cercare di ricostruirlo dai pezzi che ricorda. Talvolta farebbe un collegamento corretto; altre volte inventerebbe inconsapevolmente qualcosa di credibile. L’analogia non è letterale — un modello non ricorda come uno studente — ma aiuta a capire il problema.
C’è poi un fattore umano. Quando leggiamo una risposta ben scritta, piena di dettagli e organizzata in punti, tendiamo a considerarla autorevole. La forma rassicurante può abbassare la nostra attenzione critica. In altre parole, il rischio nasce dall’incontro fra un sistema capace di esprimersi molto bene e un lettore naturalmente portato a fidarsi di ciò che suona competente.
Cercare sul web non rende tutto infallibile
Collegare un assistente a un motore di ricerca, a documenti verificabili o a un archivio aziendale può ridurre molti errori. Significa permettergli di appoggiarsi a fonti esterne invece di affidarsi soltanto a ciò che ha appreso durante l’addestramento. Ma anche così serve cautela: una fonte può essere vecchia, incompleta, interpretata male o semplicemente inattendibile.
Una citazione con un collegamento non è una garanzia automatica. Bisogna controllare se la fonte dice davvero ciò che la risposta le attribuisce. È un passaggio fondamentale soprattutto quando si parla di salute, denaro, leggi o decisioni con conseguenze importanti.
Come usare l’AI senza diventare diffidenti verso tutto
Non dobbiamo trasformare ogni conversazione con un assistente in un’indagine investigativa. Possiamo però imparare a calibrare la fiducia in base a ciò che chiediamo. Per trovare idee per una cena, un errore è generalmente poco grave. Per citare una sentenza in un documento legale, non lo è affatto.
Se la risposta contiene fatti precisi, chiediamo da dove provengono. Se include cifre, date, nomi o citazioni, verifichiamoli nelle fonti originali. Se il tema è delicato, confrontiamo più riferimenti indipendenti e, quando necessario, consultiamo un professionista. Un buon assistente dovrebbe aiutarci anche a controllare, non soltanto a produrre testo.
E possiamo fare un’altra domanda, meno scontata: «Quale parte della tua risposta è incerta?». Non elimina la possibilità di errore, ma spesso migliora la qualità della conversazione perché ci costringe a distinguere fra una spiegazione generale e un’affermazione puntuale che richiede prove.
La vera competenza potrebbe essere saper dubitare
Per molto tempo abbiamo associato la tecnologia avanzata a un’idea di precisione assoluta. Se è un computer a dirlo, pensiamo, deve aver calcolato qualcosa. Ma i sistemi generativi non sono semplici calcolatrici che restituiscono sempre un risultato verificabile. Sono strumenti potenti, capaci di creare valore e anche di sbagliare.
La sfida, allora, non è decidere se fidarsi sempre oppure mai. È capire quando una risposta ci sta aiutando a pensare e quando stiamo delegando alla sua sicurezza apparente il nostro giudizio.
Forse, in un mondo pieno di macchine che sanno parlare benissimo, diventerà ancora più preziosa una capacità molto umana: fermarsi davanti a una frase perfetta e chiedere, con calma, «ma sarà vero?».
