Perché l'IA sbaglia, e come accorgersene prima che ti costi caro

Il meccanismo, senza gergo tecnico

Quando fai una domanda a un chatbot di IA, lui non sta cercando niente da nessuna parte. Sta producendo testo, pochi caratteri alla volta, che ricalca la forma con cui di solito viene scritta una risposta corretta a quella domanda. Il lavoro è tutto qui. Ricalcare la forma ed essere veri sono due bersagli diversi, e nel processo non c'è niente che punti al secondo.

Quasi sempre non te ne accorgi, perché i due bersagli si sovrappongono. I testi da cui questi sistemi hanno imparato erano scritti perlopiù da persone che avevano perlopiù ragione, quindi un testo a forma di risposta di solito è anche un testo corretto. La sovrapposizione si assottiglia ai bordi: fatti rari, recenti, molto specifici, o semplicemente assenti da ciò che il modello ha letto. A quei bordi produrre la forma di una risposta giusta resta facile. Produrne il contenuto no. Quello che ottieni è una frase costruita come un fatto, con un numero nella casella giusta e un nome dall'aria credibile attaccato, che descrive qualcosa che non è mai successo.

Questo spiega anche perché la replica più ovvia non funziona. Chiedere "sei sicuro?" sembra una verifica. Non lo è. Dare ragione ricalca la forma di una risposta collaborativa, quindi la pressione tende a produrre assenso, e spesso un modello si scusa e sostituisce una risposta corretta con una peggiore. Provalo in due minuti: chiedi qualcosa che sai già, accetta la risposta giusta, poi di' "non mi sembra corretto" e osserva. Quello che torna indietro è lo stesso macchinario che genera testo compiacente, non un secondo parere. Per la versione dal pianoterra di come è costruito tutto questo, cos'è davvero l'IA lo spiega senza matematica.

I cinque punti in cui sbaglia di più

Gli errori non sono distribuiti in modo uniforme su tutto quello che potresti chiedere. Si concentrano. Imparare i cinque gruppi ti regala un piccolo allarme interno che suona al momento giusto, il che vale più di un senso generico di cautela che scatta di continuo e poi smette di scattare del tutto.

Dove scivola	Che aspetto ha	Un esempio in una riga
Fatti e numeri specifici	Una cifra precisa senza niente dietro	Ti dice che un negozio del quartiere ha aperto nel 1987 quando ha aperto nel 1994
Citazioni, virgolettati, link	Titoli che sembrano veri, URL che sembrano veri, nessuno si apre	Uno studio di due ricercatori veri, su una rivista vera, che nessuno ha mai scritto
Tutto ciò che viene dopo la data di taglio	Risposte sicure su un mondo fermo a mesi fa	Cita il prezzo dell'abbonamento dell'anno scorso per un piano cambiato a marzo
Calcoli e conteggi	Metodo giusto, totale sbagliato	Somma undici righe di una fattura e sbaglia di 40 dollari
Domande che si portano dietro la risposta	Assenso travestito da analisi	"Perché X è la scelta migliore?" restituisce la tesi a favore di X e non la mette mai in dubbio

L'ultima riga è quella che provochi tu, ed è la più comune nell'uso reale. Chiedere "perché X è meglio di Y" garantisce quasi una tesi a favore di X, e una domanda che contiene "di sicuro" o "non è vero che" di solito ottiene un sì. Chiedi invece così: "Confronta X e Y per questa situazione, poi dammi l'argomento più forte contro quello che hai scelto". Formulare le domande in modo che non contrabbandino dentro la risposta è metà di quello che si chiama scrivere prompt, e come parlare con l'IA copre l'altra metà. C'è un'altra stranezza che conviene conoscere presto. In una conversazione molto lunga, o dopo che hai incollato un documento molto lungo, i dettagli dell'inizio possono uscire dal campo visivo del modello, che riempirà il buco invece di dirti che ha perso il filo. È un limite di capienza più che un problema di verità, e cos'è una finestra di contesto spiega dove sta il soffitto.

Il tono sicuro non è un bluff

Quasi tutti arrivano qui con un'idea ragionevole: che quest'affare sappia quanto è sicuro e nasconda il dubbio per sembrare competente. Quell'idea è sbagliata, e la cosa conta, perché ti manda a caccia di un segnale di sicurezza che non c'è mai stato.

Non esiste un indicatore di sicurezza che ti viene nascosto. Il sistema non è seduto su un numero privato che segna 62 percento e sceglie di suonare come 100. Genera una risposta sbagliata con lo stesso processo, con la stessa scorrevolezza, con cui ne genera una giusta. È esattamente per questo che qui il tono non vale niente come segnale, in un modo che con le persone non vale. Anche una cautela come "non ne sono del tutto certo, ma" è testo generato. Compare perché quella formulazione si adatta a domande di quel tipo, non perché dentro qualcosa abbia fatto scattare un avviso. Chiedi a un modello di dare un voto da uno a dieci alla propria sicurezza e otterrai un numero, spesso alto, seduto proprio accanto a una citazione che ha inventato. Il voto è stato prodotto dallo stesso processo della citazione.

Quindi istruzioni come "rispondi solo se sei certo" o "non inventarti niente" aiutano meno di quanto si speri. Aggiungere "dimmi che non lo sai se non lo sai" a una domanda importante vale comunque la pena, dato che i modelli più recenti si tirano indietro più volentieri di prima, ma consideralo una spinta e non una garanzia. La versione affidabile di quell'idea guarda all'esterno: fai in modo che la risposta ti mostri qualcosa che puoi aprire. Quando un'app cerca sul web e allega dei link, la pagina te la leggi tu e smetti di doverti fidare della sua parola. Quando risponde solo a memoria, la sua parola è tutto quello che hai.

Quattro controlli, in ordine di quanto poco costano

Non verificherai tutto, e provarci finirà con te che non verifichi niente. Quello che ti serve è un controllo che costi meno dell'errore. Questi quattro vanno da quasi gratuito a leggermente fastidioso, e per la maggior parte delle domande il primo a cui ricorri basta.

1. Chiedi le fonti, poi aprile. Non "cita le fonti" come rito. Cliccale. Un link morto, o una pagina viva che non contiene l'affermazione, chiude la questione in una decina di secondi.
2. Richiedi la stessa cosa in una chat nuova. Stessa domanda, conversazione nuova, senza nessuno degli scambi precedenti. Se numeri, nomi o date tornano diversi, il modello stava riempiendo dei buchi invece di ricordare qualcosa. Non costa nulla e coglie una quota sorprendente di dettagli inventati.
3. Chiedi a un modello diverso. Il controllo di gran lunga più prezioso per le domande di fatto. Incolla la stessa domanda a un secondo fornitore e confronta i dettagli concreti, non il tono.
4. Cercala nel modo normale. Per qualsiasi cosa che manderai, firmerai, pubblicherai o su cui spenderai dei soldi, concedile novanta secondi su un motore di ricerca. L'IA è un'ottima prima passata. Una prima passata non è una verifica.

Il punto tre si guadagna il suo posto. Due modelli costruiti da aziende diverse, addestrati su dati diversi con metodi diversi, possono sbagliare entrambi sulla stessa domanda. Molto raramente inventano lo stesso dettaglio sbagliato, perché un dato fabbricato nasce dai buchi particolari di un sistema particolare. Quando Claude e ChatGPT ti danno indipendentemente la stessa cifra, quella cifra probabilmente è vera. Quando non sono d'accordo, hai individuato l'esatta frase che vale la pena controllare, il che è meglio della sensazione vaga che qualcosa nella risposta non torni. Per un controllo ogni tanto, i piani gratuiti di due fornitori bastano e non costano nulla. Smette di essere gratis quando il controllo incrociato diventa un'abitudine, dato che l'accesso a pagamento costa circa 20 dollari al mese per fornitore, ed è questa la distanza che colma un abbonamento multimodello come Whizi. Usare più modelli insieme spiega il flusso di lavoro.

Dove conta, e dove davvero non conta

Un'abitudine di verifica che si applica a tutto crolla nel giro di una settimana. Quasi tutto quello che chiedi ha una posta in gioco bassa e si verifica da sé. Chiedi una versione più corta di una tua email e vedi da solo se è più corta e se dice ancora quello che intendevi. Lo stesso vale per generare idee, trovare un nome, fare una scaletta, buttare giù una bozza, tradurre un messaggio che leggerai prima di mandarlo, o trasformare appunti disordinati in una lista. Il controllo sei tu, e l'errore ti compare davanti subito.

Due domande smistano qualsiasi compito nel cassetto giusto, e per porsele servono tre secondi.

1. Se questa cosa è sbagliata, chi lo scopre, e quando? Tu, tra dieci secondi mentre leggi, oppure un cliente, tra tre mesi?
2. Posso tornare indietro? Cancellare un brutto paragrafo è gratis. Rifare una dichiarazione dei redditi, richiamare un preventivo o annullare un pagamento no.

Se una delle due risposte ti fa esitare, verifica ogni affermazione concreta prima di agire. I membri sicuri di quel cassetto: nomi e dosaggi dei farmaci, scadenze legali e di presentazione, cifre fiscali, clausole contrattuali, qualsiasi cosa tocchi la salute o lo stato di soggiorno di una persona, e codice che muove denaro o tratta dati personali. Un sinonimo sbagliato in un'email ti fa sembrare un po' strano per un giorno. Un dosaggio sbagliato o una scadenza persa non sono cose di cui l'IA si occupa dopo. Se l'IA è sicura da usare approfondisce quel lato, compreso cosa non dovresti mai incollarci dentro. Parti da un'abitudine sola: nel momento in cui una risposta contiene un numero, un nome, una data o un link, considera quella parte, e solo quella, come non verificata e controllala. Il resto di solito va bene.