Come "ragiona" ChatGPT, e perché a volte sbaglia con sicurezza

Il gioco del completare la frase

Prova a finire questa frase: "Il gatto si è addormentato sul..."

Probabilmente hai pensato "divano", o "letto", o "tappeto". Difficilmente "frigorifero". Non hai fatto calcoli: hai letto e sentito così tante frasi nella tua vita che sai quali parole di solito vengono dopo altre.

Un modello linguistico fa esattamente questo, su scala gigantesca. Guarda il testo che ha davanti e calcola qual è il pezzo di parola più probabile da scrivere dopo. Lo aggiunge, ricalcola, aggiunge il successivo, e così via, un pezzetto alla volta, finché la risposta è completa. È per questo che le risposte compaiono sullo schermo un po' alla volta, come se qualcuno stesse scrivendo.

Quei pezzetti si chiamano token. Un token può essere una parola intera, un pezzo di parola o un segno di punteggiatura. Non devi ricordarti il termine, ma lo troverai spesso, per esempio quando si parla di limiti e di costi.

Come ha imparato: tre fasi

Fase 1: leggere quasi tutto

Il modello viene addestrato su enormi quantità di testo: pagine web, libri, articoli, codice informatico, in molte lingue. Durante questa fase fa sempre lo stesso esercizio, miliardi di volte: indovinare la parola successiva e correggersi quando sbaglia. Alla fine è diventato bravissimo a continuare qualsiasi testo, ma non è ancora un assistente. Se gli scrivi una domanda, potrebbe rispondere con altre domande, perché in molti testi le domande stanno in fila.

Fase 2: imparare a fare l'assistente

Poi lo si addestra su esempi di conversazioni ben fatte: una domanda, una risposta utile, chiara, educata. In più, delle persone valutano tante risposte diverse e indicano quali sono migliori. Il modello impara a preferire quel tipo di risposta. Da qui arrivano il tono cortese, la struttura con elenchi e titoletti, e anche il rifiuto di aiutare in cose pericolose.

Fase 3: gli strumenti

Oggi gli assistenti più diffusi non si limitano a scrivere. Possono cercare sul web, leggere un PDF che carichi, guardare una foto, fare calcoli con un piccolo programma. Questi strumenti colmano alcuni dei loro punti deboli. Per esempio, la ricerca web permette di rispondere su fatti recenti che il modello non ha mai "letto".

La memoria della conversazione

Un dettaglio che sorprende molti: il modello non ricorda la conversazione nel senso in cui la ricordi tu. Ogni volta che scrivi un messaggio, rilegge tutta la chat dall'inizio e scrive la risposta successiva.

Lo spazio che riesce a rileggere si chiama finestra di contesto. Oggi è molto ampia, ma non infinita. Quando una conversazione diventa lunghissima, i dettagli dell'inizio possono essere gestiti male o ignorati. Da qui tre consigli pratici:

• Un argomento, una chat. Se cambi completamente argomento, aprine una nuova. Le risposte migliorano.
• Se inizia a confondersi, ricomincia. Apri una nuova chat e incolla un breve riassunto di quello che serve.
• Le chat diverse non si parlano, salvo che tu abbia attivato funzioni di "memoria" che alcuni servizi offrono. In quel caso l'assistente conserva alcune informazioni su di te tra una chat e l'altra, e conviene sapere quali (ne parliamo nella lezione sulla privacy).

Perché a volte inventa

Gli errori in cui l'AI si inventa un fatto hanno un nome: allucinazioni. Il nome è un po' teatrale, ma il meccanismo è semplice.

Ricordi? L'obiettivo del modello è scrivere il testo più plausibile. Se gli chiedi il titolo del terzo libro di un autore poco noto e quell'informazione non c'è da nessuna parte nel suo addestramento, il modello non "sente" di non saperlo. Continua a fare quello che sa fare: produce un titolo che suona giusto per quell'autore. Magari con anno di pubblicazione ed editore, tutti inventati e tutti credibili.

Le allucinazioni sono più frequenti quando chiedi:

• numeri precisi, date, statistiche
• citazioni, riferimenti di legge, sentenze, fonti bibliografiche
• informazioni su persone o aziende poco conosciute
• fatti molto recenti, senza che l'assistente abbia cercato sul web
• dettagli molto specifici di un settore di nicchia

Altre due cose che spiegano molti comportamenti

Ha una data di aggiornamento

Il modello conosce il mondo fino a una certa data, quella in cui è finito il suo addestramento. Di quello che è successo dopo non sa nulla, a meno che non cerchi sul web. Se chiedi notizie recenti e la risposta sembra vecchia, il motivo è quasi sempre questo. Puoi chiedere esplicitamente: "Cerca sul web informazioni aggiornate su...", se l'assistente che usi ha questa funzione.

La stessa domanda può dare risposte diverse

Nella scelta della parola successiva c'è un po' di casualità voluta, per rendere il testo più naturale e vario. Per questo, se rigeneri una risposta, ne ottieni una diversa. È utile quando cerchi idee. È un segnale d'allarme quando chiedi un fatto preciso: se due tentativi danno numeri diversi, almeno uno è sbagliato.

Cosa ne ricavi in pratica

1. Usa l'AI per scrivere, riorganizzare, spiegare, proporre. È lì che dà il meglio.
2. Verifica sempre fatti, numeri e fonti prima di usarli in qualcosa che conta.
3. Dagli il materiale giusto. Se incolli tu il testo da cui deve partire, per esempio un documento o una email, le invenzioni calano molto.
4. Chiedi di dire quando non è sicuro. Una frase come "Se non sei sicuro di un'informazione, dimmelo invece di inventare" aiuta, anche se non elimina del tutto il problema.
5. Tieni le chat corte e ordinate: un argomento per chat.