I modelli che "ragionano": cosa significa davvero

Alcuni modelli rispondono subito. Altri si prendono qualche secondo in più per "pensare" prima di parlare. Non è magia né coscienza: è una tecnica precisa che a volte aiuta tanto e a volte è soldi buttati. Vediamo cosa succede davvero sotto il cofano.

Rispondere di getto o pensarci su

Immagina due persone a cui fai una domanda difficile. La prima spara la risposta al volo. La seconda si ferma, ragiona un attimo, prova una strada, vede se torna, poi parla.

I modelli di IA funzionano un po' così. Quelli "normali" producono la risposta quasi di getto, parola dopo parola. I modelli che "ragionano" fanno un passaggio in più: prima di rispondere generano una serie di passaggi intermedi, una specie di brutta copia interna. Questa brutta copia si chiama catena di pensiero (in inglese chain-of-thought).

OpenAI lo dice chiaro per i suoi modelli della serie "o": il modello usa una catena di pensiero per affrontare un problema, scompone i passaggi difficili in passaggi più semplici e, se una strada non funziona, ne prova un'altra. Anthropic chiama la stessa idea "extended thinking": il modello considera e rivede il suo piano prima di agire. Google, con i modelli "thinking" di Gemini, parla di un processo che migliora il ragionamento nei compiti a più passi.

Quando conviene davvero

Pensarci su non serve sempre. Conviene quando il problema è davvero difficile: un calcolo matematico con più passaggi, un pezzo di codice da scrivere e correggere, un ragionamento logico dove un errore all'inizio rovina tutto il resto.

In questi casi spezzare il lavoro in passi piccoli paga. Il modello può accorgersi di un errore a metà strada e correggerlo, invece di trascinarlo fino alla fine. È lo stesso motivo per cui noi, davanti a un problema tosto, prendiamo carta e penna invece di rispondere a istinto.

Le aziende lo confermano nelle loro guide: questi modelli danno il meglio su matematica avanzata, programmazione, analisi dati e compiti a più passaggi. Per fatti semplici o classificazioni veloci, invece, consigliano di tenere il "pensiero" al minimo.

Perché a volte è uno spreco

Tutto questo pensare ha un prezzo, in senso letterale. I passaggi intermedi sono testo che il modello produce: si chiamano token di ragionamento. Li paghi anche se non li vedi.

Su Anthropic, per esempio, vedi solo un riassunto del pensiero ma paghi tutti i token usati per ragionare. Su Google e OpenAI è lo stesso principio: il conto finale somma la risposta e il ragionamento nascosto. Più il modello pensa, più costa e più tempo ci mette.

Quindi per una domanda banale ("che ore sono a Tokyo?") far ragionare il modello è come usare un trattore per innaffiare un vaso. Funziona, ma è lento e caro per niente. Per questo i modelli recenti regolano lo sforzo: poco pensiero per le cose facili, tanto solo quando serve.

E attenzione alla parola "ragionare". È una metafora tecnica, comoda per spiegarci. Il modello non è cosciente, non capisce e non pensa come noi: produce passaggi di testo che statisticamente aiutano ad arrivare a risposte migliori. Niente mente dentro la macchina.