Nell’articolo precedente ci siamo lasciati con lo zaino che si misura in token, e con ogni token che ripaghi a ogni turno. Due parole che spaventano sul conto, e quasi nessuno sa cosa siano davvero.
Token.
Tutti pensano al token come a una voce della bolletta, qualcosa da tenere d’occhio quando paghi l’AI. Vero, ma è la parte piccola. Il token è prima di tutto il modo in cui l’AI legge. E non legge come te.
Tu leggi lettere, poi parole. Lei prende blocchi di caratteri vicini, in media un paio per parola, e li trasforma in numeri. Il suo alfabeto non è fatto di lettere, è fatto di pezzi diventati cifre. Legge in una lingua straniera, tutta numerica.
Ecco perché, se le chiedi quante R ci sono in “fragola”, tentenna o spara un numero a caso. Non vede f-r-a-g-o-l-a. Vede due blocchi, “frag” e “ola”, già diventati due numeri, tipo 212 e 352. Dentro quei numeri le singole lettere non esistono più: le ha inghiottite. Non è un difetto d’intelligenza, è l’organo di senso sbagliato. Prima di darle della sciocca, chiediti se le stai chiedendo di vedere una cosa che, alla lettera, non percepisce.
Tornando al conto, arriva da qui. Paghi i token che entrano e quelli che escono. E siccome l’AI non ha memoria tra una battuta e l’altra, tutto lo zaino, tutta la chat fin lì, viene riletto da capo ogni volta che scrivi. E i modelli che “ragionano” costano ancora di più: prima di risponderti generano un mucchio di pezzi nascosti, che non vedi ma paghi.
Ricordi lo zaino gonfio? Ora sai perché non era solo più confuso, era anche più caro, turno dopo turno. Risparmiare e usare bene l’AI sono lo stessa cosa: uno zaino leggero.
Un’ultima cosa, perché “mi produco i token per risparmiare” non sta in piedi. Il token non è una moneta che conii, è lavoro. Ogni token è un passaggio dentro un calcolatore, una GPU, cioè corrente. Non stai pagando testo che scorre gratis, stai pagando pensiero misurato a peso, e ogni parola costa un filo di elettricità.
E quel pensiero, come lo produce? Un pezzo alla volta. Ogni token che scrive è una previsione: guarda tutto quello che ha nello zaino e indovina il pezzo più probabile che viene dopo, lo aggiunge, e ricomincia da capo. Ecco perché rilegge l’intero zaino a ogni giro: da lì tira fuori la mossa successiva. È l’unico gesto che sa fare, indovinare il prossimo pezzo, all’infinito.
L’arma da portare a casa: un token è un pezzo di parola diventato numero. Per questo l’AI non conta le lettere, e per questo paghi il pensiero a peso e lo ripaghi tutto a ogni turno. È la stessa cosa vista da due lati. Non li conii, i token. Li consumi.
Resta una domanda senza risposta pulita: come da un processo tanto elementare, “indovinare il prossimo token”, esce qualcosa che argomenta, traduce, ragiona e ci sembra perfino intelligente? Non lo sa bene nemmeno chi l’AI la costruisce. Ma un pezzo di quella frase conta già adesso: la macchina indovina il prossimo pezzo più plausibile. E plausibile non è vero. Né intelligente. Ma è il prossimo articolo.