Nell’articolo precedente abbiamo lasciato l’esperto da ombrellone a chiedersi quanto lontano potesse spingersi la sua plausibilità. Se n’è parlato per mesi, sotto ogni ombrellone, con una sigla.
AGI.
Sotto ogni ombrellone qualcuno la nomina con la sicurezza di chi legge un termometro: “ci arriviamo tra due anni”, “no, cinque”, “è già qui e non lo sappiamo”. Come se l’AGI fosse una linea sulla sabbia, e bastasse aspettare l’onda giusta.
Non lo è. Nessuno sa disegnare quella linea. Generale rispetto a cosa? Intelligenza misurata come? Ognuno intende una cosa diversa: umana a tutto tondo, superiore, autonoma economicamente, cosciente. Discutere quando arriveremo all’AGI è discutere quando arriveremo sull’isola che non c’è: quella della canzone, che forse esiste e forse no, e nessuno sa indicare sulla mappa.
Il secondo problema è peggiore. Non sappiamo nemmeno come nasca. Il meccanismo di questa macchina è indovinare il pezzo più probabile che viene dopo: scalato all’inverosimile, produce qualcosa che argomenta e ragiona, e nemmeno chi la costruisce spiega bene perché. Prevedere quando arriverà una cosa indefinita, generata da un processo inspiegato: è una previsione al quadrato.
C’è pure un terzo inganno. Ogni volta che una macchina supera una soglia che chiamavamo intelligenza, scacchi, il Go, un esame di avvocato, diciamo “eh, ma quella non è vera intelligenza”. Il traguardo arretra apposta mentre la capacità avanza. E oggi l’AI ti batte già su certe cose, memoria, velocità, ampiezza, mentre resta indietro su altre, non sa nemmeno contare le lettere di una parola. Non è una marea che sale verso la linea “umano”. È uno skyline frastagliato: torri altissime qui, buchi profondi là.
Prima di fidarti della prossima data sicura, chiediti chi te la dà. I laboratori che raccolgono fondi hanno bisogno che l’AGI sia vicina. I profeti di sventura hanno bisogno che sia vicina e terribile. Non è un complotto, è solo che una data sull’AGI dice più su cosa vende chi parla che su cosa sarà davvero.
Detto questo, non voglio fare nemmeno il profeta mancato, e non voglio liquidare la previsione al quadrato con una al cubo. È certo che le capacità avanzano, in modo dirompente, con o senza soglia da superare.
Credo sia vincente smettere di aspettare la soglia, smettere di costruire modelli su qualcosa che ancora non sappiamo come sarà, e provare a governare al meglio quello che ci cambia già da lunedì prossimo. Che è già abbastanza difficile.