Chiedi una data storica a un’AI. Se non la sa, non te lo dice. Te ne inventa una, con la stessa sicurezza di quella vera.
Allucinazione e bias.
Tutti pensano all’allucinazione come a un bug occasionale, un intoppo che la prossima versione sistemerà. Sembra un incidente di percorso.
Non lo è. Il modello ha un solo motore: genera sempre la continuazione più plausibile secondo ciò che ha letto. Quando quella continuazione coincide con la realtà, la chiamiamo risposta giusta. Quando si scosta, la chiamiamo allucinazione. Dentro la macchina è lo stesso identico movimento: indovinare cosa viene dopo. Ha sempre saputo una cosa sola, cosa suona plausibile, mai cosa è vero.
E quando il buco che riempie non è un fatto isolato ma un tema intero, il fenomeno prende un altro nome: bias. Stesso motore, esito diverso. Fa la media statistica di tutto ciò che ha letto, e quel mondo scritto non è mai stato neutro.
Qui i due fenomeni si toccano. Quando il modello inventa, pesca nella direzione del suo bias. Chiedigli il nome di un chirurgo di successo che non esiste, e la risposta plausibile arriva dal centro di massa dei suoi dati, non da un dado lanciato. Bias e allucinazione sono la stessa proprietà, in due momenti diversi: quando il dato manca, inventa; quando il dato è storto, fa la media storta.
L’AI è l’esperto da ombrellone, fatto di silicio. Non ha mai un “boh, non lo so”. Dove sa, ci prende. Dove mezzo sa, ripete quello che dicono tutti. Dove non sa, si inventa qualcosa che suona giusto, in linea con i suoi pregiudizi.
Non ti mente: non sa cosa sia mentire, sa solo essere plausibile. Resta da capire quanto in là si possa spingere, questa plausibilità. Se n’è parlato per mesi sotto ogni ombrellone: la chiamano AGI.