«L’abbiamo provato per un mese e andava benissimo. Poi l’abbiamo lasciato andare da solo.»
A dirlo è Aldo, che l’azienda l’ha costruita lui, la borsa frigo posata contro la gamba: i panini al bagno costano il triplo. A rispondere è Rocco, l’esperto dell’ombrellone accanto, che ha la soluzione prima che la frase sia finita. «Perfetto. Però mettici uno che controlla.»
Uno che controlla c’era. Avevano deciso di mettere l’AI sulle offerte, e il prompt l’aveva scritto il responsabile dell’ufficio tecnico: uno che le offerte le fa da vent’anni e i segreti del mestiere li conosce tutti. Si è appassionato presto all’AI, e nel mega prompt ha visto il modo di rendere riproducibile tutto quello che rifaceva da capo a ogni offerta. Provato per settimane. 95 risposte su cento perfette. Le altre 5 le vedeva, e le rifaceva.
Poi il prompt è andato a tutto l’ufficio tecnico, e le offerte hanno cominciato a uscire da sole, centinaia al mese. Non più un solo esperto capace di farle: tutti, anche chi sta imparando, tanto è scritto tutto nel prompt. Solo che chi sta imparando le offerte le sa leggere, ma i segreti non li conosce. Non ancora.
È la differenza fra rileggere una traduzione e saper tradurre. Il testo scorre, suona giusto, si firma. Poi una frase su venti dice un’altra cosa: non sgrammaticata, non strana. Perfetta, e al posto sbagliato. Il cinque per cento sbagliato non ha il campanello: a chi i segreti non li conosce ancora, un’offerta giusta e una sbagliata suonano uguali.
E il campanello non lo suona nemmeno la macchina: non c’è nessuno, lì dentro, che sia sicuro o insicuro. C’è un modello che dà la risposta più probabile, anche quando la più probabile è quella sbagliata. Per accorgersene bisognerebbe rifare il lavoro da capo. Allora tanto vale: firmi e procedi.
Le prime venti volte le rileggevano tutte. Alla ventunesima avevano imparato che era sempre giusto, e non avevano modo di imparare altro: niente gli ha mai detto il contrario. Il controllo diventa un timbro, e da lì passa sia il 95% buono, sia il 5% fallato.
Quello che hanno distribuito è il prompt. Quello che è rimasto fuori è chi sente il campanello senza che suoni.
Se pensi che quel 5% sia gestibile, fatti una domanda sola: stanotte, senza l’esperto, chi lo vede? Se la risposta è «qualcuno se ne accorgerà», non hai una misura. Hai una speranza.
Un processo non ha bisogno di risposte buone. Ha bisogno di risposte che puoi non guardare.
