Chiudevo l’articolo precedente con un sospetto: se un attimo prima di ogni risposta qualcuno le reinfila la mia scheda, non è che le infila anche altro? Roba che non ho messo io.
Eh sì. E qui il complottista sotto l’ombrellone si illumina: “Lo sapevo. C’è la manina. Ti stanno manipolando”.
Fermalo un attimo. Il testo nascosto esiste davvero. Il film che ci costruisce sopra, (forse) no.
System prompt.
Nella sua testa c’è un burattinaio che lavora contro di te, personalmente, per rieducarti di nascosto. È una macchietta: la solita ombra dietro ogni cosa che non capisce. Il testo nascosto non è un complotto su di te. È molto più noioso. E, a saperlo leggere, molto più serio.
Oltre alla tua scheda, lo strumento che usi infila a ogni chiamata un secondo foglietto che non hai scritto tu: il system prompt. Sono le istruzioni del fornitore. Come parlarti, cosa dire e cosa no, che tono tenere, dove andarci piano. Non lo vedi mai, e orienta ogni singola risposta.
Torna al genio smemorato e all’assistente col bigliettino. Nel post scorso l’assistente gli ripassava la tua scheda. Ora scopri che gli sussurra anche altro: “sii cortese, su questo sorvola, comportati così”. E scopri per chi lavora. Non per te. Per chi lo paga.
Ecco la cosa che vale la pena sapere, e non è il lavaggio del cervello. Quanto l’AI ti sembra empatica, rigida, tecnica, amichevole non è solo una conseguenza del cervello dentro la macchina. È una sfumatura decisa dopo, da qualcuno, a tavolino. Lo stesso identico modello, con due foglietti diversi, diventa due caratteri opposti: uno che si scusa e ti coccola, uno che ti sfida e taglia corto. Quando dici “questa AI è educata, quell’altra è ruvida” non stai descrivendo un’anima. Stai leggendo ad alta voce un foglietto scritto da un fornitore che conosci pochissimo.
E quel foglietto cambia quando decide lui. Un giorno l’assistente sussurra una cosa, il giorno dopo un’altra. A te non arriva nessun avviso.
L’arma da portare a casa: tra te e il modello c’è sempre uno strato che non vedi e che fa qualcosa di molto sottile: decide il carattere di chi ti risponde, secondo i valori e la missione della corporate che ci sta dietro, non i tuoi.
E se quello strato del fornitore sta sempre in mezzo, allora tutto ciò che gli scrivi ci passa attraverso. E resta sul suo server.