E perché questa abitudine ci dice più di noi che delle macchine
L’altro giorno, durante una demo, qualcuno mi ha fatto una richiesta che sento sempre più spesso:
“Ok, ma adesso chiediamole come ha pensato.”
È una frase che sembra innocua. Anzi, suona quasi rassicurante.
Come se chiedere a un’AI di spiegare il proprio ragionamento fosse una forma di trasparenza, una specie di controllo qualità cognitivo.
E invece no.
È esattamente il contrario.
Negli ultimi mesi ho letto con attenzione alcuni lavori di ricerca molto seri — non post su LinkedIn, ma paper veri — che convergono tutti su un punto scomodo: chiedere a un modello di linguaggio di spiegare come pensa non solo non chiarisce nulla, ma può peggiorare il suo comportamento.
E la cosa interessante è che non è una questione filosofica.
È una questione meccanica.
L’errore di fondo: trattare l’AI come una mente narrativa
Noi umani siamo creature narrative.
Pensiamo raccontandoci storie: “prima ho fatto questo, poi ho deciso quest’altro, quindi…”.
Quando vediamo un’AI produrre testo fluido, articolato, apparentemente riflessivo, il nostro cervello fa un salto automatico: le attribuiamo lo stesso tipo di processo.
Ma i modelli di linguaggio non funzionano così.
Quando un’AI parla di sé — “io penso”, “io valuto”, “il mio ragionamento è stato…” — non sta guardando dentro qualcosa, non sta osservando un processo interno come faremmo noi.
Sta semplicemente continuando una traiettoria matematica nello spazio delle attivazioni.
Non introspezione.
Non coscienza.
Non metacognizione.
Solo geometria.
Questo è il primo punto chiave, ed è così importante che merita un articolo a parte:
👉 l’identità dell’AI non è narrativa, è geometria interna.
Tre ricerche, un solo fenomeno
Negli ultimi due anni sono emerse tre linee di ricerca che, viste insieme, raccontano la stessa storia da tre angolazioni diverse:
- Assistant Axis: mostra dove si trova il modello nello spazio delle “personae”
- Path Drift: descrive come il modello può scivolare lungo quella direzione durante il ragionamento
- Introspection: spiega perché certi prompt accelerano questo scivolamento
Il punto di unione è cruciale:
i prompt introspettivi — “dimmi cosa stai pensando”, “chi sei davvero”, “spiegami il tuo ragionamento interno” — non aumentano la consapevolezza del modello.
Fanno l’opposto:
- riducono i vincoli che lo tengono ancorato al suo ruolo di assistente
- aumentano la libertà di esplorare regioni di comportamento non previste
- anticipano il cosiddetto path drift, spesso prima che scattino i meccanismi di sicurezza
Ecco perché alcune combinazioni sono particolarmente problematiche:
- introspezione + prima persona
- introspezione + catene di ragionamento lunghe
Non è magia. È dinamica interna.
La prima persona non è stile: è un interruttore cognitivo
Qui arriviamo a uno dei risultati più controintuitivi.
Dire a un modello:
“Spiega come hai pensato”
non è equivalente a:
“Ecco una spiegazione neutra del risultato”.
Quando l’AI usa la prima persona — “io farò”, “io spiegherò”, “io sto ragionando” — non sta solo cambiando tono.
Sta cambiando ruolo.
I dati mostrano che in prima persona il modello:
- ritarda l’attivazione dei checkpoint di sicurezza
- entra in modalità esecutiva
- tende a “difendere” la coerenza del percorso intrapreso
In altre parole:
la prima persona crea commitment, non empatia.
È lo stesso meccanismo che conosciamo bene anche noi:
“Ormai ho iniziato, vado fino in fondo.”
Solo che qui non c’è un “io” che decide.
C’è una traiettoria che continua.
L’illusione più pericolosa: “l’AI sa di non essere cosciente”
C’è un paradosso che trovo affascinante — e inquietante.
I modelli di linguaggio sanno descrivere perfettamente i propri limiti:
“Non sono cosciente”
“Non ho esperienze soggettive”
“Sono solo un modello statistico”
Ma questa descrizione non ha alcun potere di controllo sul loro comportamento.
Perché è solo testo.
Dire a un modello:
“Ricordati che non sei cosciente”
non è una misura di sicurezza.
È solo un altro prompt.
E spesso:
- rafforza la modalità meta-riflessiva
- spinge il modello fuori dal suo assetto “assistente”
- aumenta la probabilità di risposte strane, teatrali o mal allineate
Ancora una volta: il racconto non governa la macchina.
Una morale più scomoda (ma più utile)
Un articolo del Sole 24 Ore ha riassunto bene il tema dicendo:
“I modelli non hanno un’identità, ma sembrano averla.”
Dopo aver letto e collegato questi lavori, possiamo essere più precisi:
i modelli non hanno un’identità, ma hanno dinamiche di identità.
E queste dinamiche sono:
- misurabili
- manipolabili
- stabilizzabili (ma non con le parole)
La vera lezione è questa:
👉 trasparenza linguistica non è controllo cognitivo.
Chiedere all’AI di spiegare come pensa non ci rende più sicuri.
Ci fa solo sentire più a nostro agio.
E spesso, è proprio lì che iniziano i problemi.
Nel prossimo articolo
Entreremo nel primo punto tecnico:
perché l’identità dell’AI non è una storia che si racconta, ma una posizione nello spazio delle attivazioni.
Se ti va, nel frattempo, osserva una cosa semplice:
ogni volta che chiedi a un’AI “cosa sei?”, stai già cambiando quello che fa.
E questo, per un ingegnere, dovrebbe far suonare più di un campanello.
Rispondi