TL;DR: La paura che l’AI superi l’uomo nasce da un’idea di superiorità che ci siamo assegnati da soli: l’intelligenza. Ma i dati suggeriscono che il rischio esistenziale preoccupa solo una minoranza dei ricercatori (3% in una survey UCL su oltre 4.000 di loro), mentre i problemi reali sono bias, usi malevoli e disinformazione. Se la macchina “mostra” intelligenza senza possederla, a noi resta la parte scomoda: imperfezione, paura e responsabilità.
Qualche giorno fa ho passato un pomeriggio in un laboratorio aziendale di etica dell’intelligenza artificiale, condotto da una formatrice con una solida formazione filosofica. Si è aperto con un sondaggio anonimo: “una parola che associ all’AI”. Sullo schermo sono comparse supporto, aiuto, futuro, velocità, evoluzione. Poi, in mezzo alle altre, superuomo e fantascienza. Io ho scritto compagno: dopo trent’anni passati fra modem a 56k, reti wireless e oggi agenti su Copilot Studio, è la parola che mi viene più naturale. Ma quel superuomo mi è rimasto addosso. Perché, se l’AI è un compagno, qualcuno nella stessa stanza la vede come un successore. Questo articolo è il mio tentativo di prendere sul serio quella paura, senza né alimentarla né liquidarla.
Di cosa parliamo quando diciamo “l’AI ci supererà”
Nella discussione pubblica si sovrappongono tre paure diverse, che conviene separare. La prima è il rischio esistenziale: un’AI così capace da sfuggire al controllo e mettere in pericolo l’umanità. La seconda è la sostituzione: la macchina che fa il mio lavoro meglio e più in fretta. La terza, meno citata ma più profonda, è la perdita di identità: se l’intelligenza era ciò che ci definiva, cosa resta quando qualcosa di non umano la esibisce?
Un paio di definizioni per non confonderci. L’AGI (Artificial General Intelligence) è un’ipotetica AI capace di svolgere qualsiasi compito cognitivo umano; il termine HLMI (High-Level Machine Intelligence) è quello usato nelle survey accademiche per indicarla. Il p(doom) è la probabilità soggettiva che l’AI porti a esiti catastrofici per la specie: un numero di moda, che però dipende moltissimo da come si pone la domanda, come vedremo. Il superuomo della word cloud, infine, non è un uomo potenziato: la formatrice lo ha riportato a Nietzsche, per cui l’Übermensch è ciò che viene dopo l’uomo e al suo posto. «Che cos’è la scimmia per l’uomo? Un riso o una dolorosa vergogna. E questo appunto deve essere l’uomo per il superuomo» [VERIFY: formulazione esatta della citazione dal Prologo di Così parlò Zarathustra – fonte: Nietzsche, F. (1883), ed. Adelphi, trad. Colli-Montinari]. È questa seconda lettura che fa paura: non una macchina più brava, ma una che ci guarda come noi guardiamo la scimmia.
Partiamo dai numeri, prima delle emozioni.
Perché abbiamo paura che l’AI superi l’essere umano?
Abbiamo paura che l’AI ci superi perché per secoli abbiamo fondato la nostra superiorità su una sola qualità, l’intelligenza, e per la prima volta qualcosa di non vivente la riproduce in modo convincente. Non è una paura nuova: è la quarta volta che la scienza ci toglie una centralità, e le prime tre le abbiamo superate.
Luciano Floridi la chiama quarta rivoluzione: Copernico ci ha tolto il centro dell’universo, Darwin il centro del regno animale, Freud il centro della nostra stessa mente; Turing ci sta togliendo il monopolio dell’elaborazione dell’informazione. Ogni volta la reazione è stata la stessa: prima la negazione, poi la ridefinizione di cosa ci rende speciali.
Il dato interessante è che la paura non è distribuita in modo uniforme. Secondo Pew Research, nell’aprile 2025 il 56% degli esperti di AI intervistati si aspettava un impatto positivo sugli Stati Uniti nei prossimi vent’anni, contro il 17% del pubblico generale; il 47% degli esperti si diceva “più entusiasta che preoccupato”, contro l’11% dei cittadini. Nel sondaggio Pew del 22-28 giugno 2026 (3.488 adulti) il 52% degli americani si dichiara più preoccupato che entusiasta, solo il 9% il contrario, e il 71% prevede che l’AI ridurrà i posti di lavoro. Nel 2021 i “più preoccupati” erano il 37%.
Nella mia esperienza il divario si spiega così: chi lavora con questi sistemi tutti i giorni ne vede i limiti, chi li incontra solo nei titoli ne vede le promesse. Anche nel laboratorio la formatrice ha notato che, rispetto a un’edizione di pochi mesi prima, le parole di paura erano diminuite. La familiarità riduce il timore; non lo elimina, e forse è bene così.
Cosa dicono davvero i ricercatori sul rischio esistenziale dell’AI?
I ricercatori di AI non sono d’accordo fra loro, e la risposta cambia radicalmente a seconda di come viene posta la domanda. Se si chiede una probabilità numerica di estinzione, la mediana si attesta intorno al 10%; se si chiede quale sia la preoccupazione principale, il rischio esistenziale lo indica solo il 3%. Lo stesso mondo, due mappe diverse.
| Survey | Campione | Domanda posta | Risultato chiave |
|---|---|---|---|
| ESPAI 2024 (AI Impacts, Grace et al.), dati raccolti dic. 2024, pubbl. sett. 2026 | 1.580 ricercatori con pubblicazioni in venue top | Probabilità che l’AI avanzata causi estinzione o perdita di controllo permanente | Media 18%, mediana 10%; il 51% assegna almeno il 10%; il 72% chiede più ricerca sulla sicurezza |
| UCL, O’Donovan, Gurakan, Karanam, Wu, Stilgoe, arXiv 2603.06223, 6 mar 2026 | oltre 4.000 ricercatori AI | Domanda aperta: “qual è la cosa che ti preoccupa di più?” | Solo il 3% indica il rischio esistenziale; in testa uso malevolo (11%), misuse (9,9%), disinformazione (8,8%), lavoro (7,1%), bias (4,5%), opacità (3,8%) |
La stessa survey ESPAI anticipa inoltre al 2042 l’anno in cui c’è il 50% di probabilità di raggiungere l’HLMI: nel 2016 la stima era il 2061, nel 2023 il 2047. La macchina, insomma, viene percepita come più vicina a ogni rilevazione.
Il gruppo UCL critica apertamente il framing delle survey a probabilità forzata: chiedere “quanto è probabile l’estinzione?” presuppone che l’estinzione sia l’oggetto giusto su cui interrogarsi.
Qui torna in mente una pagina di Borges richiamata dalla formatrice: la mappa dell’impero grande quanto l’impero. I dati sulla paura non sono la paura; sono una mappa, e ogni mappa ha una scala scelta da qualcuno. Il mio consiglio da praticante: quando leggete un p(doom), chiedete sempre chi ha risposto e a quale domanda.
L’AI è davvero intelligente o simula l’intelligenza?
Secondo la definizione adottata dal Parlamento europeo, l’intelligenza artificiale è «l’abilità di una macchina di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività». Il verbo decisivo è mostrare: la definizione istituzionale non dice che la macchina possiede quelle capacità, ma che le esibisce. Quindi la domanda “è intelligente?” è, a rigore, mal posta.
La formatrice ha chiamato questo fenomeno “schiacciamento sull’effetto”: giudichiamo l’intelligenza dall’output, non dal processo. Luciano Floridi va più a fondo nel paper AI as Agency Without Intelligence (2023): i grandi modelli linguistici «non pensano, non ragionano e non comprendono», e rappresentano uno scollamento storico tra agency (la capacità di agire e produrre effetti) e intelligenza (la capacità di comprendere). Per la prima volta, scrive, abbiamo agenti efficaci senza alcuna intelligenza alle spalle. La sua conclusione pratica mi trova d’accordo: «il miglior autore è un umano che usa un LLM con competenza».
Un dettaglio storico spiega molto. Il termine artificial intelligence fu scelto nel 1955 da John McCarthy e colleghi nella proposta per il seminario di Dartmouth del 1956, ed è noto che McCarthy preferì quel nome anche per prendere le distanze dalla cibernetica di Wiener [VERIFY: motivazione della scelta terminologica di McCarthy rispetto alla cibernetica – fonte: McCarthy, J., Minsky, M., Rochester, N., Shannon, C. (1955), A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, e interviste successive di McCarthy]. Come ha osservato la formatrice, “scomodare l’intelligenza”, la qualità che consideravamo appannaggio esclusivo dell’umano, ci ha turbato tutti. Con un nome diverso, oggi forse discuteremmo di “elaborazione statistica del linguaggio” e nessuno parlerebbe di superuomo.
Perché spostiamo sempre più in là il confine dell’intelligenza?
Perché l’intelligenza è il criterio con cui definiamo noi stessi, e quindi ogni volta che una macchina lo soddisfa lo ridefiniamo. Larry Tesler lo formulò intorno al 1970 in quello che è passato alla storia come Tesler’s Theorem: «Intelligence is whatever machines haven’t done yet», l’intelligenza è qualunque cosa le macchine non abbiano ancora fatto.
Tesler stesso, sul suo sito, spiegava il meccanismo: «Molte persone definiscono l’umanità in parte attraverso la nostra intelligenza presunta unica. Qualunque cosa una macchina, o un animale, riesca a fare deve (così ragionano) essere qualcosa di diverso dall’intelligenza». È il fenomeno che Pamela McCorduck ha chiamato AI effect: appena un problema è risolto, smette di essere “vera” AI. Gli scacchi erano la prova dell’intelletto finché Deep Blue non batté Kasparov nel 1997; poi divennero “solo calcolo”.
Ecco la tabella dei pali che abbiamo spostato, almeno a memoria mia:
| Il criterio di superiorità era… | Finché… | Poi è diventato… |
|---|---|---|
| Fare calcoli complessi | Le calcolatrici degli anni ’70 | “Solo aritmetica” |
| Giocare a scacchi | Deep Blue, 1997 | “Solo forza bruta” |
| Riconoscere volti e voci | Le reti neurali degli anni 2010 | “Solo pattern matching” |
| Scrivere testi coerenti | I grandi modelli linguistici, 2022 | “Solo statistica” |
| Ragionare, pianificare, creare | Oggi | ? |
Ogni riga della terza colonna è, in parte, vera. E ogni riga è anche una ritirata: non stiamo misurando la macchina, stiamo difendendo un confine. Da sistemista riconosco la dinamica: negli anni Novanta “il vero lavoro” era configurare i router a mano, poi scrivere gli script, poi progettare l’architettura. Il valore si sposta; la dignità di chi lo produce non dovrebbe.
I valori dell’AI sono i valori di chi?
Quando diciamo che un’AI deve essere “allineata ai valori umani” stiamo nascondendo la domanda più difficile: quali umani, quale cultura, quale idea di giusto. L’allineamento, come ha detto la formatrice, non è solo un problema di ingegneria ma un dilemma di filosofia politica. E i modelli che usiamo oggi nascono quasi tutti dentro una cultura specifica, con i suoi presupposti.
Il caso che abbiamo analizzato in gruppo lo mostra bene. Reuters raccontò nel 2018 che Amazon aveva sviluppato dal 2014 uno strumento sperimentale per selezionare i curriculum, addestrato su dieci anni di candidature ricevute dall’azienda; poiché quelle candidature erano in maggioranza maschili, il sistema aveva imparato a penalizzare i CV contenenti la parola “women’s” e a declassare le laureate di due college femminili. Il progetto fu abbandonato, e i selezionatori non si erano mai affidati solo ai suoi punteggi.
Durante il laboratorio sono intervenuto su questo punto: l’AI è un amplificatore. Non inventa il pregiudizio, lo prende dai dati e lo restituisce con la scala di un sistema automatico. E il bias finale è la somma di due componenti: quello del modello e quello dell’umano che lo controlla. Questo è il motivo per cui non mi convince nessuna delle due narrazioni estreme: né “la macchina è neutrale”, né “la macchina è il problema”. Il problema siamo noi, in scala.
La restituzione dei gruppi ha aggiunto un pezzo: “equità” ha almeno tre significati incompatibili (trattamento uguale, risultato uguale, merito), e ottimizzare per uno peggiora gli altri due. L’effetto collaterale della standardizzazione è l’appiattimento verso la media. La mia opinione: una macchina che decide “al posto nostro” non elimina il giudizio, lo nasconde. Lo avevo già scritto a proposito dei limiti reali dell’autonomia AI fra bias, allucinazioni e responsabilità, e il laboratorio me lo ha confermato.
Cosa vuol dire essere umani se una macchina ci somiglia?
Essere umani, quando una macchina riproduce le nostre prestazioni cognitive, non può più significare “essere l’unico ente che pensa”. Significa essere l’unico ente che risponde di ciò che fa, che ha paura, che si stanca, che sbaglia e che può decidere di cambiare idea. La superiorità non è la categoria giusta; la responsabilità sì.
Un collega, durante il laboratorio, ha detto una cosa semplice e precisa: la macchina non ha la paura, non ha il senso del pericolo. Sono elementi primordiali, pre-razionali, e sono proprio quelli che non compaiono nella definizione del Parlamento europeo. Il ragionamento, l’apprendimento, la pianificazione e la creatività sono simulabili. La paura di morire, la vergogna, la fatica: queste non hanno output misurabile e quindi non sono nemmeno nel perimetro del confronto.
La formatrice ha chiuso il pomeriggio con una frase che mi porto dietro: forse non possiamo più definirci “esseri pensanti” o “esseri intelligenti” in esclusiva, ma esseri imperfetti non ce lo toglie nessuno. E l’imperfezione, ha aggiunto, può diventare un vanto: è la capacità di compromesso, di resilienza, di convivere con il limite. La macchina non è mai stanca, e questo, lungi dall’essere un vantaggio per noi, è il meccanismo che produce burnout quando proviamo a tenerle il passo. Il rischio concreto non è che l’AI ci superi; è che ci convinciamo di dover gareggiare sul suo terreno.
C’è poi un livello che riguarda il controllo. Nel linguaggio della governance si distingue fra human in the loop (l’umano decide ogni passaggio), on the loop (supervisiona e può intervenire), out of the loop (la macchina agisce da sola) e beyond the loop (nessuno comprende più il sistema). L’esperimento mentale delle graffette di Nick Bostrom, un’AI che trasforma il pianeta in graffette perché nessuno le ha detto di fermarsi [formulazione originale dell’esperimento mentale – fonte: Bostrom, N. (2003), Ethical Issues in Advanced Artificial Intelligence], descrive il quarto scenario. L’AI Act europeo, approvato dal Parlamento il 13 marzo 2024 con 523 voti favorevoli, 46 contrari e 49 astensioni, affronta i primi tre con una scala di rischio da inaccettabile a minimo, vietando fra l’altro il social scoring. È una risposta normativa a una domanda che resta filosofica: Platone, ricordava la formatrice, si chiedeva già chi sorveglia i sorveglianti. Ne avevo discusso in Etica e confini: dove tracciare la linea? e in Dal copilota al pilota automatico: siamo pronti a cedere il comando?.
Implicazioni pratiche per le PMI italiane
Per una PMI italiana la paura del “superamento” è, nella mia esperienza, la peggiore consigliera possibile: porta o alla paralisi (“aspettiamo che si calmi”) o alla corsa cieca (“sostituiamo tutto”). Le due survey citate indicano una terza strada, meno spettacolare.
- Il rischio concreto è il bias, non l’apocalisse. Il 4,5% dei ricercatori UCL mette il bias in cima alle preoccupazioni, il 3% il rischio esistenziale: ma il bias è l’unico dei due che può colpire la vostra selezione del personale domattina. Se usate un sistema automatico per filtrare CV, candidature o clienti, qualcuno in azienda deve sapere su quali dati storici è stato addestrato. Il caso Amazon dice che perfino dieci anni di dati “veri” producono un filtro ingiusto.
- Tenete l’umano nel posto giusto del loop. Non ovunque, ma nelle decisioni che riguardano persone (assunzioni, credito, valutazioni) l’umano deve essere in o almeno on the loop, con la possibilità reale di contraddire la macchina senza essere penalizzato per la lentezza.
- Misurate il ritmo, non solo l’output. Se i KPI si adeguano al ritmo della macchina, le persone bruciano; un burnout costa più di una licenza.
- Diffidate dei p(doom) e dei “cambia tutto”. Ho scritto in una bozza recente, che spero di pubblicare presto, che la paura dell’AI è anche una leva commerciale per chi la vende [verificare URL: articolo “La paura dell’AI può diventare un vantaggio per chi la vende”, in bozza]. Lo ha detto anche la formatrice: quando un CEO annuncia l’apocalisse, chiedetevi che cosa sta vendendo. L’hype e il terrore sono due facce dello stesso prodotto.
- Investite in alfabetizzazione, non solo in licenze. L’art. 4 del Regolamento (UE) 2024/1689 chiede ai deployer di garantire un livello sufficiente di alfabetizzazione AI al personale, ed è applicabile dal 2 febbraio 2025. Un pomeriggio come quello che ho raccontato vale più di dieci slide di vendor: insegna a porre le domande, non a consumare risposte.
In una riga: l’AI che “mostra” intelligenza è uno strumento straordinario per chi la possiede davvero e sa cosa chiederle. Non minaccia chi lavora bene; minaccia chi lavorava solo in fretta.
Domande frequenti
L’intelligenza artificiale è più intelligente dell’uomo?
No, nel senso proprio del termine. I grandi modelli linguistici producono output che somigliano a quelli di un’intelligenza, ma secondo Luciano Floridi «non pensano, non ragionano e non comprendono»: sono agenti efficaci senza intelligenza. Superano l’uomo in velocità e ampiezza su compiti specifici, non nella comprensione del mondo né nella responsabilità delle conseguenze.
Quanti esperti pensano che l’AI possa distruggere l’umanità?
Dipende da come si chiede. Nella survey ESPAI 2024 su 1.580 ricercatori la probabilità mediana attribuita a estinzione o perdita di controllo è del 10%, con media al 18%. Ma quando il gruppo UCL ha chiesto a oltre 4.000 ricercatori quale fosse la loro preoccupazione principale, solo il 3% ha indicato il rischio esistenziale; prevalgono uso malevolo, disinformazione e bias.
Cos’è l’effetto AI o teorema di Tesler?
È l’osservazione, attribuita a Larry Tesler intorno al 1970, per cui «l’intelligenza è qualunque cosa le macchine non abbiano ancora fatto». Ogni volta che un sistema risolve un compito considerato intelligente (scacchi, traduzione, scrittura) ridefiniamo quel compito come “solo calcolo” e spostiamo il confine dell’intelligenza vera un po’ più in là, per proteggere ciò che ci rende speciali.
Cosa resta di specificamente umano con l’intelligenza artificiale?
Resta ciò che non ha un output misurabile e quindi non entra nel confronto: la paura e il senso del pericolo, la stanchezza, la vergogna, la capacità di compromesso e la responsabilità per le conseguenze. Una formatrice di etica dell’AI lo ha riassunto così: “esseri pensanti” forse non possiamo più dirlo in esclusiva, ma “esseri imperfetti non ce lo toglie nessuno”.
Perché l’AI ha pregiudizi se è una macchina?
Perché impara dai dati storici prodotti da esseri umani, e quei dati contengono le nostre scelte passate. Il sistema di selezione sperimentato da Amazon dal 2014, addestrato su dieci anni di curriculum in prevalenza maschili, aveva imparato a penalizzare la parola “women’s” ed è stato abbandonato. L’AI non inventa il pregiudizio: lo amplifica e lo rende sistematico.
Conclusioni
Sono uscito dal laboratorio con una convinzione più netta di quella con cui ero entrato: la domanda “l’AI ci supererà?” è una domanda mal posta, perché presuppone che esista una classifica e che l’intelligenza ne sia il criterio. Quella classifica l’abbiamo scritta noi, e la stiamo riscrivendo a ogni generazione di modelli, come Tesler aveva previsto cinquant’anni fa. I dati suggeriscono che chi costruisce questi sistemi teme molto più i nostri pregiudizi amplificati che una ribellione delle macchine, e nella mia esperienza ha ragione.
Cosa resta di umano, allora? Resta la parte che non abbiamo mai messo nelle definizioni perché non ci faceva onore: la paura, la fatica, l’errore, il compromesso. E resta la responsabilità, che nessuna definizione istituzionale attribuisce alla macchina. Io continuo a chiamare l’AI compagno. Ma un compagno che non ha paura di niente va tenuto d’occhio, non seguito.
Riferimenti (APA)
- Grace, K. et al. (2026, settembre). Advanced AI according to 1,580 researchers: uncertain, unsafe, and sooner than we thought (ESPAI 2024, dati raccolti dicembre 2024). AI Impacts. — Livello A
- O’Donovan, C., Gurakan, D., Karanam, S., Wu, X., & Stilgoe, J. (2026, 6 marzo). What are AI researchers worried about? arXiv:2603.06223. University College London. — Livello A
- Floridi, L. (2023, 10 marzo). AI as Agency Without Intelligence: On ChatGPT, Large Language Models, and Other Generative Models. Philosophy & Technology, 36, 15. https://doi.org/10.1007/s13347-023-00621-y — Livello A
- Floridi, L. (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford University Press. Ed. it. La quarta rivoluzione, Raffaello Cortina, 2017. — Livello A
- Nietzsche, F. (1883). Così parlò Zarathustra, Prologo. — Livello A
- Bostrom, N. (2003). Ethical Issues in Advanced Artificial Intelligence. — Livello A
- McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. — Livello A
- Tesler, L. (s.d.). Adages & Coinages. nomodes.com. — Livello B
- Pew Research Center (2025, 3 aprile). How the U.S. Public and AI Experts View Artificial Intelligence. — Livello B
- Pew Research Center (2026, agosto). Sondaggio 22-28 giugno 2026 (n=3.488) sugli atteggiamenti verso l’AI. — Livello B
- Dastin, J. (2018, 10 ottobre). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. — Livello B
- Parlamento europeo (2023, 28 giugno, agg.). Che cos’è l’intelligenza artificiale e come viene usata? — Livello B
- Parlamento europeo (2024, 13 marzo). Comunicato stampa: approvazione del Regolamento sull’intelligenza artificiale. — Livello B
- Laboratorio aziendale di etica dell’intelligenza artificiale, ottobre 2026 (trascrizione, partecipazione diretta; nomi e organizzazioni anonimizzati). — Livello C
- Fonti verificate al 5 ottobre 2026.
Link interni Argos
- Bias, allucinazioni e responsabilità: i veri limiti dell’autonomia AI
- Etica e confini: dove tracciare la linea?
- Dal copilota al pilota automatico: siamo pronti a cedere il comando?
- L’Adolescenza Tecnologica dell’Umanità: Quando l’Intelligenza Smette di Essere Scarsa
- “La paura dell’AI può diventare un vantaggio per chi la vende” — [verificare URL: bozza non ancora pubblicata]
Trasparenza sull’uso dell’intelligenza artificiale
Questo articolo è stato redatto con l’assistenza di un sistema di intelligenza artificiale generativa (Claude Sonnet 5, tramite l’agente Argos Newsroom su Microsoft Copilot Studio) per la ricerca delle fonti, la strutturazione e la prima stesura. Il testo è stato successivamente verificato, corretto e approvato da un autore umano, Luca Borio, che ne detiene la responsabilità editoriale ai sensi dell’art. 50 del Regolamento (UE) 2024/1689. Dati, citazioni e link sono stati controllati sulle fonti originali indicate. Eventuali errori residui sono miei.
⚠️ Nessuna consulenza professionale
Questo contenuto ha finalità divulgativa e informativa. Non costituisce consulenza legale, fiscale, sanitaria, finanziaria o giuslavoristica, né sostituisce il parere di un professionista abilitato. Le norme citate sono riportate nella versione vigente alla data di pubblicazione e possono essere modificate: verifica sempre il testo aggiornato sulle fonti ufficiali (per il diritto italiano, Normattiva — https://www.normattiva.it; per l’AI Act, il portale ufficiale UE — https://artificialintelligence-act.ec.europa.eu/ ). Per la valutazione di un caso concreto rivolgiti a un professionista.
Lascia un commento