AI, dignità umana e il rischio di diventare “piattaforme ottimizzabili”
Lo ammetto subito, così evitiamo malintesi: sono agnostico. Ma non del tipo che chiude la porta e gira i tacchi. La teologia mi ha sempre affascinato – non per convertirmi, ma per nutrire la mia ricerca. Sono uno di quelli che legge Agostino d’Ippona – il filosofo e vescovo del IV secolo che ha plasmato il pensiero cristiano occidentale –, Pierre Teilhard de Chardin – il gesuita e paleontologo del Novecento che cercava di riconciliare evoluzione e fede –, o Karen Armstrong – ex suora anglicana diventata una delle più influenti storiche delle religioni contemporanee – con la stessa curiosità con cui legge un paper di fisica quantistica: cercando argomenti che mi portino a credere, o a non credere. Finora il verdetto è sospeso. Ma questa, come si dice, è un’altra storia.
Quello che conta oggi è che i documenti papali non rientrano solitamente nelle mie letture del lunedì mattina – e tuttavia stamattina mi sono ritrovato a leggere con attenzione crescente due commenti pubblicati su Il Sole 24 Ore sull’enciclica Magnifica Humanitas di Leone XIV. Il primo a firma di Stefano Lucchini e Oreste Pollicino, il secondo di Giuliano Noci, professore di Marketing al Politecnico di Milano e uno degli osservatori più lucidi del capitalismo digitale italiano.
Due voci molto diverse. Un documento papale e un’analisi laica. Eppure convergono sullo stesso punto con una sincronia che, da architetto di soluzioni AI, non posso ignorare.
Il Papa: l’uomo non è una piattaforma da ottimizzare
Leone XIV non parte dal “no” alla tecnologia. Anzi, riconosce esplicitamente che la tecnica è un fatto profondamente umano. Il suo vero colpo è altrove: sposta il dibattito dall’etica dell’uso alla costituzione del potere tecnologico.
L’AI – argomenta l’enciclica – non è uno strumento neutro nelle mani dell’uomo. È un’infrastruttura che orienta comportamenti, distribuisce opportunità, costruisce gerarchie. E la domanda decisiva non è “funziona?” ma “per chi funziona, chi ne sopporta i costi, chi può contestarne gli effetti?”
Il passaggio che mi ha colpito di più è quello sul transumanesimo. Quando la vulnerabilità viene trattata come un difetto da correggere, e il limite come un’imperfezione da rimuovere, la persona smette di essere un soggetto di dignità e diventa una piattaforma da ottimizzare. E quando la dignità viene sostituita dalla performance, i primi a pagare sono sempre i fragili, gli improduttivi, gli anziani, i poveri – chi non corrisponde ai criteri dominanti di efficienza.
Non è fantascienza. È già una traiettoria riconoscibile, sottile, spesso ben intenzionata.
Noci: la macchina non ci distrugge, ci toglie gli alibi
Giuliano Noci arriva da un angolo completamente diverso – laico, pragmatico, quasi brutale nella chiarezza – e in qualche modo è ancora più disturbing.
La sua tesi centrale: l’AI non sta distruggendo l’umanità. Sta distruggendo le sue illusioni.
Tre in particolare:
- che sapere significhi accumulare informazioni
- che lavorare significhi ripetere procedure cognitive ben confezionate
- che basti essere efficienti per essere indispensabili
Chiunque lavori nel knowledge work riconosce immediatamente il quadro. Per anni abbiamo costruito carriere su queste illusioni. Una macchina si è seduta alla nostra scrivania – senza ego, senza ferie, senza crisi esistenziali da LinkedIn – e ha iniziato a fare molte di queste cose meglio di noi.
La domanda non è più “cosa so fare?” È diventata “a cosa servo?”
Noci introduce poi una distinzione che trovo tecnicamente precisa e filosoficamente importante: l’AI è intelligenza senza destino. Può scrivere un testo impeccabile, ma non sapere perché quel testo debba esistere. Può formulare una diagnosi, ma non abitare la paura di chi la riceve. Può ottimizzare una filiera, ma non decidere quale idea di società quella filiera stia costruendo.
L’AI accelera. L’uomo interpreta. L’AI coordina. L’uomo risponde delle conseguenze.
E questo rimette al centro qualcosa che il capitalismo algoritmico considerava quasi un residuo ornamentale: il giudizio.
Tre campi di battaglia che conosco bene sul campo
Noci identifica tre fronti. Li riconosco tutti e tre nel lavoro quotidiano con le PMI.
Il lavoro. L’AI non colpisce il lavoro manuale come profetizzavano i sacerdoti della Silicon Valley. Colpisce il ceto cognitivo medio: analisti, consulenti, redattori, programmatori standardizzati. Chi usa l’AI come leva di pensiero prospera. Chi la usa come stampella della propria mediocrità viene travolto. Lo vedo ogni giorno nelle aziende che accompagno: la forbice si sta aprendo rapidamente.
La disuguaglianza. Se i benefici dell’automazione cognitiva vengono distribuiti, otteniamo più produttività e tempo restituito alla vita. Se il valore resta concentrato in chi controlla cloud, chip, dati e modelli, nascono – cito Noci – “petro-Stati digitali senza petrolio”: ricchissimi di rendite, poverissimi di coesione sociale. Il rischio non è la povertà materiale. È una massa di utenti passivi di sistemi che non comprendono più.
Il potere. Chi controlla modelli e interfacce non vende servizi. Organizza il modo in cui milioni di persone leggono il mondo. È una forma di sovranità più elegante di un golpe e più penetrante di molte leggi. E questa non è retorica: è la realtà di chi ogni giorno interagisce con un LLM per formarsi un’opinione, prendere una decisione, scrivere un documento.
Leone XIV non è solo: una compagnia laica e accademica di tutto rispetto
Vale la pena notare che il Papa si trova in buona compagnia su questi temi, e compagnia decisamente laica.
Shoshana Zuboff (Harvard Business School, The Age of Surveillance Capitalism) ha costruito l’intero framework del “capitalismo della sorveglianza” attorno all’idea che i sistemi digitali non siano strumenti passivi ma attori che estraggono, prevedono e modificano il comportamento umano. La sua critica al “potere comportamentale” risuona in modo sorprendente con la preoccupazione papale sulle infrastrutture che orientano possibilità.
Stuart Russell, uno dei padri dell’AI moderna (Human Compatible), argomenta che il vero rischio non è la fantascienza robotica, ma sistemi ottimizzati per obiettivi sbagliati, privi di valori umani genuinamente incorporati. Tecnicamente sofisticato, filosoficamente molto vicino all’antropocentrismo relazionale dell’enciclica.
Kate Crawford (Atlas of AI) ha mappato empiricamente i costi umani dell’infrastruttura AI: dalle miniere di litio agli algoritmi di welfare che escludono i più fragili. Il suo lavoro è la versione in cifre di ciò che Leone XIV dice in prosa: i sistemi “efficienti” possono produrre esclusione reale e misurabile.
Yuval Noah Harari (Homo Deus) arriva da tutt’altra prospettiva – laica, evoluzionista – ma converge sullo stesso allarme: il rischio non è che le macchine diventino coscienti, è che gli esseri umani vengano trattati come algoritmi, profilati, previsti, resi gestibili. La sua critica al dataismo come nuova religione secolare è, per un agnostico, lo specchio perfetto dell’allarme papale sul transumanesimo.
Timnit Gebru (DAIR Institute, ex Google) lavora sui danni concreti degli algoritmi sulle popolazioni vulnerabili: bias razziali, discriminazione nei sistemi di hiring, impatti sui lavoratori precari. Esattamente il territorio che Leone XIV chiama “cura dei più fragili” e Noci chiama “disuguaglianza cognitiva”.
La frase che porto a casa
Noci chiude con una riga che vale un corso di filosofia della tecnologia:
“L’intelligenza artificiale non ci sta chiedendo se siamo più intelligenti delle macchine. Ci sta chiedendo se siamo ancora abbastanza umani da meritare di guidarle.”
E Leone XIV risponde, da parte sua, con una domanda simmetrica:
“Stiamo costruendo strumenti che aiutano l’uomo a fiorire, o sistemi che lo abituano a pensarsi come qualcosa da superare?”
Due domande. Un’unica sfida.
Cosa ne faccio, concretamente
Io progetto soluzioni AI per aziende reali, spesso PMI con risorse limitate e pressioni enormi. E queste letture mi confermano alcune convinzioni operative che cerco di portare in ogni progetto:
- Il controllo umano non può essere un checkbox nel documento di governance. Deve essere capacità reale di capire, interrompere, correggere, contestare un sistema AI.
- L’AI come leva di giudizio, non sostituto del giudizio. Il valore non sta nell’automazione del compito medio. Sta nell’amplificazione del pensiero critico di chi sa usarla.
- Chiedersi sempre: per chi funziona questo sistema? Chi ne sopporta i costi nascosti? Chi può contestarne gli effetti?
Non serve essere credenti per trovare in queste domande una bussola utile. Serve solo non essere pigri.
Luca Borio | Argos New Dreams
#AI #EticaAI #GenAI #FuturoUmano #IntelligenzaArtificiale #Innovazione #DigitalTransformation
Rispondi