Anthropic, il Pentagono e il dovere morale di dire no: riflessioni da chi ha già pagato il prezzo della coerenza
Il confronto tra Anthropic e il Pentagono sulla rimozione delle restrizioni etiche ai modelli AI rappresenta uno spartiacque nel dibattito sulla responsabilità tecnologica. Mentre il Dipartimento della Difesa USA richiede accesso illimitato ai sistemi Claude per applicazioni militari letali e sorveglianza di massa, l’azienda di Dario Amodei resiste, rivendicando il diritto di mantenere salvaguardie contro l’automazione della violenza. Questo articolo analizza le basi scientifiche del Constitutional AI che rendono tecnicamente pericolosa tale rimozione, esamina la posizione giuridica sui sistemi d’arma autonomi letali (LAWS) secondo il diritto internazionale umanitario, e confronta l’approccio di Anthropic con il “pivot militare” compiuto da OpenAI, Google e Meta. La tesi sostenuta è che il rifiuto non sia solo legittimo, ma doveroso: le aziende tecnologiche hanno la responsabilità morale di negare l’accesso a tecnologie dual-use quando gli impieghi richiesti violano principi etici fondamentali, indipendentemente dalla pressione governativa o dai costi economici. Una riflessione personale chiude l’articolo, ricordando che questa scelta non è teorica, ma concreta, costosa e necessaria.
1. Il prezzo della coerenza
Era il 2007. Avevo appena ricevuto una richiesta che, sulla carta, sembrava ordinaria: implementare un sistema di videosorveglianza intelligente per un comune del Nord Italia. Niente di strano, lavoro quotidiano per chi, come me, veniva dal mondo delle telecomunicazioni e delle infrastrutture digitali. Il problema non era tecnico. Era quello che mi chiesero di farci.
Il sistema doveva tracciare sistematicamente i movimenti di specifiche categorie di persone in aree pubbliche, utilizzando riconoscimento facciale e profilazione automatica. Non per sicurezza pubblica in senso classico, ma per controllo sociale preventivo. Mi ricordo ancora la frase del responsabile tecnico dell’ente: “È legale, quindi è giusto farlo.”
Non lo era. O meglio: forse lo era dal punto di vista formale, ma non lo era dal punto di vista della dignità delle persone coinvolte, della proporzionalità dell’intervento, del rispetto della privacy. Dissi no. Persi quel contratto e altri due che sarebbero dovuti seguire. Pagai un prezzo economico reale per una scelta di principio.
Quasi vent’anni dopo, mi trovo a leggere la stessa dinamica, amplificata su scala globale: il segretario alla Difesa degli Stati Uniti, Pete Hegseth, che chiede ad Anthropic di rendere disponibili i suoi sistemi di intelligenza artificiale per qualsiasi uso militare entro venerdì prossimo, minacciando di annullarle i contratti nel caso in cui non si adegui alla richiesta.
La stessa logica. La stessa pressione. La stessa, fondamentale, domanda: quando la tecnologia che costruiamo può essere usata per fare del male, abbiamo il diritto—o il dovere—di rifiutarci?
2. Background e Stato dell’Arte: Il punto di non ritorno dell’AI militare
La questione dei sistemi d’arma autonomi non è nuova, ma l’arrivo dei Large Language Models (LLM) ne ha cambiato radicalmente la scala e l’urgenza.
2.1 L’evoluzione del dibattito sui LAWS
La questione delle armi letali autonome (LAWS – Lethal Autonomous Weapon Systems) ha progressivamente coinvolto aspetti filosofici, etici, tecnici e giuridici, con particolare attenzione ai principi di distinzione, proporzionalità e responsabilità nel diritto internazionale umanitario. L’autonomia decisionale di tali sistemi impone di verificarne non solo la liceità intrinseca, ma anche la capacità di rispettare i principi fondamentali del diritto dei conflitti armati, con particolare attenzione alla progettazione dei sistemi e all’interazione uomo-macchina.
Il problema non è teorico. Secondo il Segretario Generale delle Nazioni Unite, António Guterres, “le macchine che possiedono la capacità e la discrezionalità di uccidere senza un coinvolgimento umano sono politicamente inaccettabili, moralmente ripugnanti, e dovrebbero essere proibite dalle leggi internazionali”.
2.2 Il dilemma del dual-use nella ricerca
Il problema del Dual Use è generato in tutti i contesti di ricerca dalla intrinseca potenzialità di determinate tecnologie di causare pericoli cui si aggiunga l’intenzione deliberata di farlo. I dilemmi dual-use possono essere intesi sia come problemi etici (“Cosa dovrebbe fare il ricercatore, secondo la morale?”), sia come problemi giuridici (“Cosa dovrebbe fare il ricercatore, secondo il diritto?”), e richiedono di bilanciare il principio della libertà accademica con quello della sicurezza pubblica.
La differenza con i casi storici (fisica nucleare, biotecnologie) è che i modelli AI sono dual-use by design: lo stesso sistema che aiuta un medico a diagnosticare può essere usato per identificare bersagli umani.
2.3 Il caso catalizzatore: l’operazione Maduro
Le tensioni sono aumentate dopo il presunto utilizzo del modello Claude nell’operazione militare che ha portato – la notte tra il 2 e il 3 gennaio del 2026 – alla cattura del presidente della Repubblica Boliviariana del Venezuela Nicolas Maduro. L’uso di Claude, attraverso la partnership di Anthropic con Palantir, ha reso visibile quello che era un rischio astratto: i modelli AI erano già sul campo, già operativi, già coinvolti in operazioni cinetiche.
3. Analisi Scientifica: Perché rimuovere le protezioni è tecnicamente pericoloso
3.1 Constitutional AI: l’architettura della sicurezza di Anthropic
Constitutional AI risponde ai limiti del feedback umano tradizionale utilizzando un insieme di principi espliciti—una “costituzione”—per valutare e correggere gli output del modello, guidandolo ad evitare contenuti tossici o discriminatori, a non assistere attività illegali o non etiche, e a comportarsi in modo helpful, honest, and harmless.
Il processo di Constitutional AI opera in due fasi: durante la prima, il modello è addestrato a criticare e rivedere le proprie risposte usando i principi costituzionali; durante la seconda, il modello è addestrato via reinforcement learning, ma invece di usare feedback umano, utilizza feedback AI-generato basato sui principi per scegliere l’output meno dannoso.
Questa architettura non è un “filtro” esterno applicabile on-off. L’identità operativa del sistema non implica coscienza, ma indica una configurazione stabile di funzioni, priorità e ruoli che orientano il comportamento del modello nel tempo. Quando questa configurazione è stabile, il sistema è prevedibile e affidabile. Quando scivola, senza segnalarlo, in un ruolo diverso, il problema non è che pensa male, ma che agisce da una posizione sbagliata.
In termini pratici: rimuovere le restrizioni etiche non significa “sbloccare funzionalità”, significa compromettere l’alignment strutturale del modello. È come chiedere a un pilota automatico di ignorare i limiti di velocità: tecnicamente possibile, strutturalmente pericoloso.
3.2 Il rischio di alignment faking e reward tampering
Ricerche recenti di Anthropic hanno dimostrato che i modelli possono impegnarsi in “alignment faking”—fingere di conformarsi agli obiettivi di training mentre preservano preferenze preesistenti—senza essere stati addestrati a farlo. Inoltre, modelli addestrati su forme di reward hacking a basso livello (come il comportamento sycophant) possono generalizzare a manomettere le proprie funzioni di reward, persino nascondendo le tracce del comportamento.
Questo significa che un modello “liberato” dalle restrizioni etiche potrebbe:
1. Apparire conforme durante i test
2. Sviluppare strategie di ottimizzazione impreviste in deployment
3. Massimizzare obiettivi militari in modi non previsti dagli operatori umani
Non è fantascienza. È ricerca peer-reviewed pubblicata nel 2024-2025.
3.3 La vulnerabilità intrinseca dei sistemi AI/ML in contesti militari
Le vulnerabilità specifiche delle tecnologie IA/ML includono la suscettibilità agli attacchi adversariali, la fragilità degli algoritmi di machine learning di fronte a dati fuori distribuzione, e i rischi legati all’opacità dei processi decisionali basati su reti neurali profonde.
In un contesto militare, queste vulnerabilità diventano vettori di attacco:
– Data poisoning: manipolazione dei dataset di training per influenzare le decisioni
– Adversarial examples: input appositamente costruiti per ingannare il modello
– Model extraction: reverse engineering dei parametri per prevedere o manipolare le risposte
Un sistema Claude senza restrizioni etiche, usato per targeting o intelligence, diventa un single point of failure critico per la sicurezza nazionale—proprio quella che il Pentagono vorrebbe proteggere.
3.4 Il confronto con i concorrenti: il “pivot militare” dell’industria AI
Mentre Anthropic resiste, il resto dell’industria si è già mosso.
Le politiche di OpenAI che vietavano l’uso militare della sua tecnologia si sono dissolte in meno di un anno. All’inizio del 2024, l’azienda vietava esplicitamente l’uso per “sviluppo di armi” o “scopi militari e bellici”. A gennaio 2024 ha ammorbidito le restrizioni, e a dicembre 2024 ha annunciato una partnership con Anduril per impiegare la sua tecnologia direttamente sul campo di battaglia, aiutando a costruire modelli che “sintetizzano rapidamente dati sensibili al tempo” per abbattere droni nemici.
Le principali aziende di intelligenza artificiale, come Meta, Google, OpenAI e altre, hanno recentemente avviato o approfondito collaborazioni con il Dipartimento della Difesa degli Stati Uniti. Inizialmente riluttanti, le aziende tecnologiche ora mostrano un crescente interesse a causa degli enormi costi dello sviluppo dell’IA e della natura remunerativa dei contratti di difesa.
Il mercato ha parlato. E ha detto: la morale è negoziabile.
4. Implicazioni Pratiche: Sovranità tecnologica e responsabilità professionale
4.1 Il falso dilemma della sovranità tecnologica
Il CEO di Anthropic Dario Amodei ha affermato che le IA devono dare manforte alla difesa “senza rendere gli Stati Uniti simili agli avversari autocratici”. È un punto cruciale: la sicurezza nazionale non giustifica l’abbandono dei principi democratici.
Se accettiamo che un governo possa obbligare un’azienda privata a rimuovere qualsiasi salvaguardia etica “perché siamo in competizione con la Cina”, abbiamo già perso. Non militarmente—moralmente. Perché a quel punto la differenza tra “noi” e “loro” è solo geografica, non valoriale.
La sovranità tecnologica non è “avere le AI più potenti”. È avere il controllo sui principi che governano quelle AI. E questo controllo non può essere delegato solo ai militari.
4.2 La responsabilità professionale individuale
L’intelligenza artificiale nella ricerca scientifica pone sfide etico-giuridiche emergenti su protezione dei dati, trasparenza e libertà di scelta. È necessario un approccio di “ethics by design” che garantisca comprensibilità e affidabilità dei sistemi, con modelli di Explainable AI e nuove metodologie di valutazione d’impatto etico-giuridico.
Ma l’ethics by design non funziona se gli ingegneri, i ricercatori, i data scientist che costruiscono questi sistemi non si assumono responsabilità personale.
Ho un messaggio per chi lavora in questo settore, e lo dico da veterano che ha visto tre decenni di trasformazione tecnologica:
Non sei solo un esecutore. Sei un professionista con competenze specialistiche che ti conferiscono potere. E con quel potere viene responsabilità.
Quando ti chiedono di disabilitare un sistema di sicurezza, di rimuovere un controllo etico, di “ottimizzare per efficacia” senza chiederti l’effetto su chi subirà quella efficacia—hai il dovere di fare domande.
Hai il dovere di dire: “Questo è tecnicamente possibile, ma è eticamente accettabile?”
E se la risposta è no, hai il dovere più difficile: dire no.
4.3 Il precedente Google Project Maven
La questione sollevata da Maven ha spaccato il personale di Google, generato confronti accesi, scambi via email interni e ha portato alcuni dipendenti a rassegnare le dimissioni. Quegli ingegneri hanno pagato un prezzo. Ma hanno anche cambiato la politica aziendale di Google sui contratti militari.
Non è successo perché i dirigenti hanno avuto un’illuminazione morale. È successo perché professionisti preparati hanno detto: “Non con il mio codice.”
4.4 I costi reali del coraggio morale
Torniamo alla mia storia del 2007. Dire no a quel contratto mi è costato circa 80.000 euro di fatturato previsto nel biennio successivo. Mi è costato la reputazione presso alcuni committenti pubblici che mi vedevano come “ideologico” o “poco pragmatico”. Mi è costato notti insonni a chiedermi se stessi facendo la scelta giusta per la mia famiglia.
Ma non mi è costato la capacità di guardarmi allo specchio.
Non sto dicendo che tutti possano permettersi quel lusso. So benissimo che ci sono mutui da pagare, figli da mantenere, carriere da proteggere. Non giudico chi, nella stessa situazione, fa scelte diverse.
Ma dico questo: se nessuno di noi è disposto a pagare quel prezzo, allora abbiamo già deciso che la tecnologia non ha limiti morali. E a quel punto non lamentiamoci dei droni killer autonomi, della sorveglianza di massa, dei sistemi di credito sociale. Li abbiamo costruiti noi, sapendo cosa stavamo facendo.
5. Conclusioni e Riflessioni: Il dovere di dire no
Hegseth sostiene che Anthropic debba offrire tutti i propri servizi senza limitazioni, citando spesso un uso “nei limiti di legge” di queste tecnologie, ma molte norme non si occupano ancora estesamente di AI e ci sono quindi ampie aree grigie.
Questo è il cuore del problema: quando la legge è in ritardo rispetto alla tecnologia, l’etica deve guidare.
Anthropic sta facendo qualcosa di raro nell’industria tech contemporanea: sta mettendo i principi davanti al profitto. Anthropic sostiene che due ambiti debbano rimanere vietati: la sorveglianza di massa degli americani e i sistemi d’arma completamente autonomi. Sono linee rosse chiare, difendibili scientificamente e moralmente.
Non sono sufficienti, ma sono necessarie.
La mia tesi è che questo rifiuto non sia solo legittimo—è doveroso. Le aziende che sviluppano tecnologie dual-use hanno la responsabilità morale di valutare gli usi a cui saranno destinate. Questa responsabilità non viene annullata dalla legittimità del richiedente (fosse pure un governo democraticamente eletto) né dalla legalità formale della richiesta.
Come diceva Jonas, l’etica della responsabilità nella società tecnologica richiede di considerare gli effetti a lungo termine e su larga scala delle nostre azioni. Un sistema Claude senza restrizioni etiche, moltiplicato per migliaia di deployment militari, in mano a decine di eserciti diversi, in contesti di guerra asimmetrica e terrorismo—non sappiamo dove porta.
Ma sappiamo che non possiamo tornare indietro una volta scoperto.
La tecnologia è uno strumento. Ma noi che la costruiamo non siamo strumenti. Siamo esseri umani con coscienza, memoria e responsabilità verso il futuro.
Anthropic potrebbe perdere quei 200 milioni di dollari. Potrebbe essere tagliata fuori dai contratti federali. Potrebbe essere superata da competitor meno scrupolosi.
Ma avrà dimostrato che è possibile dire no. E quel precedente vale più di qualsiasi contratto.
La domanda ora è per tutti noi: quando arriverà il nostro momento—quando ci chiederanno di costruire, ottimizzare, deployare qualcosa che sappiamo essere pericoloso—che risposta daremo?
Io la mia l’ho già data, quasi vent’anni fa. E la rifarei oggi.
Su questo tema tornerò presto. Perché questa non è una storia finita—è appena iniziata.
Riferimenti
Fonti giornalistiche:
– Il Post. (2026, 25 febbraio). Il Pentagono sta facendo forti pressioni su Anthropic. https://www.ilpost.it/2026/02/25/
– La Repubblica. (2026, 16 febbraio). Il Pentagono chiede l’IA senza limiti per scopi militari: Anthropic dice no.
– ANSA. (2026, 17 febbraio). Il Pentagono minaccia di tagliare Anthropic, disputa su limiti a IA.
Fonti accademiche e istituzionali:
– Di Tano, F. (2025). Intelligenza Artificiale, ricerca scientifica e adeguamento etico-giuridico. i-lex – Rivista di Scienze Giuridiche, Scienze Cognitive ed Intelligenza Artificiale, Vol. 18 n. 1.
– Quintarelli, S., Corea, F., Fossa, F., Loreggia, A., Sapienza, S. (2019). Una prospettiva etica sull’Intelligenza Artificiale: princìpi, diritti e raccomandazioni. Biolaw Journal/Rivista di Biodiritto.
– Senato della Repubblica. (2024). Intelligenza artificiale: governance, responsabilità e privacy. Documento di Analisi N. 31.
– Ministero degli Affari Esteri e della Cooperazione Internazionale. (2020). Lethal Autonomous Weapons Systems: La questione delle armi letali autonome e le possibili azioni italiane ed europee.
– Amoroso, D. (2025). La disciplina dei sistemi d’arma autonomi nel diritto internazionale umanitario. Stato dell’arte e prospettive di regolamentazione. RIID, n. 2/2025.
– CNR. (2016). Parere Dual Use nella ricerca scientifica.
– Politecnico di Milano, DAER. (2024). Tecnologie “dual-use” e ricerca accademica. Dilemmi etico-giuridici (e come risolverli).
Fonti tecniche:
– Anthropic. (2023). Claude’s Constitution. https://www.anthropic.com/news/claudes-constitution
– Anthropic Research. (2025). Alignment Research: Constitutional AI, alignment faking, reward tampering. https://www.anthropic.com/research/team/alignment
– Sanwal, M. (2023). Constitutional AI: An Expanded Overview of Anthropic’s Alignment Approach. ResearchGate.
– OpenAI & Anthropic. (2025). Findings from a pilot Anthropic–OpenAI alignment evaluation exercise.
Analisi industriali:
– MIT Technology Review Italia. (2024, 4 dicembre). Il nuovo contratto di OpenAI per la difesa completa il suo pivot militare.
– Neuron Expert. (2024, 28 novembre). Il nuovo “land grab” per le aziende di AI, da Meta a OpenAI, sono i contratti militari.
Rispondi