Una riflessione fra storia della tecnologia, rischi emergenti e ragioni per restare ottimisti
1 · Dal torchio di Gutenberg agli LLM: il filo rosso dell’ambivalenza tecnologica
Ogni rivoluzione tecnica porta con sé un’ombra: la stampa diffuse i libelli che incendiarono guerre di religione, il telegrafo fu usato per manipolare le quotazioni in borsa, l’automobile divenne il mezzo preferito per le rapine lampo, Internet aprì tanto l’e-commerce quanto il phishing. Oggi l’IA generativa rappresenta il nuovo punto di svolta, capace di moltiplicare creatività e produttività — ma anche di scalare truffe, clonare identità e automatizzare malware a costi marginali.
2 · Cosa cambia davvero con la Gen AI?
Secondo l’IOCTA 2025 di Europol, l’adozione della Gen AI ha “cambiato il DNA della criminalità organizzata”, rendendo possibili campagne di phishing su misura, deepfake vocali e video in tempo reale e varianti di malware generate on-demand. oai_citation:0‡europol.europa.eu
Nel suo intervento alla Commissione Homeland Security del 12 giugno 2025, Microsoft ha stimato un +1 200 % di campagne phishing dall’autunno 2022 grazie ai modelli generativi. oai_citation:1‡homeland.house.gov
3 · Vettori d’attacco già “potenziati”
| Vettore | Come la Gen AI lo amplifica | Esempio reale |
|---|---|---|
| Phishing mirato | Email perfette in varie lingue | Cluster di spear-phishing contro think-tank UE rilevato da Europol [oai_citation:2‡europol.europa.eu](https://www.europol.europa.eu/publication-events/main-reports/steal-deal-and-repeat-how-cybercriminals-trade-and-exploit-your-data?utm_source=chatgpt.com) |
| Vishing & deepfake vocali | Clonazione di timbro e accento | FBI PSA (apr 2025) su imitazioni di alti funzionari US [oai_citation:3‡ic3.gov](https://www.ic3.gov/PSA/2025/PSA250515?utm_source=chatgpt.com) |
| CEO fraud in video-call | Sintesi audio+video real-time | Caso WPP (maggio 2024) riportato da Reuters [oai_citation:4‡reuters.com](https://www.reuters.com/world/us/malicious-actors-using-ai-pose-senior-us-officials-fbi-says-2025-05-15/?utm_source=chatgpt.com) |
| Malware-as-Code | Copilot criminali che generano varianti e offuscamento | Testimonianza Microsoft alla Camera USA (18 giu 2025) [oai_citation:5‡homeland.house.gov](https://homeland.house.gov/2025/06/18/icymi-microsoft-securin-and-more-cyber-leaders-testify-on-using-ai-in-the-us-cybersecurity-mission/) |
4 · Perché i controlli tradizionali non bastano più
Gli attacchi “one-to-one” eludono filtri basati su pattern; i text-to-speech ridicolizzano l’MFA telefonico; gli agenti autonomi combinano recon, esfiltrazione e negoziazione in un loop continuo. In sintesi, l’IA rende scalabile ciò che prima era artigianale.
5 · La risposta dei difensori: security of AI e security with AI
- Red-teaming dei modelli: test di prompt injection, jailbreak, data poisoning.
- Copilots difensivi (es. Microsoft Security Copilot) per ridurre i tempi di triage da ore a minuti. [oai_citation:6‡homeland.house.gov](https://homeland.house.gov/2025/06/18/icymi-microsoft-securin-and-more-cyber-leaders-testify-on-using-ai-in-the-us-cybersecurity-mission/)
- MFA phishing-resistant: passkey FIDO2 e verifica out-of-band.
- Data Loss Prevention sui prompt: trattare ogni conversazione con un LLM come dato sensibile.
- EU AI Act + NIS2: classificare i sistemi generativi “ad alto rischio” con monitoraggio continuo.
Per un’analisi più operativa rimando al mio articolo “Sicurezza e Governance a Build 2025”.
Avevo già esplorato il potere persuasivo dei LLM in “L’IA più persuasiva degli umani nei dibattiti online” e il loro uso positivo nella produttività in “Microsoft 365 a Build 2025”; qui vediamo il rovescio della medaglia.
6 · Il lato luminoso: innovazione che salva vite
Grazie ad AlphaFold 3 possiamo simulare l’interazione di proteine, DNA e molecole in settimane anziché anni. oai_citation:7‡deepmind.com Non a caso il Nobel per la Chimica 2024 ha premiato gli autori di questi modelli. oai_citation:8‡nobelprize.org
Sul fronte climatico, Weather Lab di Google DeepMind mostra previsioni di cicloni fino a 15 giorni, superando i modelli fisici in tracciato medio. oai_citation:9‡blog.google
7 · Cosa ci insegnano le rivoluzioni precedenti
- Stampa → Alfabetizzazione di massa: i regolamenti sui libelli e il diritto d’autore mitigarono gli abusi.
- Elettricità → Industria moderna: i codici di sicurezza elettrica ridussero incidenti e sabotaggi.
- Internet → Economia digitale: SSL/TLS, GDPR e l’ecosistema cybersecurity hanno contenuto — non annullato — il crimine.
La traiettoria è chiara: istituzioni, mercato e ricerca convergono verso standard condivisi; la curva del rischio si appiattisce mentre quella del beneficio continua a salire.
8 · Uno sguardo al 2030 (e oltre)
- Attacchi multi-step autonomi — ma anche SOC autonomi che li bloccano in tempo reale.
- Abuse-as-a-Service: marketplace di prompt “jailbreak garantito”.
- AI-for-Good su scala: diagnosi mediche personalizzate e modelli climatici sub-chilometrici.
9 · Conclusione
La storia ci insegna che le società che abbracciano l’innovazione in modo critico ma fiducioso prosperano, mentre chi la teme resta ai margini. L’IA generativa non fa eccezione: può essere arma o scudo a seconda di come la progettiamo, regolamentiamo e — soprattutto — governiamo.
“L’AI non va demonizzata né idealizzata: va semplicemente governata con la stessa creatività con cui l’abbiamo inventata.”
Luca Borio – Argo’s New Dreams
Se l’articolo ti è stato utile, condividilo e raccontami la tua esperienza nei commenti: la conversazione è il primo antidoto alla paura del nuovo.
Rispondi