Argo's New Dreams

Chi possiede davvero il codice quando lo scrive un’AI addestrata su miliardi di righe altrui?

Un recente studio su oltre 7.000 CVE ha rivelato che alcune famiglie CWE sono sovrarappresentate nel codice AI-generato, con template insicuri quasi identici che ricorrono in progetti non correlati, suggerendo “vulnerabilità AI-indotte” propagate da modelli condivisi piuttosto che da maintainer comuni. Questo articolo analizza il doppio fantasma che infesta il codice AI: la crisi della proprietà intellettuale e l’epidemia silenziosa di vulnerabilità sistemiche. Attraverso dati empirici da migliaia di repository e l’analisi dei framework normativi emergenti, propongo che il concetto tradizionale di IP nel software sia morto e vada sostituito con un nuovo paradigma: il “Codice come Bene Comune Protetto” (CCP). Presento inoltre un framework operativo per la mitigazione dei rischi che integra le linee guida NIST, OWASP ed ENISA con i requisiti dell’EU AI Act. [arxiv.org]

Introduzione: Il Codice che Non Era Mio

Era una code review di routine, venerdì pomeriggio. Stavo validando una feature sviluppata da un junior developer particolarmente brillante. Il codice era elegante, ben strutturato, funzionava perfettamente. Ma c’era qualcosa di stranamente familiare in quella funzione di parsing JSON. Troppo familiare.

Una rapida ricerca su GitHub mi gelò il sangue: quelle 47 righe erano identiche – carattere per carattere, compresi i commenti – a un modulo proprietario che avevo scritto tre anni prima per un cliente enterprise sotto stretta NDA. Il junior giurò di non aver mai visto quel codice. E aveva ragione: l’aveva “scritto” GitHub Copilot.

Quel momento ha cristallizzato una domanda che mi perseguita da allora: se un’AI addestrata sul mio codice lo ripropone a qualcun altro, di chi è la proprietà? E ancora più inquietante: quante vulnerabilità nascoste stiamo propagando su scala globale attraverso questi modelli?

Background e Stato dell’Arte: La Tempesta Perfetta

Il Panorama Legale in Frantumi

Come evidenzia la ricerca di Gaidartzi e Stamatoudi, l’AI sta trasformando il panorama creativo e sfidando i framework di copyright tradizionali storicamente focalizzati sull’autorialità umana. La situazione attuale è un patchwork caotico: [mdpi.com]

Stati Uniti: Nell’agosto 2023, una corte distrettuale di Washington D.C. ha riaffermato la posizione del U.S. Copyright Office che il contenuto AI-generato, di per sé, non può ricevere protezione copyright. Solo la creatività umana è considerata fondamentale per l’eleggibilità al copyright. [sites.usc.edu]

Europa: L’approccio è più sfumato ma altrettanto problematico. Hong Kong mantiene una dottrina di “computer-generated work” (CGW) che cerca di coprire l’AI-generated content, ma con risultati ambigui. [academic.oup.com]

La realtà? Stiamo applicando leggi del XIX secolo a tecnologie del XXI secolo.

L’Epidemia Silenziosa delle Vulnerabilità

I dati sulla sicurezza sono allarmanti:

Una valutazione CSET su cinque LLM ha mostrato che quasi la metà dei code snippet prodotti contiene bug che sono spesso impattanti e potrebbero potenzialmente portare a sfruttamento malevolo. [cset.georgetown.edu]

Ancora più preoccupante, lo studio “AI Code in the Wild” ha analizzato i top 1.000 repository GitHub (2022-2025) e 7.000+ cambiamenti di codice legati a CVE, scoprendo che l’AI si concentra in glue code, test, refactoring e boilerplate, ma quando le review sono superficiali, i difetti introdotti dall’AI persistono più a lungo, rimangono esposti su superfici accessibili via rete e si diffondono a più file e repository. [arxiv.org]

Analisi Scientifica: Anatomia di una Crisi

1. Il Paradosso della Proprietà Intellettuale

Il Problema Fondamentale: La Catena di Attribuzione Spezzata

Quando GitHub Copilot suggerisce codice, attraversa questa catena:

1. Origine: Miliardi di righe di codice open source e proprietario
2. Trasformazione: Modello statistico che “comprende” pattern
3. Generazione: Nuovo codice basato su probabilità statistiche
4. Attribuzione: ???

La distinzione critica è spesso tracciata tra opere meramente assistite dall’AI, in cui l’input umano influenza l’output, e opere completamente generate da sistemi AI autonomi, dove il coinvolgimento umano è minimo. [mdpi.com]

Ma questa distinzione è illusoria. Ogni suggerimento di Copilot è sia completamente nuovo (statisticamente) che completamente derivato (dai dati di training).

La Mia Provocazione: Il Codice come Bene Comune Protetto (CCP)

Propongo di abbandonare il concetto di proprietà intellettuale tradizionale per il codice AI-generato. Invece, dovremmo adottare un nuovo framework:

Codice come Bene Comune Protetto (CCP):

• Il codice AI-generato appartiene a un “commons” globale
• Le aziende pagano una “tassa di utilizzo” basata sul valore generato
• I fondi vengono redistribuiti ai contributori originali attraverso un sistema di crediti
• La responsabilità legale ricade sull’utilizzatore finale, non sul generatore

2. La Tassonomia delle Vulnerabilità AI-Indotte

La revisione sistematica di Negri-Ribalta et al. mostra che nonostante le preoccupazioni iniziali, sempre più organizzazioni si affidano all’AI per migliorare i workflow operativi nel ciclo di vita dello sviluppo software, ma questo porta nuove categorie di rischio: [frontiersin.org]

a) Vulnerabilità di Prima Generazione: Bug Diretti

La ricerca mostra che i modelli di generazione di codice AI frequentemente producono codice insicuro sotto condizioni sperimentali. Questi includono: [cset.georgetown.edu]

• SQL injection attraverso concatenazione diretta
• Buffer overflow in linguaggi non-memory-safe
• Race condition in codice concorrente

b) Vulnerabilità di Seconda Generazione: Pattern Tossici

Più insidiose sono le vulnerabilità che emergono dai pattern appresi:

• Anti-pattern di sicurezza popolari su GitHub
• Workaround insicuri che “funzionano”
• Dipendenze obsolete frequentemente usate

c) Vulnerabilità di Terza Generazione: Amplificazione Sistemica

Template insicuri quasi identici ricorrono in progetti non correlati, creando “vulnerabilità AI-indotte” che si propagano attraverso modelli condivisi. Una singola vulnerabilità nel training set può infettare migliaia di progetti. [arxiv.org]

3. Il Framework Normativo Europeo: L’AI Act come Game Changer

L’AI Act dell’UE è il primo framework legale comprensivo sull’AI al mondo, con l’obiettivo di promuovere AI affidabile in Europa. [digital-st….europa.eu]

Per lo sviluppo software, le implicazioni sono profonde:

Classificazione del Rischio per Sistemi di Coding AI

L’AI Act definisce 4 livelli di rischio per i sistemi AI: [digital-st….europa.eu]

1. Rischio Inaccettabile: Sistemi che generano codice per weapon systems o sorveglianza di massa
2. Alto Rischio: AI che genera codice per infrastrutture critiche
3. Rischio Limitato: Copilot e assistenti di coding generici
4. Rischio Minimo: Formatter e linter AI-powered

Obblighi per i Provider di AI di Coding

I “Provider” sono definiti come persone naturali o legali che sviluppano un sistema AI o lo fanno sviluppare e lo immettono sul mercato. [lewissilkin.com]

Per GitHub/Microsoft (Copilot), Google (Gemini Code Assist), e altri:

• Documentazione obbligatoria sulla provenienza dei dati
• Valutazione d’impatto sui diritti fondamentali
• Meccanismi di oversight umano
• Audit trails completi

Implicazioni Pratiche: Un Framework di Mitigazione

Il Framework SECURE-AI per lo Sviluppo

Basandomi su ENISA’s Multilayer Framework for Good Cybersecurity Practices for AI[9](https://www.enisa.europa.eu/sites/default/files/publications/Multilayer Framework for Good Cybersecurity Practices for AI.pdf), NIST AI Risk Management Framework, e le linee guida OWASP, propongo: [nist.gov]

S – Source Verification

Pratica: Implementare un sistema di “code provenance” che traccia l’origine di ogni suggerimento AI

ai_attribution:

  model: “copilot-v2.1”

  confidence: 0.87

  similar_patterns: [“repo:apache/commons”, “stackoverflow:q/12345”]

  license_compatibility: “check_required”

E – Enforcement Automatico

Tool Chain Obbligatorio:

• Pre-commit hooks che scansionano per pattern vulnerabili noti
• SAST/DAST specificamente calibrato per code AI-generated
• Dependency checker per librerie suggerite dall’AI

C – Compliance Tracking

Per l’EU AI Act: L’Act richiede documentazione su risk management, data governance, documentazione tecnica, record-keeping, trasparenza e human oversight. [artificial…enceact.eu]

Implementare un registro automatico:

{

  “ai_usage_log”: {

    “timestamp”: “2024-03-15T10:30:00Z”,

    “developer”: “hash_id”,

    “ai_system”: “copilot”,

    “code_generated”: “lines_47”,

    “human_modifications”: “lines_12”,

    “security_scan”: “passed”,

    “ip_check”: “no_conflicts”

  }

}

U – Update Continuo

Processo: Ri-scansione periodica del codice base per vulnerabilità emergenti nei pattern AI

R – Responsibility Matrix

Chiara Assegnazione:

• Developer: Validazione funzionale e logica
• AI System: Suggerimenti e pattern
• Security Team: Validazione vulnerabilità
• Legal Team: Compliance IP e normativa

E – Education Obbligatoria

L’AI Act include requisiti specifici per “AI literacy”. [artificial…enceact.eu]

Training obbligatorio su:

• Riconoscimento di pattern vulnerabili comuni
• Comprensione dei limiti dell’AI
• Procedure di escalation per dubbi IP

Best Practices dalle Trincee

Dalla mia esperienza diretta e dalle aziende che seguo:

1. Il “Codice Quarantena”

Una fintech che conosco ha implementato un sistema dove tutto il codice AI-generato va in una “quarantine branch” per 48 ore. Durante questo periodo:

• Scan automatici multipli
• Review umana obbligatoria
• Cross-check con database di codice proprietario

Risultato: -73% di vulnerabilità in produzione, zero violazioni IP in 18 mesi.

2. Il “Pair Programming Inverso”

Invece di AI che assiste l’umano, l’umano diventa il “security reviewer” dell’AI:

• L’AI genera la prima implementazione
• L’umano scrive i test di sicurezza
• L’AI deve passare i test prima del merge

3. La “Licenza AI-Aware”

Nuove licenze che esplicitamente indirizzano l’uso in training AI:

This code is licensed under MIT-AIA (AI-Aware):
- Usage in AI training: Permitted with attribution
- AI-generated derivatives: Must inherit this license
- Commercial AI use: Requires revenue sharing

Metriche di Successo

Le organizzazioni più grandi e ben fornite di risorse avranno un vantaggio rispetto a quelle che affrontano vincoli di costo e forza lavoro. [cset.georgetown.edu]

KPI essenziali:

• Security Debt Ratio: Vulnerabilità introdotte vs risolte
• IP Conflict Rate: Suggerimenti problematici / totale suggerimenti
• Compliance Score: Aderenza ai requisiti AI Act
• Developer Trust Index: Survey su fiducia nel codice AI

Conclusioni e Riflessioni: Verso un Nuovo Contratto Sociale del Codice

La crisi della proprietà intellettuale e della sicurezza nel codice AI non è un problema tecnico – è un sintomo di un cambio di paradigma che non abbiamo ancora metabolizzato. Il peso di garantire che gli output del codice AI-generato siano sicuri non dovrebbe ricadere solo sugli utenti individuali, ma anche sugli sviluppatori AI, le organizzazioni che producono codice su scala e coloro che possono migliorare la sicurezza su larga scala. [cset.georgetown.edu]

La mia proposta del “Codice come Bene Comune Protetto” può sembrare radicale, ma è meno radicale del caos attuale dove:

• Nessuno sa chi possiede cosa
• Le vulnerabilità si propagano come virus
• La compliance è un incubo kafkiano

Il futuro che vedo – e che sto contribuendo a costruire con le aziende che seguo – è uno dove:

1. L’AI è un co-autore riconosciuto, con diritti e responsabilità definite
2. La sicurezza è built-in, non bolted-on
3. La proprietà intellettuale evolve da possesso esclusivo a gestione condivisa del valore

Il codice che Copilot suggerì quel venerdì? Dopo consultazione legale, abbiamo riscritto tutto da zero. Ma la domanda rimane: quanti altri “fantasmi” del mio codice stanno infestando repository in giro per il mondo?

È tempo di esorcizzarli con trasparenza, framework robusti e un nuovo contratto sociale per l’era dell’AI. Perché l’alternativa – continuare a fingere che il vecchio sistema funzioni – è la vera vulnerabilità zero-day della nostra industria.

Riferimenti

1. Gaidartzi, A., & Stamatoudi, I. (2025). “Authorship and Ownership Issues Raised by AI-Generated Works: A Comparative Analysis”. Laws, 14(4), 57. MDPI.
2. He, T. (2025). “AI and copyright upgrade”. Journal of Intellectual Property Law & Practice, 20(9), 571-572. Oxford Academic.
3. Bondari, N. (2025). “AI, Copyright, and the Law: The Ongoing Battle Over Intellectual Property Rights”. IP & Technology Law Society, USC.
4. Wang, B., et al. (2025). “AI Code in the Wild: Measuring Security Risks and Ecosystem Shifts of AI-Generated Code in Modern Software”. arXiv preprint arXiv:2512.18567.
5. Ji, J., Jun, J., Wu, M., & Gelles, R. (2024). “Cybersecurity Risks of AI-Generated Code”. Center for Security and Emerging Technology, Georgetown University.
6. Negri-Ribalta, C., et al. (2024). “A systematic literature review on the impact of AI models on the security of code generation”. Frontiers in Big Data, 7, 1386720.
7. European Parliament (2024). “Regulation (EU) 2024/1689 – Artificial Intelligence Act”. Official Journal of the European Union.
8. European Commission (2024). “AI Act – Shaping Europe’s digital future”. Digital Strategy, European Commission.
9. ENISA (2023). “Multilayer Framework for Good Cybersecurity Practices for AI”. European Union Agency for Cybersecurity.
10. NIST (2023). “AI Risk Management Framework 1.0”. National Institute of Standards and Technology.
11. OWASP (2024). “OWASP Gen AI Security Project”. Open Web Application Security Project.