Argo's New Dreams

Dal Secondo sesso a Re Lear: come trasformare l’AI da rischio sistemico a amplificatore di diritti con governance, audit e scelte chiare

EPISODIO 3 — Legge, governance e presa di posizione

Ne Il secondo sesso la critica di Beauvoir è alle strutture che plasmano possibilità e limiti; in Re Lear vediamo promesse e potere che decidono il domani. Oggi, nell’AI generativa, quelle strutture e quelle promesse vivono in dati, obiettivi di prodotto e modelli di governance. La letteratura scientifica invita a trattare l’AI come fenomeno sociotecnico: la tecnologia amplifica forze esistenti; i grandi modelli espongono rischi ambientali, di dati e di uso improprio; gli audit devono essere end‑to‑end; la “fairness” richiede definizioni normative esplicite; la sfera pubblica va protetta dall’amplificazione opaca e dalla generazione malevola di contenuti. In questo episodio propongo una rotta: processi, ruoli e metriche per scegliere consapevolmente cosa amplificare e come. Chiudo con un set di azioni minime per policy maker, manager e docenti.

Una domanda apparentemente banale mi ha fatto riflettere: “Chi firma che l’AI sta facendo la cosa giusta, qui e ora?” Non “in generale”, qui e ora. Ripensando a Il secondo sesso ho capito che la risposta non è in un algoritmo in più, ma nelle strutture: chi decide i dati, come si misura il danno, chi ha diritto di veto. E in Re Lear ho ritrovato il tema della promessa: bastano poche parole per legare il futuro. Con l’AI succede allo stesso modo. Ogni scelta di training, ogni metrica, ogni policy è un giuramento sul domani. La mia tesi resta la stessa: l’AI è un amplificatore. Se la legge e la governance sono chiare, amplifica diritti e opportunità; se sono vaghe, amplifica squilibri e pressioni informali.

Background e Stato dell’Arte

• Tecnologia come amplificatore. In informatica dello sviluppo, l’IT è descritto come moltiplicatore di forze istituzionali preesistenti, più che correttore automatico di ingiustizie.
• Rischi dei grandi modelli. I “pappagalli stocastici” avvertono su costi ambientali, ingestione indiscriminata di dati e danni potenziali del linguaggio sintetico, con raccomandazioni di mitigazione ex‑ante e cura dei dataset.
• Sociotecnica e “trappole” dell’astrazione. Senza considerare contesto, poteri e processi, le soluzioni tecniche di fairness falliscono: occorre progettare confini di astrazione che includano gli attori sociali.
• Accountability e audit interni. Un framework end‑to‑end (SMACTR) struttura documenti, responsabilità e controlli lungo tutto il ciclo di vita del sistema, prima e dopo il rilascio.
• Bias e rappresentazioni. I corpora testuali contengono tracce di stereotipi che i modelli recuperano; nel visivo, audit mostrano disparità d’errore elevate per donne con pelle scura.
• Sfera pubblica digitale. Esperimenti su larga scala documentano amplificazioni sistematiche di contenuti politici nelle timeline; i generatori di testo possono creare “neural fake news”, con difese da sviluppare in parallelo.
• Cultura e allineamento. Valutazioni cross‑country mostrano default valoriali nei LLM; tecniche di cultural prompting migliorano l’allineamento, ma serve monitoraggio continuo.

Analisi Scientifica 😉

Il secondo sesso: nominare le strutture, non solo i sintomi Beauvoir ci insegna a guardare le strutture. In AI questo significa rendere espliciti poteri, incentivi e assunzioni. La letteratura NLP ricorda che “bias” è concetto normativo: bisogna dichiarare che cosa consideriamo danno, a chi, e perché, e centrare le esperienze delle comunità coinvolte, non solo metriche aggregate. Se non nomino le strutture – chi possiede i dati, chi decide le soglie, chi beneficia degli errori – ogni misura tecnica rischia di diventare maquillage. Il primo passo di governance è quindi politico: definizioni, responsabilità, processi deliberativi.

Re Lear: la promessa come infrastruttura del futuro Lear sbaglia promessa e precipita tutto. In prodotto, le nostre “promesse” sono obiettivi, metriche e contratti sociali con utenti e società. I grandi modelli rendono cruciale la cura dei dati e la trasparenza sul perimetro: la ricerca invita a investire nella curation dei dataset, nella documentazione e nella valutazione dei costi/impatti, piuttosto che inseguire ciecamente la scala. La promessa credibile è: “Sappiamo cosa il modello può e non può fare, con quali limiti e per quali persone.” Senza questa chiarezza, l’amplificazione va dove la portano i dati “di default”.

5Sociotecnica: evitare le cinque trappole dell’astrazione Molte iniziative falliscono perché isolano il modello dal contesto. Le “trappole” mappate dagli studi sociotecnici mostrano come approcci modulari, privi di attori sociali nei confini di progetto, finiscano per essere inefficaci o dannosi. Tradotto: definire fairness senza le persone impattate; “ripulire” dati senza interrogare come sono stati generati; progettare metriche che ignorano gli usi reali. Uscire da queste trappole richiede governance di processo: tavoli con stakeholder, criteri di stop‑use per scenari a rischio, e audit pubblici dove possibile.

Accountability: dall’audit episodico all’audit continuo Non basta un audit a fine progetto. Il framework SMACTR propone documenti e controlli in ogni fase: scopi e valori, datasheet dei dataset, test su gruppi, red‑teaming, piani di rollback, responsabilità nominate, e un audit report cumulativo. È la differenza tra “sperare che vada bene” e “sapere cosa fare quando va male”. Ho visto questo cambiare davvero i comportamenti: quando sai che dovrai spiegare dati, scelte e trade‑off, selezioni e misuri diversamente.

Sfera pubblica e disinformazione: rendere osservabile l’amplificazione Le timeline personalizzate operano come moltiplicatori silenziosi di visibilità. La ricerca mostra amplificazioni sistematiche per certe famiglie di contenuti politici, con eterogeneità tra paesi e fonti. La governance qui è doppia: misure di amplificazione trasparenti (quanto “boost” per quali contenuti e cluster) e difese contro la generazione malevola di testo. L’evidenza su “neural fake news” suggerisce che servono rivelatori all’altezza dei generatori, più protocolli di mitigazione e tracciabilità. Senza visibilità, i diritti all’informazione restano formali.

Cultura e giustizia globale: oltre l’unico default Studi recenti indicano bias culturali di default nei LLM, con valori che rispecchiano soprattutto contesti occidentali; il cultural prompting migliora gli output, ma va istituzionalizzato in processi e benchmark, non lasciato alla buona volontà degli utenti. Qui la governance è un impegno a non esportare “un’unica voce” come voce universale.

Scegliere cosa amplificare: produttività, qualità, equità Ricordo che l’AI può anche moltiplicare il bene. Gli studi su GenAI al lavoro mostrano guadagni misurabili e un effetto “ascensore” per i meno esperti, se l’adozione è incastonata in processi chiari e misure di qualità ed equità. La scelta di cosa amplificare sta nel combinare questi benefici con guardrail su dati, metriche e impatti.

Implicazioni Pratiche — Azioni minime

• Policy maker
  • Obblighi di trasparenza su dataset e metriche: datasheet pubblici per modelli d’uso pubblico; reporting periodico su amplificazione di contenuti di interesse civico.
  • Soglie di parità di errore per usi ad alto impatto (es. identità, accesso a servizi): divari oltre soglia → stop‑use o mitigazioni obbligatorie.
  • Requisiti di audit end‑to‑end e responsabilità nominate per i fornitori di sistemi AI critici.
• Manager (aziende/PA)
  • Adottare SMACTR: scopi, valori, dati, test per gruppi, red‑teaming, piano di rollback, owner responsabili.
  • Curare i dataset prima della scala: curation, licenze, rimozione contenuti dannosi, documentazione; no “ingestione a tappeto”.
  • KPI multi‑obiettivo: produttività + qualità + equità per gruppo; rendere osservabile l’amplificazione in prodotti di raccomandazione.
• Docenti e formatori
  • Inquadrare “bias” come concetto normativo (danno, a chi, perché) e introdurre pratica di audit nei corsi.
  • Esercizi di cultural prompting e valutazioni cross‑contesto per evitare un unico default culturale.

Conclusioni e Riflessioni La legge è uno spartiacque, ma da sola non basta. Se l’AI amplifica, la governance decide cosa. Le mie scelte, come architetto e come padre, sono semplici da dire e impegnative da fare: curare i dati, definire danni e responsabilità, misurare l’amplificazione, fermarsi quando i divari superano soglie di giustizia. Nei romanzi che ho amato, le promesse cambiano i destini. Qui le nostre promesse sono processi, metriche e trasparenze. Se le onoriamo, l’AI può moltiplicare autonomia, qualità e pluralismo. La vera sfida non è tecnica, ma umana.

Riferimenti

• Bender, E. M., Gebru, T., McMillan‑Major, A., & Mitchell, M. (2021). On the Dangers of Stochastic Parrots. FAccT. https://doi.org/10.1145/3442188.3445922
• Blodgett, S. L., Barocas, S., Daumé III, H., & Wallach, H. (2020). Language (Technology) is Power. ACL. https://doi.org/10.18653/v1/2020.acl-main.485
• Brynjolfsson, E., Li, D., & Raymond, L. (2025). Generative AI at Work. The Quarterly Journal of Economics, 140(2), 889–942. https://doi.org/10.1093/qje/qjae044
• Buolamwini, J., & Gebru, T. (2018). Gender Shades. PMLR 81, 77–91. https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
• Caliskan, A., Bryson, J. J., & Narayanan, A. (2017). Semantics derived automatically from language corpora contain human‑like biases. Science, 356(6334), 183–186. https://doi.org/10.1126/science.aal4230
• Huszár, F., et al. (2022). Algorithmic amplification of politics on Twitter. PNAS, 119(1), e2025334119. https://doi.org/10.1073/pnas.2025334119
• Raji, I. D., et al. (2020). Closing the AI Accountability Gap. FAccT (arXiv:2001.00973). https://doi.org/10.48550/arXiv.2001.00973
• Selbst, A. D., boyd, d., Friedler, S. A., Venkatasubramanian, S., & Vertesi, J. (2019). Fairness and Abstraction in Sociotechnical Systems. FAT*. https://doi.org/10.1145/3287560.3287598
• Tao, Y., Viberg, O., Baker, R. S., & Kizilcec, R. F. (2024). Cultural bias and cultural alignment of LLMs. PNAS Nexus, 3(9), pgae346. https://doi.org/10.1093/pnasnexus/pgae346
• Toyama, K. (2011). Technology as Amplifier in International Development. iConference. https://doi.org/10.1145/1940761.1940772
• Zellers, R., Holtzman, A., Rashkin, H., Bisk, Y., Farhadi, A., Roesner, F., & Choi, Y. (2019). Defending Against Neural Fake News (Grover). NeurIPS (arXiv:1905.12616). https://doi.org/10.48550/arXiv.1905.12616