L’accelerazione dell’intelligenza artificiale generativa ha trasformato l’etica da disciplina spesso confinata ai dipartimenti universitari in una variabile strategica di governance aziendale. La bellissima presentaziane della Prof.ssa Marianna Bergamaschi Ganapini durante la cerimonia WISE AI a Roma, ha rivelato un’operazione preziosa: ricondurre il dibattito entro coordinate filosofiche rigorose, ricordando che l’etica non coincide con la conformità normativa e che un sistema perfettamente legale può comunque produrre ingiustizie sostanziali. In un mercato dominato dalla velocità di rilascio e dalla competizione geopolitica sull’AI, questa distinzione appare meno accademica di quanto molti dirigenti tecnologici siano disposti ad ammettere.
La ricostruzione delle principali teorie morali, dalla deontologia all’utilitarismo fino al contrattualismo rawlsiano, evidenzia un punto spesso ignorato nel dibattito industriale contemporaneo: nessuna singola teoria è sufficiente per governare sistemi complessi. L’industria tecnologica ha storicamente privilegiato un approccio implicitamente utilitarista, orientato all’ottimizzazione di metriche quantitative e all’idea che benefici aggregati possano compensare effetti collaterali localizzati. Tale impostazione ha prodotto piattaforme straordinariamente efficienti ma anche ecosistemi digitali caratterizzati da polarizzazione, sorveglianza diffusa e concentrazione del potere economico.
Particolarmente convincente appare la distinzione tra misuse, failure e harms & wrongs. La tripartizione consente di comprendere come i problemi dell’AI non siano riconducibili esclusivamente a errori tecnici. Un modello può funzionare esattamente come progettato e risultare comunque socialmente problematico. Questa osservazione costituisce probabilmente uno dei contributi più importanti dell’intero lavoro.
L’analisi comparativa tra l’approccio statunitense, incarnato dal NIST AI RMF, e quello europeo rappresentato dall’EU AI Act coglie una divergenza filosofica reale. Gli Stati Uniti continuano a interpretare il rischio prevalentemente come funzione probabilistica del danno atteso, mentre l’Europa introduce limiti normativi fondati sui diritti fondamentali. La differenza non è marginale. Determina quali applicazioni possano essere vietate indipendentemente dalla loro efficienza economica e definisce il perimetro della legittimità tecnologica.
Tuttavia il quadro potrebbe essere ulteriormente ampliato in almeno quattro direzioni.
La prima riguarda l’emergere dell’AI agentica. La presentazione ha descritto gli agenti principalmente dal punto di vista della sicurezza, ma i sistemi autonomi introducono un problema completamente nuovo: la delega decisionale continua. Quando un agente software pianifica, negozia, acquista servizi, coordina altri agenti e modifica il proprio comportamento nel tempo, la nozione tradizionale di accountability rischia di diventare insufficiente. Non è più sufficiente identificare chi ha sviluppato il modello. Diventa necessario stabilire chi mantiene la supervisione operativa, chi definisce i limiti di autonomia e chi risponde delle azioni emergenti prodotte dall’interazione tra più agenti.
Una seconda dimensione riguarda il fenomeno della dipendenza cognitiva. Il documento cita correttamente il rischio di atrofia cognitiva, ma il tema meriterebbe maggiore approfondimento. L’utilizzo quotidiano di sistemi generativi come sostituti del ragionamento, della memoria e della scrittura potrebbe produrre effetti sistemici sulla capacità individuale di deliberazione critica. Alcuni studi recenti mostrano già una riduzione dello sforzo cognitivo nei soggetti che delegano sistematicamente compiti complessi ai modelli linguistici. L’etica dell’AI dovrà quindi interrogarsi non soltanto sui danni immediati, ma anche sugli effetti antropologici di lungo periodo.
Un terzo aspetto poco esplorato riguarda la concentrazione del potere infrastrutturale. Gran parte del dibattito etico continua a focalizzarsi sul comportamento degli algoritmi, trascurando la struttura economica del settore. Oggi una quota significativa delle capacità computazionali globali è controllata da un numero estremamente ristretto di hyperscaler. Ciò implica che questioni apparentemente tecniche, come accesso ai modelli, disponibilità di GPU o costi computazionali, assumono inevitabilmente una dimensione etica e politica. La distribuzione del potere computazionale sta diventando una questione di giustizia sociale.
Un quarto elemento riguarda l’impatto ambientale. L’etica dell’AI non può più limitarsi ai diritti individuali. I foundation model di frontiera richiedono quantità crescenti di energia, acqua e materie prime critiche. La sostenibilità ambientale dovrebbe essere trattata come principio autonomo di governance e non come semplice considerazione accessoria.
Dal punto di vista operativo, la Prf.ssa Ganapini propone correttamente l’integrazione tra NIST AI RMF, ISO/IEC 42001 ed EU AI Act. Nella pratica aziendale, tuttavia, questa integrazione richiede la creazione di strutture permanenti di AI Governance, con processi di auditing continuo, monitoraggio post-deployment, registri dei modelli, procedure di incident reporting e meccanismi di contestazione umana delle decisioni automatizzate.
La mia opinione è che il contributo colga efficacemente il cuore filosofico della questione: l’intelligenza artificiale non rappresenta soltanto un problema ingegneristico, ma una tecnologia costituzionale, capace di ridefinire relazioni di potere, autonomia individuale e diritti fondamentali. Il rischio maggiore non consiste tanto nel costruire sistemi troppo intelligenti, quanto nel progettare organizzazioni che delegano progressivamente il giudizio umano senza ridefinire responsabilità, limiti e principi. La storia della tecnologia insegna che l’innovazione corre sempre più velocemente della governance; l’AI potrebbe essere il primo caso in cui questo ritardo non produce semplicemente inefficienze, ma ridefinisce il significato stesso di decisione umana.