Algoritmi e decisioni: chi è responsabile degli errori dell’IA?

L’utilizzo sempre più diffuso di algoritmi a supporto delle decisioni giudiziarie, nella valutazione delle richieste di finanziamento o persino nella determinazione della probabilità di recidiva, pone una sfida di primaria importanza: *a chi spetta la responsabilità quando un algoritmo commette un errore, discrimina o provoca danni?

La questione della responsabilità algoritmica rimane irrisolta. I sistemi di IA, spesso caratterizzati da opacità e complessità, rendono arduo individuare la causa di un errore o di un pregiudizio. Un algoritmo può essere influenzato da dati distorti, da un design imperfetto o da interazioni impreviste con l’ambiente circostante. Di conseguenza, attribuire la responsabilità a un singolo individuo o entità diventa un compito estremamente complesso, se non addirittura impossibile. È essenziale esaminare le motivazioni alla base delle decisioni algoritmiche per affrontare efficacemente la questione della responsabilità.

Un esempio emblematico di questa difficoltà emerge dai casi, purtroppo sempre più frequenti, di individui che ripongono la propria fiducia in chatbot come confidenti e che, trovandosi in situazioni di fragilità psicologica, possono subire conseguenze negative, fino al tragico epilogo del suicidio. Questi eventi pongono interrogativi cruciali sulla responsabilità delle società che sviluppano e commercializzano tali strumenti.

La complessità della responsabilità algoritmica risiede nella difficoltà di individuare la causa precisa di un errore o di un pregiudizio all’interno di sistemi di IA intrinsecamente opachi. La trasparenza e la comprensibilità di questi sistemi sono elementi imprescindibili per garantire un’attribuzione di responsabilità equa e informata. La sfida consiste nel rendere gli algoritmi accessibili e comprensibili, in modo che sia possibile identificare e correggere eventuali errori o distorsioni.

Per affrontare in modo efficace le implicazioni legali dell’IA, è necessario analizzare le diverse prospettive coinvolte. Da un lato, i giuristi si interrogano sull’adeguatezza delle leggi esistenti per far fronte alle sfide poste dall’IA. Dall’altro, gli sviluppatori di software si impegnano a creare algoritmi più trasparenti, equi e responsabili. Infine, i cittadini si trovano sempre più spesso a interagire con sistemi di IA senza comprenderne appieno il funzionamento o le conseguenze. Un approccio multidisciplinare che coinvolga tutte queste figure è essenziale per definire un quadro normativo e operativo adeguato.

È fondamentale riconoscere che l’IA non è un’entità cosciente, bensì un prodotto. Di conseguenza, la responsabilità ricade sulle aziende che sviluppano e commercializzano tali strumenti, le quali devono garantire la sicurezza e l’affidabilità dei loro prodotti. Tuttavia, le licenze d’uso spesso trasferiscono ogni responsabilità all’utente finale, rendendo difficile ottenere un risarcimento in caso di danni. È necessario rivedere tali clausole contrattuali per garantire una maggiore tutela dei diritti dei consumatori.

L’unione europea sta cercando di affrontare queste problematiche attraverso nuove normative. L’AI Act, il regolamento del parlamento europeo e del consiglio 2024/1689, istituisce un quadro giuridico uniforme per lo sviluppo e l’uso dei sistemi di IA, ponendo al centro l’uomo e il rispetto dei diritti fondamentali. In particolare, l’AI Act classifica alcuni sistemi di IA utilizzati nell’amministrazione della giustizia come ad alto rischio, sottolineando l’importanza di mantenere il processo decisionale finale sotto la supervisione umana. Una proposta di direttiva del parlamento europeo mira ad adeguare le norme in materia di responsabilità civile extracontrattuale all’intelligenza artificiale, introducendo una presunzione relativa di causalità e attribuendo alle corti nazionali il potere di ordinare l’esibizione dei documenti relativi ai sistemi di IA ad alto rischio.

Il disegno di legge italiano sull’ia

Nel contesto italiano, il disegno di legge sull’IA (ddl 1146/24) si propone come un ponte tra l’AI Act europeo e il contesto nazionale. Il ddl introduce principi generali, disposizioni settoriali e nuove fattispecie di reato legate all’uso illecito dell’IA. Il ddl, approvato dal senato e attualmente all’esame della camera dei deputati, prevede una strategia nazionale sull’IA, aggiornata ogni due anni, e designa l’agenzia per l’italia digitale (agid) come autorità di notifica e l’agenzia per la cybersicurezza nazionale (acn) come autorità di vigilanza. Il disegno di legge rappresenta un passo importante verso la regolamentazione dell’ia in italia*, ma la sua efficacia dipenderà dalla sua capacità di bilanciare innovazione e tutela dei diritti fondamentali.

L’ia sta anche trasformando il settore pubblico, offrendo nuove opportunità per migliorare l’efficienza, la trasparenza e l’accessibilità dei servizi. L’ia può automatizzare compiti ripetitivi, ridurre i tempi di attesa, fornire informazioni personalizzate ai cittadini e garantire una maggiore trasparenza nei procedimenti legali e amministrativi. Tuttavia, è fondamentale garantire che l’uso dell’ia nel settore pubblico sia conforme ai principi etici e legali, mantenendo il controllo umano sulle decisioni e garantendo la trasparenza degli algoritmi.
L’adozione dell’ia nella pubblica amministrazione comporta implicazioni significative per il diritto amministrativo. È necessario definire i limiti entro i quali l’ia può essere utilizzata nei processi decisionali, garantendo che le decisioni siano sempre basate su criteri oggettivi e trasparenti. Inoltre, è fondamentale stabilire meccanismi di controllo e di ricorso per garantire che i cittadini possano contestare le decisioni prese dall’ia. La sfida consiste nel sfruttare i vantaggi dell’ia senza compromettere i principi fondamentali dello stato di diritto.

L’articolo 3-bis della legge 241 del 1990, come modificato dal decreto-legge 76 del 2020, collega l’efficienza delle pubbliche amministrazioni all’uso di “strumenti informatici e telematici” sia all’interno dell’ente che nei rapporti tra le pubbliche amministrazioni e i privati. Questo articolo fornisce una base legale per l’adozione dell’ia nella pubblica amministrazione, ma è necessario interpretarlo alla luce dei principi costituzionali e dei diritti fondamentali. È fondamentale garantire che l’uso dell’ia non comprometta i principi di imparzialità, trasparenza e responsabilità.

L’articolo 50-ter del decreto legislativo 82 del 2005 regola i rapporti di interconnessione tra le pubbliche amministrazioni, disciplinando anche la piattaforma digitale nazionale dati. Questo articolo è rilevante per l’ia in quanto l’accesso ai dati è essenziale per l’addestramento e il funzionamento degli algoritmi. Tuttavia, è necessario garantire che l’accesso ai dati sia conforme alle norme sulla protezione dei dati personali e che non comporti discriminazioni o violazioni della privacy. L’equilibrio tra l’accesso ai dati e la tutela dei diritti fondamentali è una sfida cruciale per lo sviluppo dell’ia nella pubblica amministrazione.

Un’altra concreta criticità derivante dalle determinazioni automatiche è che esse non sempre offrono le motivazioni richieste dalla legge come fondamento di ogni scelta e atto amministrativo, secondo quanto stabilito dall’articolo 3 della legge n. 241/1990.