Un recente documentario nel Regno Unito ha riacceso i riflettori sulla tragica vicenda dei subpostmaster della Royal Mail, il servizio postale della Corona. Migliaia di loro sono stati accusati di frodi, molti arrestati e incarcerati, tutto a causa di discrepanze finanziarie erroneamente rilevate da un software di contabilità noto come Horizon. Un ritardo clamoroso ha rivelato che questi ammanchi di cassa, accusa principale contro i subpostmaster nel periodo 2009-2015, erano in realtà dati errati e privi di fondamento.
Alcuni accusati hanno resistito, ma altri, incapaci di sopportare la pressione, hanno perso la vita. Queste vittime non avranno mai la soddisfazione di essere riabilitate, rendendo questo episodio il più esteso errore giudiziario nella storia britannica.
Questo caso sottolinea la gravità dei danni causati da errori software, un fenomeno non nuovo (basti pensare al disastro del Boeing 737 Max), ma il caso Horizon è ancora più preoccupante. A differenza del disastro aereo, dove il difetto si è manifestato irrimediabilmente, i dati sbagliati di Horizon hanno influenzato decisioni giudiziarie, permettendo ai pubblici ministeri e ai giudici di basare le loro azioni su informazioni erronee. Sorge quindi la domanda: perché gli accusati sono stati costretti a dimostrare gli errori del software, mentre gli inquirenti non hanno verificato la sua affidabilità prima di formulare le accuse?
Questa vicenda evidenzia il rapporto problematico tra istituzioni, cittadini e tecnologie dell’informazione, presentate come divinità onnipotenti ma che, in realtà, possono causare danni irreparabili. Il caso della “intelligenza artificiale” ne è un esempio.
Il problema fondamentale nel “mondo digitale” è la mancanza di responsabilità nello sviluppo del software. Fino ad oggi, legislatori nazionali e organi comunitari hanno trascurato questo aspetto, nonostante norme esistenti come il regolamento sulla protezione dei dati personali. Questo regolamento richiede di tutelare i diritti individuali fin dalla progettazione dei software, ma quanti programmi rispettano effettivamente questo obbligo di legge? Quanti danni sono stati causati da software progettati senza considerare la protezione delle persone coinvolte?
Se le autorità di protezione dei dati si fossero impegnate su questo fronte, avrebbero potuto ridurre significativamente le difettosità dei programmi, proteggendo così le persone e i loro diritti. Il caso delle “cartelle pazze” delle multe e delle bollette errate rappresenta solo la punta dell’iceberg.
Non possiamo garantire che l’applicazione del regolamento sui dati personali avrebbe evitato ingiustizie nella vicenda della Royal Mail, ma è un fatto che l’industria del software si basa sul principio del “as is”, senza garanzie di alcun tipo. Mentre le istituzioni comunitarie propongono una responsabilità “aggravata” solo per l’IA ad alto rischio, sembra che la “stupidità” dei software e dei loro sviluppatori rimanga immune dalle conseguenze dei danni causati, poiché la “stupidità” non è considerata un reato.
