Bisogna preparare tutti gli operatori alle possibili devianze dell’uso dei software di ultima generazione. Se un algoritmo dovrà scrivere un provvedimento amministrativo, ad esempio, una delle più preoccupanti implicazioni negative è la potenziale produzione di informazioni false o inappropriate
Il dibattito estremamente attuale sull’Intelligenza Artificiale è ad oggi ricco di contraddizioni e di opposte posizioni tra chi ne accentua con entusiamo le potenzialità e chi, al contrario, ne teme implicazioni e conseguenze di uso. In realtà, l’AI non è che la continuazione, con accelerazioni improvvise e recenti, del cambiamento digitale che ha avuto inizio con il web, che ha trasformato completamente le nostre vite.
Non è possibile limitare a pochi settori tale ulteriore rivoluzione, che può dirsi in itinere ma che già incomincia ad avere effetti dirompenti.
Per la specifica natura di questa rubrica si svolgerà qualche osservazione, rispetto solo ad un segmento delle possibili applicazioni e cioè le attuali prospettive che riguardano gli effetti sulla pubblica amministrazione, nella stretta sintesi che impone lo spazio a disposizione, pur essendo un argomento ampio e trasversale.
Il tema, come detto, è caldo, e si moltiplicano gli incontri, i convegni e gli scritti, oltre che il recente intervento del Legislatore sia italiano, sia europeo che ha portato alle prime elaborazioni sostematiche (si veda il Regolamento 1689 del 12 luglio 2024).
Sulle possibili applicazioni della rivoluzione digitale nella Pubblica Amministrazione Italiana, in verità, si è occupato sin dal 2014 l’apposito Dipartimento ministeriale “Agenda Digitale Italiana”, quindi non può dirsi che il nostro Paese non sia partito in tempo. Ma le sfide sono aumentate in maniera vertiginosa e le possibili applicazioni aumentate dallo sviluppo tecnologico degli ultimi 5 anni. Da un lato sono di immediata percezione i vantaggi per automatizzare processi ripetitivi e onerosi riducendo i costi e i tempi ordinari, come la lettura rapida, la classificazione e l’attribuzione di atti e documenti.
Come pure il miglioramento della trasparenza, pilastro fondamentale della fiducia dei cittadini nella PA, tema sul quale l’intelligenza artificiale ha il potenziale enorme di miglioramento, automatizzando la pubblicazione dei dati e facilitando l’analisi e la comprensione delle attività istituzionali.
L’intelligenza artificiale inoltre può essere in grado di attuare un utilizzo più intelligente delle risorse esistenti, analizzando modelli di consumo e suggerendo modalità per ridurre gli sprechi, migliorare la gestione delle risorse o distribuire, ad esempio, il personale in base alle effettive necessità, pur se questo passerebbe attraverso un profondo cambiamento culturale e il superamento di vecchi schematismi contrattuali, cosa non facile nel nostro Paese.
Ma vi sono anche le preoccupazioni dell’invasività dello strumento, i cui rischi sono ancora in larga parte sconosciuti, specialmente in materia di attendibilità delle informazioni e di protezione dei dati.
Bisogna preparare tutti gli operatori alle possibili devianze dell’uso dei software di ultima generazione. Se un algoritmo dovrà scrivere un provvedimento amministrativo, ad esempio, una delle più preoccupanti implicazioni negative è quella della potenziale produzione di informazioni false o inappropriate.
È, pertanto, necessario avere un efficace controllo sulla trasparenza nell’uso dei sistemi automatizzati, con sistemi che prima di ogni cosa siano comprensibili, accessibili e verificabili da parte di soggetti indipendenti, il che impone attenzione alla governance e alla scelta di queste nuove, indispensabili, autorità.
Non può non rimarcarsi la prospettiva, a volte sottile e rischiosa, di una Pubblica Amministrazione standardizzata sui precedenti, o su associazioni algoritmiche.
Si pensi al delicato settore della giustizia e a sentenze per moduli, con il concretizzarsi della giustizia predittiva, non più vista come un film di fantascienza, ma come realtà vicina che giuristi e sociologi già vedono, quasi toccano e discutono, temendo che nell’impostazione dell’azione giurisdizionale e della decisione, fissate per modelli, la parte più strettamente umana della giurisdizione non assuma più il dovuto rilievo. L’amministrare la cosa pubblica, infatti, non è solo analisi di dati e applicazione automatica di norme, è innanzitutto interpretazione della realtà e anche l’analisi cosciente, politica, dello sviluppo di una società. Non potrà mai essere solo un algoritmo a decidere sulla sorte dei cittadini ma la prima e ineludibile necessità è far si che l’Uomo abbia sempre l’ultima parola. E queste sfide, per quanto detto, e per la loro complessità tecniche, giuridiche, etiche, saranno affrontabili soltanto attraverso una fusione dei saperi con teams pluridisciplinari composte da giuristi sociologi e informatici. In questa direzione sembra che stiano andando le prime regolamentazioni che sono state emanate cui si è accennato e che lasciano all’uomo il controllo per fissare i limiti di azione e di tutela per governare i fenomeni tecnologici.
Tutto ciò dovrebbe anche passare anche attraverso corposi investimenti nel settore da parte dell’Unione Europea, che si pone sempre come area del mondo regolatrice, più che produttrice di scienza applicata, specie con il sorpasso evidente di alcune aree del mondo nell’ultimo quarto di secolo.
Una tematica questa non del tutto affrontata, forse perché non modificabile nelle condizioni attuali dell’economia.
Vi è (o dovrebbe esserci) la consapevolezza che queste straordinarie tecnologie sono in mano a pochissimi players internazionali privati, per lo più statunitensi, oltre che ad infinite banche dati sparse per il mondo, dall’India alla Cina, che concorrono tutte a rendere più informato e sempre più articolato il sistema che si autoalimenta con le informazioni che tutti noi, anche inconsapevolmente, forniamo.
Preoccupa quindi l’opacità degli algoritmi utilizzati da aziende private e il rifiuto di queste ultime di rendere conto delle caratteristiche dei loro prodotti, protetti dal segreto industriale.
Se con gli algoritmi le autorità statali avanzeranno nei servizi con incidenze significative sui diritti dei cittadini, non si può non rilevare un problema di trasparenza e di affidabilità degli attori privati.
Un tema dunque enorme, che non può essere esaurito in poche righe, ma richiederà una grande attenzione per chi si occuperà di tematiche sensibili come i servi della pubblica amministrazione – ad esempio sanità, giustizia, economia, previdenza, sovvenzioni pubbliche – in cui ad apparenti semplificazioni potrebbero corrispondere pericolose generalizzazioni.