La Pubblica amministrazione usa l’intelligenza artificiale?

L’Intelligenza artificiale oggi è molto più presente nella Pubblica amministrazione di quanto si potrebbe pensare. In tutto il mondo esistono già algoritmi che si occupano di procedure legate per esempio a concorsi e graduatorie, software in grado di automatizzare i calcoli velocizzando il processo. In alcuni casi esistono anche chatbot per rispondere alle domande più frequenti dei cittadini (in Italia per esempio è stato il Comune di Siena a fare da apripista).

Niente a che fare quindi con la visione stereotipata che vede gli uffici pubblici come luoghi polverosi e resistenti al cambiamento, pieni di faldoni cartacei e con i computer che si bloccano continuamente? Sì e no.

“La prima sentenza del Consiglio di Stato che introduce principi relativi agli algoritmi risale al 2017 – ricorda Ernesto Belisario, avvocato esperto di Pubblica amministrazione e innovazione – In questo momento non esistono norme specifiche sull’intelligenza artificiale, ma sulla digitalizzazione della Pubblica amministrazione. Il legislatore ha posto degli obiettivi di efficientamento e automazione che possono essere perseguiti con strumenti diversi e l’Ai è uno di questi”.

Per l’esperto, il fatto che esistano sentenze sull’intelligenza artificiale significa che questa fa parte a tutti gli effetti del tessuto della Pa. “In questo momento, a legislazione invariata, il Consiglio di Stato dice che l’utilizzo di algoritmi nell’ambito dell’attività amministrativa è auspicabile perché l’intelligenza artificiale può garantire l’efficienza all’attività amministrativa ed è anche garanzia dell’imparzialità dell’attività amministrativa”. Un algoritmo, se ben progettato, evita infatti gli errori di calcolo che può fare l’uomo e non è corruttibile.

La Pubblica amministrazione è quindi più avanti di quello che si potrebbe immaginare, anche se forse manca ancora un pochino di consapevolezza nell’utilizzo (e nelle potenzialità) di questi strumenti.

Delegare all’intelligenza artificiale

Al momento gran parte degli algoritmi utilizzati in ambito pubblico sono piuttosto semplici e riguardano le attività vincolate, cioè quelle che sono più facilmente automatizzabili e hanno a che fare con punteggi, graduatorie, concorsi… Il passaggio successivo è trasferire questi strumenti alle attività discrezionali, quelle in cui è definito l’obiettivo da raggiungere, ma il modo in cui farlo è frutto di una scelta. “Un caso tipico è per esempio dove collocare una scuola che serve più Comuni – esemplifica Belisario –: è meglio nel centro più popoloso? In quello baricentrico? Oppure lungo la via di comunicazione più importante? Queste sono valutazioni che, secondo l’orientamento giurisprudenziale attuale, possono essere delegate a un’intelligenza artificiale, superando così la questione dell’attività amministrativa come prerogativa umana”.

Questa evoluzione della tecnologia, che apre opportunità incredibili, si deve però accompagnare a una grande consapevolezza (da parte della Pubblica amministrazione, ma anche dei cittadini) e a un sistema di controllo non banale. “La Pubblica amministrazione deve essere sempre in grado di ricostruire il perché di una scelta. Questo per tutelare le libertà e il diritto di difesa, che deve essere sempre garantito”, afferma Belisario. Gli algoritmi, quindi, non possono essere black box, scatole nere nelle quali non è possibile ricostruire il percorso di apprendimento e quello decisionale. “Da questo punto di vista si apre un’ulteriore sfida, che è quella della qualità dei dati: oltre a essere trasparente, un algoritmo deve imparare da dati “puliti”. Si pensi al riconoscimento facciale: se alla macchina vengono forniti soprattutto visi di maschi bianchi caucasici, diventerà bravissima a distinguere questi, ma sarà molto scarsa con i volti che ha visto meno, magari quelli di donne di colore”.

Dall’etica alla regolamentazione

“Negli ultimi 4 anni ho contato nel mondo tra i 70 e gli 80 documenti etici sull’intelligenza artificiale – afferma Belisario – Si tratta di un passaggio fisiologico: quando ci si trova di fronte a qualcosa di nuovo si chiede a chi ne sa di più. Nel nostro caso ci siamo affidati ai filosofi. Terminata la fase etica, però, è necessario passare a quella della regolazione consapevole”.

Secondo l’esperto, le Pa spesso hanno iniziato a utilizzare gli algoritmi senza avere contezza dei rischi esistenti e delle cautele necessarie, ma considerandoli dei semplici software. “Oggi è molto importante che le amministrazioni sappiano cosa comprare e che riescano ad assicurarsi, da parte dei propri fornitori, il possesso di tutti i requisiti necessari, garantendo la piena conoscibilità dei dati utilizzati e la verificabilità dei criteri alla base del processo”.

Per fare questo occorre mantenere l’accesso al codice sorgente, ma anche disporre di tutta la documentazione che consenta di comprendere la logica di funzionamento dell’algoritmo e assicurare a tutte le persone coinvolte l’accesso agli atti per capire come funziona l’intelligenza artificiale, oltre naturalmente a ripetere in qualunque momento i collaudi e i test che siano necessari a verificare il corretto funzionamento dell’algoritmo.

Il nodo delle competenze

Altra questione centrale riguarda poi le competenze: quelle delle Pubbliche amministrazioni, ma anche quelle dei cittadini.

Se nel primo caso è legittimo pensare che il processo di avvicinamento a questi strumenti possa essere facilitato da consulenti interni e da autorità indipendenti o istituzioni (come i Centri di ricerca) che verifichino e controllino, dal lato dei cittadini è un po’ più complicato.

“In generale, per capire come funzionano gli algoritmi credo sia importante fare alfabetizzazione civica – afferma Belisario – Spero ci sarà una maggiore solerzia rispetto a quanto visto con i giovani e i social media: siamo tutti consapevoli dei rischi e delle opportunità, ma da anni sento parlare soltanto dei primi senza vedere seri programmi che siano in grado di fornire ai cittadini dell’oggi e del domani gli strumenti per poter vivere serenamente con i social. Per me questo è un fallimento del sistema scolastico ed educativo. Oggi c’è una componente abbastanza nuova nel mondo in cui viviamo. In passato chi era più grande ne sapeva di più e quindi insegnava; oggi chi ha più anni di noi ne sa quanto noi o forse meno. Abbiamo di fronte la grande sfida del trasferire le competenze a educatori e genitori e simultaneamente anche ai nostri ragazzi”.

Leggi anche: In Cina l’intelligenza artificiale è già in classe

Articolo pubblicato con licenza Creative Commons Attribuzione-Non opere derivate 2.5 Italia.   

Photo by Franki Chamaki on Unsplash