Procedimento amministrativo algoritmico e decisione robotizzata: efficienza o deriva orwelliana?

La pubblica amministrazione non può fare a meno delle potenzialità della "rivoluzione digitale". La piena ammissibilità di tali strumenti risponde ai canoni di efficienza ed economicità dell'azione amministrativa, i quali secondo il principio costituzionale di buon andamento dell'azione amministrativa, impongono all'amministrazione il conseguimento dei propri fini con il minor dispendio possibile di risorse. In tale contesto, il ricorso ad algoritmi informatici e a decisioni robotizzate si fonda sui guadagni in termini di efficienza e neutralità che se ne traggono. Tuttavia il Consiglio di Stato con la sentenza n. 8472 del 2019 evidenzia il rilievo ineludibile di due elementi di (minima) garanzia per ogni ipotesi di utilizzo degli algoritmi nel procedimento amministrativo: la piena conoscibilità a monte, del modulo utilizzato e dei criteri applicati; l'imputabilità della decisione all'organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti.

La vicenda - Il Tar Lazio aveva accolto il ricorso di alcuni docenti avverso un piano assunzionale straordinario: il piano non era stato affidato a un'attività amministrativa "ordinaria", bensì a un algoritmo per effetto del quale erano stati operati i trasferimenti e le assegnazioni. Dal che il Ministero si appellava al Consiglio di Stato, lamentando l'infondatezza della dichiarata illegittimità procedimentale.

La decisione - Pur con resistenze per timori di "derive orwelliane", le decisioni prese dall'algoritmo assumono aura di neutralità, frutto di asettici calcoli razionali. A ben vedere non si tratta di individuare nuovi metodi di comunicazione, come nel caso della partecipazione dei cittadini alle decisioni amministrative attraverso social network o piattaforme digitali, ci si trova dinanzi a una situazione che può essere qualificata con l'espressione "rivoluzione 4.0", che attiene alla possibilità che il procedimento di formazione della decisione amministrativa sia affidato a un software in grado di evitare interferenze dovute a negligenza o a dolo del funzionario "essere umano" con conseguente garanzia di maggior imparzialità.

L'utilità di tale gestione dell'interesse pubblico è evidente con riferimento a procedure seriali o standardizzate, prive di apprezzamento discrezionale. L'utilizzo di una procedura informatica comporta anche la riduzione della tempistica. Sul versante della conoscibilità, rilievo ha il principio della trasparenza, sia per la Pa titolare del potere, sia per i soggetti coinvolti dal potere stesso. In altre parole il meccanismo che concretizza la "decisione robotizzata" deve essere "conoscibile" secondo una declinazione rafforzata del principio di trasparenza, che implica la piena (ri)conoscibilità di una regola espressa in un linguaggio differente da quello giuridico. Tale conoscibilità dell'algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori, al meccanismo di decisione. Ciò al fine di poter verificare che i criteri, i presupposti e gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge e affinché siano chiare e quindi sindacabili, le modalità e le regole in base alle quali esso è stato impostato.

Si badi che la caratterizzazione multidisciplinare dell'algoritmo, che certo non richiede solo competenze giuridiche, ma anche tecniche, informatiche, statistiche, amministrative, non esime dalla necessità che la "formula tecnica" sia corredata da spiegazioni che la traducano nella "regola giuridica" sottesa e che la rendano "leggibile", comprensibile e per ciò stesso legittima. L'autonomia di un robot può essere definita come la capacità di prendere decisioni e metterle in atto nel mondo esterno. Tale autonomia è di natura puramente tecnologica e il suo livello dipende dal grado di complessità con cui è stata progettata l'interazione del robot con l'ambiente. Quindi, al fine di applicare le norme generali e tradizionali in tema di imputabilità e responsabilità, occorre garantire la riferibilità della decisione finale all'Organo competente.

La Carta Europea dei Diritti Fondamentali afferma che quando la Pa intende adottare una decisione che può avere effetti avversi su di una persona, ha l'obbligo di sentirla prima di agire, di consentirle l'accesso ai suoi archivi e documenti, e infine ha l'obbligo di argomentare le ragioni della propria decisione. La conoscenza dell'esistenza di decisioni prese da algoritmi va accompagnata da meccanismi in grado di decifrarne la logica. Ed ecco l'ineludibile "contributo umano" per controllare, validare, ovvero smentire la decisione robotica secondo il modello human in the loop: per produrre il suo risultato è necessario che la macchina interagisca (sempre) con l'essere umano. Dal che in questa prospettiva la deriva orwelliana sembra assai più stinta.

Consiglio di Stato – Sezione VI – Sentenza 13 dicembre 2019 n. 8472