Da qualche tempo, la pubblica amministrazione ha iniziato a far ricorso agli algoritmi nello svolgimento di procedimenti amministrativi, sfruttando le potenzialità di calcolo e di elaborazione che i suddetti strumenti offrono e giovando dei vantaggi derivanti dalla contrazione delle tempistiche e della quantità di risorse impiegate.Tuttavia, la capacità degli algoritmi di effettuare operazioni automatizzate in grado di sostituirsi all’attività umana e di soppiantare intere fasi procedimentali, pone dei dubbi sulla loro compatibilità con i principi stabiliti dall’ordinamento per il legittimo esercizio del potere pubblico. Sul solco di tali dubbi, il presente contributo esamina il rapporto tra l’utilizzo degli algoritmi e i principi procedimentali, tenendo conto degli orientamenti della giurisprudenza amministrativa.
Sommario:
1. L’algoritmo
2. Algoritmo e principi del procedimento amministrativo
3. Il Regolamento UE 2016/679 e il diritto degli interessati a non essere sottoposti a una decisione basata unicamente su un trattamento automatizzato
4. Il punto della giurisprudenza
5. Un nuovo significato di “trasparenza”
6. Conclusioni
1. L’algoritmo
L’algoritmo consiste in una serie di istruzioni finalizzate alla soluzione di un problema o al raggiungimento di un determinato risultato.
Il suo nome deriva del matematico arabo Mohammed ibn-Musa al-Khwarizmi, vissuto tra il 780 e l’850 d.C., considerato uno dei pionieri nella comprensione e nell’utilizzo di tale “strumento”.
Le istruzioni che compongono l’algoritmo sono poste in sequenza e sono eseguite secondo l’ordine prestabilito; esse vengono solitamente rappresentate attraverso un diagramma di flusso (c.d. flow chart).
Uno dei settori prediletti per l’utilizzo degli algoritmi è quello dell’Information Technologies, essendo comunemente utilizzati nella programmazione e nello sviluppo di software, in ragione della loro attitudine a risolvere problematiche complesse in modo automatizzato.
In tale ambito, è oggi particolarmente rilevante l’utilizzo degli algoritmi per lo sviluppo dell’intelligenza artificiale, che vede la progettazione di software che non si limitano ad eseguire le istruzioni programmate, bensì ad apprendere nuove informazioni dalla realtà circostante.
Nonostante, quindi, l’algoritmo abbia origini antiche, le sue applicazioni sono fondamentali per il progresso tecnologico, il cui evolversi condiziona non solo gli stili di vita, ma anche lo sviluppo della cultura sociale.
La vis attractiva dei vantaggi dell’utilizzo di un algoritmo non ha certo lasciato indifferente la pubblica amministrazione, che vede con favore l’agevolazione di attività amministrative a volte complesse e defatiganti, nelle quali non è certo trascurabile la probabilità dell’errore umano.
2. Algoritmo e principi del procedimento amministrativo
Il vento dell’innovazione tecnologica, seppur con tempistiche non sempre celeri e le annesse difficoltà per gli opportuni adattamenti organizzativi, ha investito da tempo la pubblica amministrazione.
Significativa, a tal riguardo, è stata l’introduzione del Codice dell’amministrazione digitale, ad opera del decreto legislativo 7 marzo 2005, n. 82, la cui finalità, espressamente indicata all’art. 2, comma 1, consiste nell’assicurare “la disponibilità, la gestione, l'accesso, la trasmissione, la conservazione e la fruibilità dell'informazione in modalità digitale […] utilizzando con le modalità più appropriate, le tecnologie dell'informazione e della comunicazione”.
In particolare, il successivo art. 12 precisa, al comma 1, che “[l]e pubbliche amministrazioni nell'organizzare autonomamente la propria attività utilizzano le tecnologie dell'informazione e della comunicazione per la realizzazione degli obiettivi di efficienza, efficacia, economicità, imparzialità, trasparenza, semplificazione e partecipazione nel rispetto dei principi di uguaglianza e di non discriminazione, nonché per l'effettivo riconoscimento dei diritti dei cittadini e delle imprese […]”.
Le tecnologie dell’informazione, quindi, assurgono a strumento agevolatore per il rispetto dei principi che informano l’attività amministrativa e per i diritti dei privati.
Ad ulteriore conferma, l’art. 3-bis della legge n. 241/90 sul procedimento amministrativo promuove l’uso della telematica, sia tra i rapporti interni alle pubbliche amministrazioni che nei rapporti con i privati, al fine di conseguire “maggiore efficienza”.
Invero, sono innegabili le facilitazioni che derivano dalla fruizione, da parte dei cittadini, dei servizi on line offerti dalle varie amministrazioni, facendo venire meno la necessità di recarsi presso gli uffici amministrativi ed evitando le, spesso, interminabili attese in coda, con conseguente risparmio di tempo, di costi e di risorse.
Tali servizi informatici sono stati, ad esempio, fondamentali durante il periodo di lockdown dovuto all’emergenza sanitaria da Covid-19.
Il processo di informatizzazione della pubblica amministrazione è stato definito come “e-governement”, consistente nel “l’uso delle tecnologie dell’informazione e della comunicazione nelle pubbliche amministrazioni, coniugato a modifiche organizzative ed all’acquisizione di nuove competenze al fine di migliorare i servizi pubblici ed i processi democratici e di rafforzare il sostegno alle politiche pubbliche”.
L’evoluzione tecnologica delle pubbliche amministrazioni però non si è limitata all’uso delle tecnologie di informazione e comunicazione, ma si è spinta, più recentemente, fino all’utilizzo degli algoritmi all’interno dei procedimenti amministrativi.
A titolo esemplificativo, si pensi alle procedure di trasferimento o di assegnazione di prima sede degli insegnanti, oppure al riconoscimento di contributi assistenziali sulla base di determinati parametri, o ancora agli accertamenti fiscali su base presuntiva che si fondano sulla sussistenza di alcuni indici rivelatori di reddito sommerso.
Tali procedimenti sono soliti caratterizzarsi per: (i) un numero elevato dei destinatari; (ii) la presenza di criteri standardizzati individuati a monte da una disposizione normativa; (iii) una ridotta discrezionalità da parte dell’amministrazione.
Ebbene, l’uso dell’algoritmo consente di elaborare con grande facilità e speditezza i dati necessari per l’emanazione del provvedimento finale.
Conseguentemente l’utilizzo dell’algoritmo comporta un quid pluris rispetto alla telematica o agli strumenti della tecnologia dell’informazione e della comunicazione che le norme citate espressamente richiamano: infatti, mentre questi ultimi attengono prevalentemente alla forma degli atti e non intaccano le caratteristiche del procedimento amministrativo, l’algoritmo è idoneo a sostituire alcune fasi procedimentali, andando quindi ad incidere sulla sostanza del procedimento e sui principi stabiliti dall’ordinamento.
Il grado di incidenza sul procedimento dipende anche della concezione di quest’ultimo.
Secondo la concezione “formale” (o teleologica), il procedimento amministrativo si sostanzia nell’insieme di una pluralità di atti, susseguenti e diversi fra loro e preordinati all’adozione di un provvedimento finale, che danno di conseguenza vita a una fattispecie a formazione progressiva.
Diversamente, secondo la concezione “sostanziale” del procedimento, quest’ultimo rappresenta la modalità di esercizio del potere pubblico, ovvero la “forma della funzione amministrativa”. Secondo tale concezione, il procedimento costituisce il momento di “coordinamento e composizione di opposti interessi pubblici e privati”.
Entrambe le concezioni sembrano mal conciliarsi con la modalità operativa dell’algoritmo: nell’ottica della concezione formale, l’utilizzo dell’algoritmo potrebbe far venir meno le diverse fasi precedenti all’emanazione del provvedimento finale e, conseguentemente, la pluralità di atti tipici del procedimento amministrativo; nell’ottica della concezione sostanziale, potrebbe invece venire meno il momento di coordinamento e composizione degli interessi pubblici e privati.
Ciò è ancor più evidente se si tiene conto che il procedimento consente la partecipazione e il contraddittorio dei soggetti incisi dal provvedimento finale, fungendo da fonte di legittimazione del potere pubblico e garantendo la democraticità dell’ordinamento amministrativo.
La partecipazione dei privati nel procedimento amministrativo garantisce quella che viene definita come legalità procedurale, la quale si affianca alla legalità sostanziale, correggendone eventuali deficit, specie nelle ipotesi in cui la legge appare indeterminata e viene lasciato al potere amministrativo il compito di stabilire la disciplina di dettaglio (si pensi al potere regolatorio delle Autorità amministrative indipendenti).
La partecipazione del privato nel procedimento amministrativo è, inoltre, alla base della teoria normativa dell’interesse legittimo elaborata da Mario Nigro, ormai predominante in dottrina e giurisprudenza, secondo la quale esso consiste nella posizione giuridica di vantaggio riconosciuto al privato di influire sull’azione amministrativa, condizionandola, al fine di tutelare il bene della vita alla cui conservazione o acquisizione il privato stesso aspira.
Motivo per cui, se l’istruttoria procedimentale è soppiantata da un’elaborazione robotizzata, il privato, pur astrattamente titolare di un interesse legittimo, difficilmente potrebbe influire sull’azione amministrativa.
Recentemente, la Corte Costituzionale ha ricordato che “il procedimento amministrativo costituisce il luogo elettivo di composizione degli interessi, in quanto «[è] nella sede procedimentale […] che può e deve avvenire la valutazione sincronica degli interessi pubblici coinvolti e meritevoli di tutela, a confronto sia con l’interesse del soggetto privato operatore economico, sia ancora (e non da ultimo) con ulteriori interessi di cui sono titolari singoli cittadini e comunità, e che trovano nei princìpi costituzionali la loro previsione e tutela. La struttura del procedimento amministrativo, infatti, rende possibili l’emersione di tali interessi, la loro adeguata prospettazione, nonché la pubblicità e la trasparenza della loro valutazione […]»”.
Il contemperamento degli interessi pubblici e privati è garantito dalle previsioni contenute in diverse disposizioni della L. n. 241/1990, tra le quali si evidenziano: l’art. 7, che prevede la comunicazione di avvio del procedimento ai soggetti nei confronti dei quali il provvedimento finale è destinato a produrre effetti diretti ed a quelli che per legge debbono intervenirvi; l’art. 9, che riconosce la facoltà di intervento nel procedimento a qualunque soggetto portatore di interessi pubblici o privati; l’art. 10-bis, il quale prevede che nei procedimenti ad istanza di parte il responsabile del procedimento o l’autorità competente, prima di adottare un provvedimento negativo, comunica tempestivamente agli istanti i motivi che ostano all’accoglimento della domanda, in modo da consentire loro di presentare eventuali osservazioni o documenti.
Al contempo, vi sono delle fattispecie in cui la partecipazione dei privati non è prevista, come ad esempio nei procedimenti volti all’emanazione di atti che non incidono direttamente su di una posizione giuridica soggettiva, come gli atti normativi, quelli amministrativi generali, o di pianificazione e organizzazione; o ancora, nei procedimenti dove, almeno nelle prime fasi, occorre mantenere una certa riservatezza al fine di non comprometterne gli esiti, quale ad esempio gli accertamenti di natura tributaria.
Ma indipendentemente dalle ipotesi in cui la partecipazione del privato è espressamente esclusa dalla legge, occorre evidenziare che l’art. 21-octies, comma 2, della L. n. 241/90, relativo alla non annullabilità per vizi meramente formali dell’atto, sancisce che “[i]l provvedimento amministrativo non è comunque annullabile per mancata comunicazione dell'avvio del procedimento qualora l'amministrazione dimostri in giudizio che il contenuto del provvedimento non avrebbe potuto essere diverso da quello in concreto adottato”.
Infatti, l’intervento del privato, è teso a “condizionare” l’esercizio del potere amministrativo, sicché laddove quest’ultimo sia comunque insensibile a qualsiasi tipo di condizionamento, ne deriva l’irrilevanza dell’intervento medesimo.
Tale situazione può verificarsi, ad esempio nelle ipotesi di “attività vincolata”, nelle quali l’amministrazione è chiamata solo a verificare la sussistenza dei presupposti determinati dalla legge al fine dell’emanazione del provvedimento finale. In tali ipotesi, la partecipazione del privato nulla potrebbe aggiungere ove i presupposti richiamati dalla legge effettivamente sussistano e non vi sia necessità di alcuna valutazione discrezionale da parte dell’amministrazione.
Ebbene, nelle ipotesi di attività vincolata, l’uso di un algoritmo che, in modo automatizzato, faccia applicazione dei criteri individuati a monte dalla legge, non dovrebbe ledere gli interessi del privato inciso dal provvedimento finale.
Naturalmente, l’uso dell’algoritmo, pur in presenza di attività vincolata, non attenua in alcun modo, da parte dell’amministrazione, l’obbligo di trasparenza, né quello di motivazione del provvedimento finale ai sensi dell’art. 3 della L. n. 241/90, al fine di consentire la comprensione dei presupposti di fatto e delle ragioni giuridiche alla base dell’agere amministrativo.
Di conseguenza, il privato dovrebbe sempre essere messo in condizione di comprendere le logiche e le istruzioni sottese al funzionamento dell’algoritmo, anche allo scopo di agire in giudizio ove ravvisasse la lesione dei propri diritti o interessi legittimi.
Ai principi ed ai diritti riconosciuti al privato dalla legge nazionale, si aggiungono quelli previsti dalle disposizioni del Regolamento UE 2016/679.
3. Il Regolamento UE 2016/679 e il diritto degli interessati a non essere sottoposti a una decisione basata unicamente su un trattamento automatizzato
L’art. 22, par. 1, del Regolamento UE 2016/679 (GDPR) sancisce il diritto dell’interessato “di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato […] che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla persona”.
La norma prevede alcune eccezioni al paragrafo 2, tra le quali, tralasciando le ipotesi che non rilevano all’interno di un procedimento amministrativo, la fattispecie in cui il processo decisionale automatizzato sia autorizzato dal diritto dell’Unione o dello Stato membro a cui è soggetto il titolare del trattamento, che deve precisare le misure adeguate a tutela dei diritti, delle libertà e dei legittimi interessi dell’interessato.
Una simile previsione è contenuta anche nella direttiva (UE) 2016/680, relativa alla protezione delle persone fisiche con riguardo al trattamento dei dati personali da parte delle Autorità competenti ai fini di prevenzione, indagine, accertamento e perseguimento di reati o esecuzione di sanzioni penali, nonché alla libera circolazione di tali dati, recepita con D.Lgs. 18 maggio 2018, n. 51.
La disposizione in commento è frutto della consapevolezza del legislatore europeo che una decisione derivante da un trattamento completamente automatizzato e da cui derivano conseguenze giuridiche per i destinatari potrebbe sfuggire a forme di controllo sulla regolarità e correttezza della decisione medesima.
Per tale ragione, è necessaria l’individuazione di misure appropriate per la tutela dei diritti e delle libertà degli interessati, tra le quali rientra il “diritto di ottenere l’intervento umano da parte del titolare del trattamento” e il “diritto di esprimere la propria opinione e di contestare la decisione”.
I predetti diritti sono esplicitamente previsti dall’art. 22, par. 3, GDPR quali garanzie minime nelle ipotesi in cui il trattamento automatizzato sia stato autorizzato dall’interessato tramite consenso esplicito, oppure sia necessario alla conclusione o all’esecuzione di un contratto tra l’interessato medesimo e il titolare del trattamento.
Non viene richiamata, invece, la suddetta tutela minima anche per l’ipotesi in cui la decisione tramite trattamento automatizzato sia autorizzata da una fonte normativa interna o sovranazionale: in tali casi, infatti, la stessa normativa dovrebbe indicare le misure adeguate per la tutela dei diritti e per le libertà degli interessati.
Va però evidenziato che il considerando n. 71 del GDPR precisa che “[i]n ogni caso, tale trattamento dovrebbe essere subordinato a garanzie adeguate, che dovrebbero comprendere la specifica informazione all'interessato e il diritto di ottenere l'intervento umano, di esprimere la propria opinione, di ottenere una spiegazione della decisione conseguita dopo tale valutazione e di contestare la decisione”.
La locuzione “in ogni caso” lascia intendere che anche nelle ipotesi in cui la decisione automatizzata sia autorizzata dal diritto interno o sovranazionale, tra le misure adeguate alla tutela dei diritti degli interessati dovrebbero comunque rientrare il diritto di ottenere l’intervento umano, quello di esprimere la propria opinione, di conoscere le ragioni alla base della decisione e di contestare la decisione medesima.
Invero, una parte dei diritti appena elencati sembrano corrispondere, almeno parzialmente, alle guarentigie procedimentali previste dalla L. n. 241/90: il diritto di esprimere le proprie opinioni risponde infatti alla logica della partecipazione al procedimento amministrativo; il diritto di conoscere le ragioni alla base della decisione è speculare tanto al diritto di accesso, quanto all’obbligo di motivazione del provvedimento da parte della pubblica amministrazione; il diritto di contestare la decisone medesima è riconosciuto sia attraverso strumenti amministrativi, quali il ricorso gerarchico o l’istanza per l’esercizio dell’autotutela, sia attraverso il ricorso giurisdizionale.
Quanto, invece, al diritto di ottenere l’intervento umano, è opportuno tenere presente che l’art. 5 della L. n. 241/90 prevede la figura del “responsabile del procedimento”, il quale deve essere necessariamente nominato per ogni procedimento amministrativo. Tra i compiti del responsabile, ai sensi dell’art. 6 della medesima L. n. 241/90, vi sono quelli di: valutare la sussistenza dei presupposti per l’emanazione del provvedimento finale, adottare il provvedimento finale o trasmettere gli atti dell’istruttoria all’organo competente per l’emanazione del provvedimento finale, emettere il provvedimento finale discostandosi dalle risultanze dell’istruttoria, purché con idonea motivazione.
La presenza del responsabile del procedimento potrebbe garantire, di fatto, il controllo umano anche sui procedimenti automatizzati.
Tuttavia ci si chiede se il potenziale controllo del responsabile sia in concreto realizzabile in presenza di uno strumento robotizzato e se sia sufficiente a garantire, in maniera effettiva, i diritti previsti dal GDPR.
A fronte di un vuoto normativo sul punto, il Consiglio di Stato ha elaborato una serie di principi e di regole per l’uso legittimo degli algoritmi da parte delle pubbliche amministrazioni.
4. Il punto della giurisprudenza
In materia di utilizzo degli algoritmi nel procedimento amministrativo si registrano diverse sentenze della giurisprudenza amministrativa, frutto di due visioni contrapposte: da una parte quella del Tribunale amministrativo regionale per il Lazio, restìa all’utilizzo di tali strumenti, dall’altra quella del Consiglio di Stato, aperto all’utilizzo degli stessi, pur nel rispetto di determinati principi.
In particolare, il Tar, in una delle pronunce sul tema, evidenzia come l’utilizzo dell’algoritmo fa venire meno l’attività amministrativa, devolvendola ad un meccanismo matematico od informatico impersonale “orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l’attività amministrativa, specie ove sfociante in atti provvedimentali incisivi di posizioni giuridiche soggettive di soggetti privati e di conseguenziali ovvie ricadute anche sugli apparati e gli assetti della pubblica amministrazione”.
Pur impostando l’algoritmo in modo da tener conto di tutti i presupposti che la legge richiede per l’emanazione del provvedimento finale, secondo il Tar “giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della legge 7.8.1990 n. 241 hanno apprestato, tra l’altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario […] gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificati e compressi soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche. A essere inoltre vulnerato non è solo il canone di trasparenza e di partecipazione procedimentale, ma anche l’obbligo di motivazione delle decisioni amministrative, con il risultato di una frustrazione anche delle correlate garanzie processuali che declinano sul versante del diritto di azione e difesa in giudizio di cui all’art. 24 Cost., diritto che risulta compromesso tutte le volte in cui l’assenza della motivazione non permette inizialmente all’interessato e successivamente, su impulso di questi, al Giudice, di percepire l’iter logico – giuridico seguito dall’amministrazione per giungere ad un determinato approdo provvedimentale”.
Ancor più esplicativa è la considerazione secondo la quale le “procedure informatiche, finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione, non possano mai soppiantare, sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica è in grado di svolgere e che pertanto, al fine di assicurare l’osservanza degli istituti di partecipazione, di interlocuzione procedimentale, di acquisizione degli apporti collaborativi del privato e degli interessi coinvolti nel procedimento, deve seguitare ad essere il dominus del procedimento stesso, all’uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo; ostando alla deleteria prospettiva orwelliana di dismissione delle redini della funzione istruttoria e di abdicazione a quella provvedimentale, il presidio costituito dal baluardo dei valori costituzionali scolpiti negli artt. 3, 24, 97 della Costituzione oltre che all’art. 6 della Convezione europea dei diritti dell’uomo”.
Di diverso avviso, invece, è il Consiglio di Stato.
Con una prima pronuncia, i Giudici di Palazzo Spada osservano come un più elevato livello di digitalizzazione dell’amministrazione pubblica è fondamentale per il miglioramento della qualità dei servizi ai cittadini e agli utenti.
Allo stesso modo, evidenzia il Consiglio di Stato, l’automazione del processo decisionale della pubblica amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un algoritmo in grado di valutare e graduare una moltitudine di domande comporta indiscutibili vantaggi, in particolare nelle procedure “seriali o standardizzate”, caratterizzate dall’elaborazione di ingenti quantità di istanze e dall’acquisizione di “dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale”.
Il processo automatizzato è “conforme ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale”.
Di conseguenza, secondo il Consiglio, “l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporta infatti numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata”.
Tuttavia, precisa il Supremo Consesso della giustizia amministrativa, l’utilizzo di procedure robotizzate non deve portare all’elusione dei principi che conformano l’ordinamento e lo svolgersi dell’attività amministrativa.
A tal proposito, il Collegio elabora un “decalogo” contenente i criteri in presenza dei quali l’utilizzo dell’algoritmo è legittimo e conforme ai suddetti principi, ovvero quando la regola tecnica posta alla sua base:
- “possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.;
- non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;
- vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);
- deve contemplare la possibilità che – come è stato autorevolmente affermato – sia il giudice a “dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti”.
Secondo il Consiglio di Stato, l’algoritmo, ovvero il relativo software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”, quindi soggetto ai principi procedimentali previsti dall’ordinamento, tra cui quello della trasparenza.
In tali fattispecie, però, la trasparenza assume una “declinazione rafforzata” che si sostanzia nella piena conoscibilità: (i) della regola espressa in un linguaggio diverso rispetto a quello giuridico, (ii) degli autori dell’algoritmo, (iii) del procedimento utilizzato per la sua elaborazione, (iv) del meccanismo di decisione e (v) dei criteri o dei dati utilizzati a tal riguardo.
In sostanza, continua il Collegio, “la “caratterizzazione multidisciplinare” dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice”.
Inoltre, la regola algoritmica è soggetta alla piena cognizione del giudice amministrativo, il quale deve poter verificare come il potere sia stato concretamente esercitato dall’amministrazione, a tutela anche del diritto di difesa dei privati, che non può essere precluso dalle concrete modalità di esercizio del potere.
Sicché, il giudice deve poter valutare la correttezza del processo informatico in tutte le sue componenti, dalla sua costruzione all’inserimento dei dati, compresa la validità degli stessi e la loro gestione e, conseguentemente, la logicità e la ragionevolezza della decisione amministrativa robotizzata, anche attraverso la regola che governa l’algoritmo.
I principi sopra enunciati sono stati confermati dal Consiglio di Stato in una successiva pronuncia, nella quale viene ulteriormente messo in evidenza il vantaggio dell’utilizzo degli algoritmi per l’assunzione di decisioni da parte della pubblica amministrazione, in quanto idonei a “correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani, messi in luce soprattutto negli ultimi anni da un’imponente letteratura di economia comportamentale e psicologia cognitiva”.
Inoltre, il Collegio specifica che non sussistono motivi per limitare l’utilizzo di tali strumenti alla sola attività vincolata, piuttosto che discrezionale, “atteso che ogni attività autoritativa comporta una fase quantomeno di accertamento e di verifica della scelta ai fini attribuiti dalla legge”. Di conseguenza, “se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla c.d. attività vincolata, nulla vieta che i medesimi fini predetti, perseguiti con il ricorso all’algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità”.
Fondamentale, però, è garantire gli elementi minimi di garanzia per il privato, consistenti nel rispetto del principio di trasparenza, nella predetta declinazione “forte”, e l’imputabilità della decisione all’organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e di legittimità della scelta e degli esiti affidati all’algoritmo e sul quale cade l’eventuale responsabilità per la violazione dei diritti e degli interessi dei soggetti incisi.
Con la predetta pronuncia, il Consiglio di Stato, richiamando alcune disposizioni sovranazionali, elabora tre ulteriori principi:
- il principio di conoscibilità, in base al quale ognuno ha diritto a conoscere l’esistenza di processi decisionali automatizzati che lo riguardino e, nel caso vi siano, ottenere informazioni significative sulla logica utilizzata. Tale principio si pone quale applicazione degli artt. 13, 14 e 15 del Regolamento UE 2016/679, sull’obbligo di informativa agli interessati da parte del titolare del trattamento e sul diritto di accesso, nonché dell’art. 42 della Carta Europea dei Diritti Fondamentali, che sancisce il diritto di accesso ai documenti nel contesto dell’Unione europea, e risponde al “Right to a good administration”, in base al quale quando l’Amministrazione intende adottare una decisione che può avere effetti avversi su di una persona, essa ha l’obbligo di sentirla prima di agire e di consentire l’accesso ai suoi documenti, dando le ragioni della propria decisione. Nel caso di utilizzo degli algoritmi, alla conoscibilità deve accompagnarsi anche la “comprensibilità”, ovvero la possibilità di ricevere informazioni sulla logica utilizzata;
- principio di non esclusività della decisione algoritmica, che trova il suo fondamento nell’art. 22 del GDPR e si sostanzia nel diritto a non vedersi applicare una decisione completamente automatizzata nel caso in cui la stessa produca effetti giuridici che riguardino o incidano significativamente su una persona. Nello specifico, deve comunque esistere nel processo decisionale un contributo umano capace di controllare, validare ovvero smentire la decisione robotizzata (secondo il modello HITL – human in the loop);
- principio di non discriminazione algoritmica, ricavabile dal considerando n. 71 del GDPR, in base al quale è opportuno che il titolare del trattamento metta in atto delle procedure volte a limitare il rischio di errori e inesattezze che possano incidere sui diritti e le libertà delle persone a cui è rivolto il procedimento automatizzato, impedendo effetti discriminatori sulla base della razza, dell’origine etnica, delle opinioni politiche, della religione, delle opinioni personali, dell’appartenenza sindacale, dello status genetico, dello stato di salute o dell’orientamento sessuale. Per evitare tali effetti, occorre che vi sia la possibilità di rettificare i dati “in ingresso” presi in considerazione dall’algoritmo.
Più recentemente, il Consiglio di Stato ha ulteriormente ribadito le argomentazioni sopra illustrate, evidenziando che il ricorso all’algoritmo deve essere inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi nel rispetto dei principi e dei limiti previsti dalla legge attributiva del potere, nonché delle norme del GDPR precedentemente citate.
5. Un nuovo significato di “trasparenza”
Tra i principi elaborati nelle sentenze del Consiglio di Stato precedentemente illustrate, quello della “trasparenza” gioca un ruolo fondamentale per il legittimo utilizzo dell’algoritmo nel procedimento amministrativo.
Infatti, le elaborazioni automatiche che tale strumento comporta, caratterizzate da logiche matematiche o informatiche, di fatto potrebbero impedire un’adeguata conoscenza delle logiche sottese e della correttezza dei parametri e delle informazioni elaborate, tanto da parte dei soggetti destinatari del provvedimento quanto dello stesso giudice chiamato a vagliarne la legittimità.
Di conseguenza, la trasparenza deve spingersi fino a consentire la piena conoscenza dei meccanismi alla base del funzionamento dei suddetti strumenti automatizzati, senza che a ciò possa opporsi l’eventuale riservatezza delle informazioni legate ai software utilizzati da parte delle imprese produttrici.
A tal proposito, infatti, il Consiglio di Stato ha chiarito che “non può assumere rilievo l’invocata riservatezza delle imprese produttrici dei meccanismi informatici utilizzati i quali, ponendo al servizio del potere autoritativo tali strumenti, all’evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza”.
Il principio di trasparenza viene, inoltre, ulteriormente rinvigorito dalle disposizioni del Regolamento UE 2016/679, che ne tratteggiano nuovi contorni.
Ci si riferisce, in particolare, all’obbligo di informativa che la pubblica amministrazione, in qualità di titolare del trattamento, è tenuta a fornire agli interessati ai sensi degli artt. 13 e 14 del GDPR, nella quale deve essere indicata l’eventuale esistenza di un processo decisionale automatizzato, nonché le informazioni significative sulla logica utilizzata, unitamente all'importanza e alle conseguenze previste dal trattamento.
All’obbligo di informativa fa da contraltare il diritto di accesso alle medesime informazioni da parte degli interessati, ai sensi dell’art. 15 del GDPR.
Tale tipologia di accesso si aggiunge a quello procedimentale ex artt. 22 e ss. della L. n. 241/90, nonché a quello civico e civico generalizzato di cui al D.Lgs. n. 33/2013, innalzando il livello della trasparenza dell’azione amministrativa.
La trasparenza, quindi, a fronte dell’utilizzo di tecnologie non sempre facilmente intelligibili per l’uomo comune, raggiunge un nuovo stadio della sua evoluzione, rafforzandosi e consacrando il suo ruolo di garanzia insopprimibile per i privati, nella consapevolezza che il potere opaco, il potere nascosto, rappresenta -come affermava Norberto Bobbio- un’insidia alla democrazia.
6. Conclusioni
L’uso degli algoritmi da parte della pubblica amministrazione appare la naturale conseguenza dell’evoluzione tecnologica, effetto di quella che è stata definita come la “rivoluzione 4.0”.
I nuovi strumenti automatizzati sono potenzialmente insidiosi per i diritti e per le libertà delle persone, ma ad evitare possibili derive del potere soccorrono i tradizionali principi che l’ordinamento prevede per l’esercizio dell’azione amministrativa, in primis quello di trasparenza.
Tali principi, pur pensati in un periodo storico lontano da quello attuale, lungi dall’essere un mero eco dei tempi che furono, si ammantano di rigenerata forza e assumono nuovi significati, evolvendosi di pari passo con il progresso tecnologico e con il contesto storico-sociale e culturale.
Su questi presupposti l’azione amministrativa, che si dipana tra nuove tecnologie e“vecchi” principi, appare come Giano Bifronte, le cui due facce, secondo la mitologia, consentivano di guardare contemporaneamente il passato ed il futuro.
È proprio nel connubio tra passato e futuro, tra rispetto dei citati principi e consapevolezza del ruolo della tecnologia, un ruolo servente e non sostitutivo dell’agire umano, che si individua il giusto equilibrio per un legittimo utilizzo dell’algoritmo nel procedimento amministrativo.
Comunicazione della Commissione Europea del 26 settembre 2003 «Il ruolo dell’e-governement per il futuro dell’Europa»,
Vd. F. Caringella, Manuale di diritto amministrativo, Roma, 2016, pag.1323.
Vd. M. Clarich, Manuale di diritto amministrativo, Bologna, 2015, pagg. 228 e ss.
F. Caringella, op. cit., pagg. 12 e ss.
Corte Cost., sentenza 23 giugno 2020, n. 116.
Art. 22, par. 2, lett. b), Regolamento UE 2016/679.
Tar Lazio, Sez. III –bis, sentenza 10 settembre 2018, n. 9224, ripresa anche dalla sentenza, emessa dalla medesima Sezione del Tar, 27 maggio 2019, n. 6607.
In senso conforme, Tar Lazio, Sez. III -bis, sentenza 13 settembre 2019, n. 10964.
Consiglio di Stato, Sez. VI, sentenza 8 aprile 2019, n. 2270.
Consiglio di Stato, Sez. VI, sentenza 13 dicembre 2019, n. 8474.
Consiglio di Stato, Sez. VI, sentenza 4 febbraio 2020, n. 881.