Sommario: 1. La vicenda processuale – 2. Nozioni preliminari – 3. Sulla natura “attizia” del software – 4. La corretta qualificazione giuridica del software e le sue implicazioni – 5. Il software quale modulo operativo alla prova dell’Intelligenza Artificiale – 6. La soluzione del T.A.R. Lazio: conclusioni e prospettive.
1. La vicenda processuale
La pronuncia in commento ha riguardato la richiesta di annullamento di una serie di provvedimenti inerenti a una procedura di assegnazione delle sedi scolastiche presso cui effettuare attività di supplenza[1].
Nonostante il Collegio avesse dato avviso alle parti di un possibile profilo di inammissibilità per difetto di giurisdizione del giudice amministrativo, i ricorrenti «ha[nno] insistito per la giurisdizione amministrativa sui fatti di causa, atteso che l’oggetto delle contestazioni veicolate con l’atto introduttivo del giudizio riguarderebbe l’algoritmo del software utilizzato dalla p.a. per lo scorrimento delle graduatorie e l’assegnazione delle sedi di servizio».
Secondo la parte privata, infatti, «la regola veicolata dal citato algoritmo resta sempre una “regola amministrativa generale” di natura tecnica, che rappresenta l’oggetto del […] ricorso, col quale sarebbe dunque stata contestata la modalità con cui il Ministero resistente avrebbe proceduto all’assegnazione delle sedi presso cui effettuare le supplenze, utilizzando il predetto software, in spregio alle preferenze espresse dalla parte ricorrente».
Il T.A.R. Lazio ha dichiarato inammissibile il ricorso per difetto di giurisdizione, ricordando che, come chiarito da costante giurisprudenza, «in materia di graduatorie del personale scolastico la giurisdizione del giudice amministrativo de[ve] intendersi limitata alla sola conoscenza di profili di illegittimità degli atti ministeriali (decreti/ordinanze) che disciplinano la loro formazione, ove questi siano in grado di ledere in via immediata la sfera giuridica dei privati, rientrando nella giurisdizione ordinaria le rimanenti questioni relative alla costituzione e alla gestione degli anzidetti elenchi graduati, nell’ambito delle quali a venire in rilievo sono dei poteri di natura privatistica esercitati dalla p.a. con funzioni proprie del datore di lavoro».
Il collegio ha, dunque, osservato che, nel caso di specie, la parte privata aveva contestato «un segmento dell’azione della p.a. che si pone ben oltre a quello della formazione delle graduatorie di cui trattasi e con riferimento alle quali la giurisdizione amministrativa è limitata ai soli profili di illegittimità dell’ordinanza ministeriale presupposta». L’intera procedura di formazione delle GPS e delle graduatorie di istituto, nonché la successiva assegnazione delle sedi per effettuare le supplenze, rientrerebbe, infatti, a giudizio del T.A.R., nella giurisdizione ordinaria, avendo la pubblica amministrazione svolto, in quel segmento temporale, le funzioni di datore di lavoro.
La sentenza ha, quindi, dichiarato la tardività del ricorso con riferimento all’ordinanza di indizione della procedura – ritenuto l’unico atto conoscibile dal giudice amministrativo – nonché, in ogni caso, la sua inammissibilità, «in quanto non assistit[o] da specifici motivi di gravame intesi a contestarne la legittimità».
2. Nozioni preliminari
Uno dei temi che continua a destare attenzione è la corretta implementazione della tecnologia digitale nello svolgimento dell’attività dei pubblici uffici.
Scoperchiato il vaso di Pandora, la sentenza in commento torna sull’ultima delle grandi innovazioni interessanti la pubblica amministrazione: l’automazione procedimentale mediante algoritmi[2].
Lungi dal voler qui spiegare analiticamente cosa siano gli algoritmi[3] e il lungo percorso, ancora neanche concluso, ai fini del riconoscimento del loro utilizzo nei procedimenti amministrativi, ci soffermeremo sul principale spunto d’interesse fornito dalla pronuncia annotata: la natura giuridica del programma informatico.
Preme, in prima battuta, sgomberare il campo da equivoci di carattere tecnico, opportunamente distinguendo i concetti di algoritmo e di software[4]. L’algoritmo è una procedura computazionale per l’ottenimento di un valore in uscita (l’output) a partire da uno o più valori in ingresso (inputs); il programma (software) è, invece, la trascrizione dell’algoritmo in un linguaggio di programmazione[5]. La differenza non è di poco conto, atteso che, se un algoritmo appare facilmente comprensibile a un essere umano, potendo essere scritto in qualunque linguaggio, il software richiede un ben diverso livello di approfondimento, ossia un «linguaggio di programmazione sintatticamente preciso»[6].
Altra distinzione da tenere a mente è quella tra algoritmi tradizionali e algoritmi “intelligenti” o, più correttamente alla luce della precedente puntualizzazione, tra programmi tradizionali, che traducono algoritmi deterministici, e programmi “intelligenti”, che implementano algoritmi non deterministici, in particolare di apprendimento (cc.dd. machine-learnings).
La giurisprudenza ha avuto modo di chiarire la distinzione tra le due grandi famiglie di algoritmi: l’algoritmo deterministico è «semplicemente una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato», mentre il machine-learning «crea un sistema che non si limita solo ad applicare le regole del software e i parametri preimpostati (come fa invece l’algoritmo tradizionale) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico»[7].
3. Sulla natura “attizia” del software
Si intende adesso brevemente ripercorrere le principali tesi sostenute in dottrina sulla natura giuridica del software/algoritmo (spesso i due concetti sono stati adoperati come sinonimi), per poi analizzare quanto affermato al riguardo nella sentenza annotata.
Seguendo le prime riflessioni sul tema, il programma sarebbe da inquadrare all’interno degli atti amministrativi, in quanto la pubblica amministrazione, già nel momento di creazione e adozione del software, prenderebbe una decisione, limitando la propria discrezionalità e assumendo delle precise posizioni, tradotte in istruzioni informatiche, per lo svolgimento di un procedimento amministrativo in un numero indefinito di casi futuri aventi certe caratteristiche[8].
Nello specifico, secondo alcuni studiosi, il software rientrerebbe nella categoria degli atti normativi, in particolare regolamentari, in quanto definirebbe in via generale e astratta le regole per lo svolgimento dell’attività successiva[9]. A questa tesi possiamo, tuttavia, opporre due obiezioni, una di carattere formale e una di carattere sostanziale. Sul piano formale, un atto normativo è un atto adottato a seguito di un ben preciso iter di formazione, che, nel caso di specie, non si ravvisa. Sul piano sostanziale, tale atto, in quanto fonte del diritto, oltre ad essere astratto e generale, dovrebbe avere una portata innovativa per l’ordinamento, requisito che, nel programma, manca totalmente.
Un altro filone di pensiero riconduce il software alla categoria degli atti amministrativi generali, in grado di produrre effetti nei confronti di una generalità di soggetti, titolari di rapporti che abbiano le medesime caratteristiche, ancorché privi di forza precettiva[10]. Secondo Fantigrossi, in particolare, per mezzo del software l’amministrazione limiterebbe la propria discrezionalità, pre-configurando l’attività da eseguire rispetto ad una serie indeterminata di azioni future[11]. L’obiezione sollevata dai detrattori di tale tesi – che, peraltro, ha riscontrato un certo favor, soprattutto in un primo tempo, all’interno della giurisprudenza amministrativa – è che l’algoritmo è spesso programmato in un linguaggio incomprensibile tanto al funzionario quanto al cittadino interessato[12].
Da ultimo, una dottrina minoritaria ha qualificato il programma come atto interno[13] o, ancora, come una sorta di atto strumentale[14].
Volgendo, invece, brevemente lo sguardo alla giurisprudenza amministrativa, in occasione della nota vicenda dell’utilizzo dell’algoritmo introdotto dalla normativa sulla c.d. “Buona scuola”, il T.A.R. Lazio definiva il software come un «insieme organizzato e strutturato di istruzioni contenute in qualsiasi forma o supporto capace direttamente o indirettamente di fare eseguire o fare ottenere una funzione, un compito o un risultato particolare per mezzo di un sistema di elaborazione elettronica dell’informazione»[15] e lo qualificava in termini di atto amministrativo informatico, in quanto con esso:
- si concretizzava la volontà finale dell’amministrazione procedente;
- l’amministrazione costituiva, modificava o estingueva le situazioni giuridiche individuali anche se lo stesso non produceva effetti in via diretta all’esterno;
- si realizzava lo stesso procedimento[16].
In un primo momento, tale qualificazione è stata ulteriormente ribadita dallo stesso Consiglio di Stato[17], ma con una pecca (sulla quale si tornerà infra): poca chiarezza nel distinguere l’atto di adozione del software in linguaggio naturale dal software stesso.
Normalmente, nella definizione di atto amministrativo informatico, vengono individuate tre figure:
a) l’atto il cui contenuto è predisposto attraverso un sistema informatico, più o meno complesso, in modo manuale, utilizzando il computer solo quale word processor, e che, per aver efficacia nel mondo giuridico, dev’essere trasposto su supporto cartaceo e, di regola, sottoscritto;
b) l’atto che, oltre ad essere predisposto mediante sistemi informatici, è anche emanato con gli stessi strumenti (definito atto amministrativo “in forma elettronica”);
c) l’atto ottenuto attraverso un procedimento di elaborazione da parte di sistemi informatizzati che porta alla creazione di un documento giuridico collegando tra loro i dati che vengono inseriti nel computer, secondo le previsioni del software adottato e senza apporto umano (che viene generalmente definito “ad elaborazione elettronica”)[18].
Il giudice amministrativo – pur non usando quella precisa denominazione - qualificava il software come atto amministrativo ad elaborazione elettronica, in quanto contenente sul piano sostanziale la futura decisione amministrativa. Si voleva in tal modo individuare un aggancio normativo idoneo a consentire l’esercizio del diritto di accesso di cui agli artt. 22 ss. della l. 7 agosto 1990, n. 241, sciogliendo così definitivamente l’intricato nodo della conoscibilità del codice sorgente.
Epperò, nonostante il meritevole fine, non si concorda con le premesse: il software non può essere inteso come atto amministrativo informatico in nessuno dei sensi sopra richiamati.
Premesso che quest’ultimo è ritenuto dalla dottrina maggioritaria un atto amministrativo in senso proprio, perché imputabile comunque alla pubblica amministrazione, occorre in questa sede precisarne la definizione.
Rispetto alla nozione di atto amministrativo, si rintracciano due principali scuole di pensiero:
- la prima, più risalente, intende quest’ultimo come «qualunque dichiarazione di volontà, di desiderio, di conoscenza, di giudizio, compiuta da un soggetto della pubblica amministrazione nell’esercizio di una potestà amministrativa»[19]. Un orientamento fondato, perciò, sui principi volontaristici, all’epoca in auge, richiamati dalla disciplina privatistica e dalla teoria generale del diritto[20];
- la seconda, ad oggi insuperata, lo qualifica come un «atto mediante il quale l’autorità amministrativa dispone in ordine all’interesse pubblico di cui è attributaria, esercitando la propria potestà e correlativamente incidendo in situazioni soggettive del privato»[21].
Entrambe le tesi colgono quelli che sono degli elementi chiave nella sua configurazione.
Sulla base della prima definizione, ricaviamo in primis il contenuto di un atto amministrativo, che potrà essere di accertamento, di valutazione, di giudizio o di decisione. In realtà, però, l’algoritmo è una mera sequenza di operazioni, sicché, come ben individuato dalla più recente dottrina, esso ha una valenza meramente descrittiva e non prescrittiva[22].
Oltretutto, l’atto amministrativo è una manifestazione di volontà della pubblica amministrazione.
In questi termini, adottando la qualificazione di atto amministrativo con riferimento al software, dovremmo concludere che esso sia una sorta di grande atto-contenitore, all’interno del quale sono predeterminati tutti i singoli atti del procedimento fino all’adozione del provvedimento, che è a sua volta un atto amministrativo.
Giova, preliminarmente, ricordare che il programma informatico ha lo scopo di automatizzare un’attività o un procedimento amministrativo, ossia un insieme di atti, autonomi tra di essi, ma collegati verso un obiettivo comune[23]. Proprio la definizione di procedimento amministrativo richiama immediatamente la nozione di algoritmo: a livello strutturale, in effetti, non si rinvengono distinzioni di sorta.
Insomma, l’algoritmo di automazione procedimentale, in quanto procedura computazionale, contiene tutta la sequenza di atti idonea a pervenire a un provvedimento amministrativo.
Il software, invece, traspone siffatto algoritmo sul piano informatico, traducendo il suo codice in un linguaggio di programmazione. Esso, in sostanza, realizza una doppia operazione di formalizzazione:
1) in primis, la “formalizzazione dei dati di fatto o di diritto”, ovvero la traduzione in linguaggio elettronico del linguaggio naturale di un testo di legge (che costituisce il dato di diritto) e dell’avvenimento concreto (il dato di fatto);
2) poi, la “formalizzazione del processo di ragionamento”, ovvero la concretizzazione di quel percorso logico che, partendo dalle premesse (i dati in fatto e diritto formalizzati), addiviene a delle conclusioni[24].
Il programma non rappresenta, allora, com’è evidente, una manifestazione di volontà dell’amministrazione, ma la semplice modalità di concretizzazione dei criteri di formazione di tale volontà[25], espressi mediante un algoritmo.
Questi criteri vengono normalmente predeterminati dall’autorità all’interno (questa volta sì) di un atto amministrativo, una sorta di pre-software, affinché poi il programmatore li tramuti in istruzioni per l’operatività del software vero e proprio.
Si potrebbe dire, in definitiva, che il pre-software contenga l’algoritmo, espresso in linguaggio naturale, mentre il software lo ripropone sul piano informatico secondo il linguaggio della macchina.
Nel momento in cui decide, l’amministrazione applica i criteri stabiliti nel pre-software mediante il programma: parte dal fatto concreto, traduce i dati relativi al fatto in elementi di ragionamento giuridico attraverso un’analisi attenta alla luce delle norme giuridiche e ne trae le conseguenze.
Vi è anche un’altra via che conduce a un certo scetticismo verso la qualificazione del programma informatico come atto amministrativo. È stato, infatti, sottolineato che, considerato il contenuto minimo dell’atto amministrativo, emergente dall’analisi dell’art. 21-septies della l. n. 241/1990 (soggetto, oggetto, contenuto, finalità, volontà e forma), un programma informatico non disporrebbe di tali elementi essenziali, limitandosi, piuttosto, a ricalcare una semplice formula matematica[26].
Si pensi alla forma. Pur vigendo nel nostro ordinamento un principio di libertà delle forme, certamente la principale modalità è quella scritta[27]. La scrittura è, in effetti, l’unico modo per lasciare una traccia indelebile, inequivocabile e immediatamente percepibile della fattispecie procedimentale.
La forma scritta postula, altresì, la comprensibilità di quanto esposto. Se è vero che l’atto amministrativo è una «dichiarazione» o, comunque, una manifestazione di volontà da parte di un’autorità nei confronti di uno o più destinatari, allora essa «deve essere esternata con modalità che consentano ai destinatari di comprenderne il significato»[28].
Tutto ciò è ancor più vero con riferimento a un’ipotetica tutela giurisdizionale rispetto a lesioni perpetrate da un programma informatico. Premessa la supposta natura attizia del programma, dovrebbe ammettersi, infatti, finanche una pronuncia di annullamento dell’atto-software a seguito di specifiche censure mosse dal ricorrente (art. 40 c.p.a.). Pur tuttavia, «[a]ppare arduo immaginare che un avvocato e dei giudici siano in grado di garantire l’ossequio del principio di specificità delle censure proposte avverso un programma, il cui contenuto non siano in grado di intendere»[29].
Tornando, adesso, alla nozione di atto amministrativo informatico nel senso di atto ad elaborazione elettronica, è evidente che la qualificazione operata dal T.A.R. è il frutto di un’erronea concettualizzazione delle nozioni di software e di algoritmo.
Se il software si limita a formalizzare un processo logico, espresso in codice algoritmico, evidentemente esso da sé non può costituire un atto elaborato da un sistema informatico, limitandosi semmai a rappresentare, in chiave informatica, un certo ragionamento di carattere giuridico.
Si potrebbe sostenere che, in vero, la sentenza non intendesse riferirsi al software così inteso, ma, lato sensu, allo stesso l’algoritmo. Tuttavia, nemmeno quest’ultimo può considerarsi un atto amministrativo informatico.
In primo luogo, a livello concettuale, si è detto che l’algoritmo è, semmai, una sequenza di atti, assimilabile alla “fattispecie astratta” di un procedimento, «una sorta di schema di procedimento da seguire, dettagliatamente predeterminato in tutti i suoi elementi»[30].
Inoltre, non può dirsi che l’algoritmo sia un atto elaborato da un sistema informatizzato senza intervento umano. In realtà, i criteri che compongono l’algoritmo vengono predisposti – come si è detto – all’interno del pre-software. Siccome l’algoritmo in questione, non essendo di apprendimento, non ricerca delle nuove inferenze fra i dati, il programma non fa altro che trasporre le istruzioni dell’amministrazione (nella persona di un funzionario), traducendolo in un linguaggio comprensibile alla macchina. Non è il sistema informatico, perciò, ad elaborare l’atto, ma l’amministrazione stessa: ciò che cambia è solo il livello di realizzazione dell’attività, dal mondo fisico a quello digitale.
4. La corretta qualificazione giuridica del software e le sue implicazioni
A fronte del riconoscimento dell’algoritmo (meglio, del software) come atto amministrativo informatico operato dalla sentenza annotata (purché «l’utilizzo del mezzo informatico sia strumentale all’esercizio di un potere autoritativo di stampo pubblicistico»), la soluzione da noi proposta non sembra, poi, così peregrina e trova un avallo nell’orientamento di recente seguito dal Consiglio di Stato[31], che, superando l’impostazione precedente, è nuovamente tornato sul profilo della natura del programma, individuandola in un “modulo organizzativo-operativo”, ovvero un mero strumento, a livello procedimentale e istruttorio, che l’autorità può scegliere di utilizzare nell’esercizio delle proprie funzioni. Così discorrendo, l’atto amministrativo sarebbe costituito dall’atto di programmazione, contenente i criteri per la progettazione del software (pre-software), mentre il programma sarebbe solo il mezzo tecnico in cui quei criteri determinati dall’amministrazione vengono applicati per l’elaborazione della decisione, «uno strumento dell’agire amministrativo»[32].
Il problema, a questo punto, si pone in relazione al diritto di accesso: in mancanza di un atto amministrativo informatico, come si potrebbe garantire l’accesso al codice sorgente? Nella nostra elaborazione, il linguaggio sorgente è solo una traduzione meccanica della facoltà di ragionamento espressa da qualunque essere umano in linguaggio naturale; esso costituisce, cioè, la giustificazione della decisione, i passaggi logici che hanno portato ad essa: insomma, una predeterminazione delle possibili ragioni in fatto e in diritto connotanti una potenziale decisione amministrativa. Evidenti sono le interconnessioni con la nozione di motivazione del provvedimento (art. 3 della l. n. 241/1990).
A garanzia della trasparenza, perciò, si dovrebbe battere più sul fronte dell’obbligo di motivazione del provvedimento che sul diritto di accesso. Nel caso di specie, la motivazione andrebbe a concretizzare le effettive ragioni, in fatto e in diritto, che hanno condotto a quel dato provvedimento: dunque, si realizzerebbe in un’analisi esplicativa del codice sorgente[33].
In conclusione, incrementando nella giusta proporzione l’obbligo di motivazione, il mancato accesso al codice sorgente non rappresenterebbe un ostacolo insuperabile all’inserimento dell’algoritmo nel procedimento amministrativo.
Vi è anche chi ritiene che, «ancorché non sia un provvedimento, non pare dubitabile che il programma, quando usato per la conduzione di procedimento o lo svolgimento di altre funzioni pubbliche, debba essere considerato alla stregua di un “documento amministrativo”, secondo l’ampia definizione recata dall’art. 22, comma 1, lett. d), della l, n. 241/1990, senza che la manifestazione su supporto elettronico di tale documento sia idonea a influenzarne il regime di accessibilità»[34].
In questi termini, non potrebbe negarsi l’accesso al codice, fermo restando che, di per sé, quest’ultimo non garantisce un grande beneficio in termini di trasparenza dell’azione compiuta dalla macchina, attese le difficoltà connesse alla sua leggibilità e comprensibilità[35].
Senza addentrarci nella tematica inerente al problema della trasparenza e della conoscibilità circa l’operare di tali strumenti digitali, occorre effettuare qualche precisazione sulla natura giuridica.
Per prima cosa, si condivide la tesi da ultimo esposta, secondo cui il programma (rectius, codice sorgente) costituisce un documento amministrativo.
Ai sensi dell’art. 22, co. 1, lett. d), della l. n. 241/1990, «si intende […] d) per “documento amministrativo”, ogni rappresentazione grafica, fotocinematografica, elettromagnetica o di qualunque altra specie del contenuto di atti, anche interni o non relativi ad uno specifico procedimento, detenuti da una pubblica amministrazione e concernenti attività di pubblico interesse, indipendentemente dalla natura pubblicistica o privatistica della loro disciplina sostanziale». E non vi è dubbio che il software costituisca una rappresentazione digitale di un atto amministrativo, il pre-software. Più correttamente, il codice sorgente riscrittura, nel linguaggio della macchina, le istruzioni previste dall’amministrazioni, mentre il software rappresenta, come ben chiarito dalla giurisprudenza, uno strumento per l’esercizio della funzione amministrativa.
In tutto questo, che qualificazione giuridica si riconnette all’algoritmo? Se si adotta la distinzione concettuale tra algoritmo e software, come sembra giusto sul piano tecnico, si deve concludere che l’algoritmo è semplicemente una formula di ragionamento, un sequenziamento, già previsto all’interno del pre-software e sottoposto a formalizzazione dal software mediante la riscritturazione operata dal codice sorgente. L’algoritmo, a ben vedere, non è niente più che un’attività di interpretazione del testo di legge o, in generale, di una disposizione normativa atta a rinvenire una correlazione tra inputs e outputs: in sostanza, una semplice ricostruzione di passaggi logici, secondo diritto, per l’ottenimento di un risultato. Espresso in linguaggio naturale, non si rinvengono particolari discrasie tra un algoritmo e una norma, che non è altro che il risultato di un’attività interpretativa[36]. Il software formalizza, poi, l’algoritmo, traducendolo in un linguaggio comprensibile alla macchina.
5. Il software quale modulo operativo alla prova dell’Intelligenza Artificiale
Sono stati esposti molteplici dubbi sulla qualificazione dei programmi più semplici come atti amministrativi informatici.
Ancora più problematica appare essere la categorizzazione giuridica dei programmi di ultimissima generazione, ricompresi all’interno della macrocategoria dell’Intelligenza Artificiale (IA).
La sussistenza di un notevole margine di autonomia del software (rectius, dell’agente artificiale) impedisce, infatti, di sostenere che si tratti di un atto dell’amministrazione, sia pur informatico. Un sistema esperto che opera mediante apprendimento automatico (machine-learning) sembrerebbe esprimere, riprendendo gli elementi essenziali di un atto amministrativo, una “volontà” propria, che difficilmente potrebbe essere prevista in sede di programmazione; senza contare che si tratterebbe di una “volontà” sempre “in divenire”, in quanto frutto di un’esperienza che viene acquisita dalla macchina nel tempo[37].
Il riferimento a una nuova “volontà” permette di porsi una domanda titanica: al software può attribuirsi una soggettività giuridica? È questo il punto di partenza di una tesi ardita e fortemente criticata secondo la quale è, forse, possibile immaginare l’agente artificiale (e, dunque, il software) quale vero e proprio organo della pubblica amministrazione (un organo-algoritmo).
Si tratta di un tema delicato[38], che si collega a quello della responsabilità dell’agente artificiale[39].
L’organizzazione amministrativa si fonda sulla teoria organica, secondo la quale gli atti giuridici compiuti dall’organo sono imputati alla persona giuridica come se fossero posti in essere da essa stessa. Nell’impostazione tradizionale, l’organo è un “agente amministrativo”, ovvero la persona fisica o l’insieme delle persone fisiche che prestano la loro attività a favore delle amministrazioni pubbliche in quanto assegnate ai relativi uffici[40].
Siccome il programma di IA decide in autonomia (finanche contenendo pregiudizi cognitivi e discriminazioni che dipendono non solo dalla programmazione, ma anche dalla sua stessa struttura), la macchina non può costituire un mero strumento di ausilio dell’amministrazione[41]. Si dovrebbe, piuttosto, ampliare l’imputazione organica, estendendola all’agente artificiale e riconoscendogli una qualche forma di personalità, anche parziale[42].
Diverrebbero, tra l’altro, del tutto irrilevanti gli stati mentali ed intenzionali o la rappresentazione personale dei fini o gli stati di coscienza del titolare dell’organo, nel senso che l’imputazione giuridica riguarderebbe anche tali stati, «trattandosi di fatti umani che si collocano nella fase di costruzione dell’atto algoritmico, successivamente trasfuso nell’organizzazione amministrativa e nel procedimento»[43].
Questa, però, sarebbe una fictio debole e particolarmente pericolosa per almeno due ragioni:
- chi programma l’algoritmo potrebbe introdurvi un pregiudizio personale, che a quel punto si rifletterebbe sull’amministrazione incolpevole[44];
- l’IA sarebbe in grado di decidere da sola, prescindendo da qualunque intervento dell’autorità pubblica.
Sembrerebbe, perciò, che molti problemi relativi al software dipendano più dall’attività del programmatore che da quella dell’autorità pubblica.
Alla luce di questo, come si può tutelare l’amministrazione verso il progettista? Una soluzione potrebbe essere quella di rafforzare il concetto di delega algoritmica, l’atto a monte del procedimento in cui matura la decisione amministrativa di affidarsi alla macchina e al suo progettista, e individuare un criterio di imputazione dell’attività automatizzata in capo al soggetto o ai soggetti che l’hanno progettato e costruito. La dottrina ha avanzato in proposito la tesi dell’outsourcing, ovvero dell’esternalizzazione dell’attività amministrativa (che si sostanzierebbe nell’esercizio della stessa da parte di soggetti estranei all’amministrazione)[45]. Sostanzialmente, siccome il soggetto estraneo all’amministrazione realizza un compito proprio di essa, collocandosi nell’iter procedimentale come compartecipe fattivo dell’attività amministrativa, egli sarà, altresì, responsabile dei danni cagionati dall’esecuzione dell’incarico.
La teoria dell’organo-algoritmo si presta, poi, a una serie di critiche. Essa, infatti, sembra richiedere a monte una piena “personificazione” dell’agente artificiale, che rappresenta un serio problema sul versante dei diritti attribuibili alla macchina, meno su quello delle responsabilità. Si può essere, infatti, giuridicamente responsabili anche in assenza di personalità giuridica, ma l’attribuzione di diritti, ad oggi, presuppone un titolare dotato di autocoscienza, di discernimento etico[46]. Le attuali macchine non presentano questi tratti, per cui difficilmente possono essere intese come “persone”.
La domanda che, a questo punto, potrebbe porsi è se tale concezione antropomorfa dell’autocoscienza sia l’unica possibile per il riconoscimento della personalità[47]. Quest’aspetto, però, richiederebbe una ben più ampia riflessione, che non può essere svolta in questa sede.
Piuttosto, considerate le difficoltà che sorgono rispetto all’introduzione di un nuovo organo amministrativo, pare opportuno esaminare brevemente il problema della compatibilità dell’attuale teoria organica con gli algoritmi di machine-learning: l’assenza dell’intervento di una persona fisica nell’elaborazione della decisione potrebbe, infatti, riverberarsi in una riconfigurazione dell’organo amministrativo[48].
Come si è detto, con l’imputazione organica non si fa altro che riferire una o più funzioni a un certo titolare; nel caso di specie, però, la funzione viene esercitata da una macchina. È proprio questa la principale considerazione verso l’avvento di una nuova figura di macchina-organo.
Penetrando nel cuore della teoria organica, tuttavia, si può facilmente riconoscere nell’organo un artificio tecnico inteso solo a spiegare giuridicamente la traslazione degli atti (con relativi effetti) eseguiti da funzionari e impiegati dell’amministrazione direttamente all’organizzazione nel suo insieme[49]. Perciò, anche se la decisione viene adottata senza l’intervento di una persona fisica, l’attività non è imputata alla macchina. La potestà, infatti, è sempre esercitata dal titolare dell’organo mediante il programma informatico[50]; attraverso la fictio dell’imputazione, poi, la paternità dell’attività è attribuita immediatamente e direttamente alla pubblica amministrazione.
Ad essere automatizzato è, dunque, il processo decisionale, l’esercizio delle funzioni assegnate all’organo, non l’organo in sé, il che significa che sarà sempre una persona responsabile del funzionamento del sistema algoritmico a reggere le sorti del procedimento. Si può dire che «l’attività automatizzata, pur essendo autonoma, non è altro che una forma di adozione di provvedimenti amministrativi che non altera la competenza né ha conseguenze per la configurazione dell’organo, il quale continua ad essere integrato da persone fisiche aiutate da mezzi materiali e retto dal suo titolare»[51].
Come si può, allora, qualificare giuridicamente l’algoritmo di machine-learning? È evidente che ci si trova davanti a un fenomeno del tutto nuovo, che il diritto non ha mai contemplato e per il quale, forse, esso non può fornire le risposte che gli studiosi auspicano per la risoluzione degli spinosi problemi in ordine alla sua applicazione. Ciononostante, guardando indietro nel tempo, alle radici stesse del nostro diritto, la memoria potrà assistere i più nel ricordo di una categoria di soggetti-cose, la quale, con un qualche sforzo immaginifico (non più grande di quello che vede nell’algoritmo di IA una riproduzione del cervello umano), può avere una sua utilità ai nostri fini.
Stiamo parlando degli schiavi a Roma.
“Cosa” erano gli schiavi secondo il diritto romano? Sappiamo che il giureconsulto Gaio distingueva il jus a seconda che riguardasse personae, res o actiones: orbene, lo schiavo, in quanto essere umano, veniva fatto rientrare tra le personae e tuttavia era, allo stesso tempo, una res, oggetto di proprietà e altri diritti soggettivi; più nel dettaglio, era una res mancipi[52].
Ciò che, però, qui interessa notare è che il diritto romano, con riferimento ai delicta commessi dallo schiavo, imputava una responsabilità oggettiva in capo al dominus che ne avesse attuale potestas[53]. Torna, qui, il tema della responsabilità e di come essa possa tranquillamente prescindere dall’attribuzione della personalità. Sul punto, non si pongono particolari differenze tra l’agente artificiale e lo schiavo: in entrambi i casi, infatti, la tutela di coloro che abbiano ricevuto un danno dall’attività dell’uno o dell’altro sarebbe meglio assicurata «dalle forme di responsabilità lato sensuvicaria… che non attribuendo diretta personalità e patrimonio all’agente artificiale autore del danno (e limitando in capo ad esso la responsabilità)»[54]. Questo perché, secondo l’orientamento oggi preferibile, i soggetti lesi dall’attività dell’agente artificiale godono delle illimitate, finanche cumulative, responsabilità patrimoniali del fabbricante, o “addestratore”, o “custode”, o utilizzatore della res intelligente; mentre la mera responsabilità diretta di quest’ultima, collegata alla “persona”, «circoscriverebbe la responsabilità patrimoniale all’ammontare del patrimonio dell’ente robotico, così assurto a limitato capitale di rischio»[55].
Con riferimento al software “intelligente”, si potrebbe, allora, immaginare una qualificazione giuridica analoga a quello di uno schiavo romano, cioè di aver a che fare con una res, che però è più di una res, ma meno di una persona (per ora non sembra il caso di spingersi oltre)? Se si rispondesse positivamente, parlare di organo amministrativo non sarebbe più appropriato: non si avrebbe più a che fare con un algoritmo-funzionario, ma con un oggetto servente al funzionario-persona fisica, pronto a rispondere delle decisioni assunte in autonomia dalla macchina.
La principale critica a questa tesi concerne l’esistenza o meno di una coscienza artificiale: lo schiavo rimane, infatti, una persona dotata di coscienza.
Spesso e volentieri si sente dire che l’intelligenza artificiale è “senza coscienza”. Ma cos’è la coscienza? È possibile produrne una artificialmente? Si tratta di domande ancora senza risposta, anche se oggi è indubbio che l’agente artificiale non sia un essere senziente, cioè capace di sensazioni, di sentire piacere e dolore. È per questa ragione che l’IA non può neanche essere paragonata all’intelligenza di un animale[56]. Tutt’al più, potrebbe tracciarsi un parallelo con la pianta, in quanto “sensoriata”, ovvero dotata di sensori che le consentono di reagire all’ambiente esterno (proprio come la macchina), ma non cosciente[57].
In realtà, però, il fatto che l’intelligenza artificiale è “senza coscienza” non si pone in contrasto con il parallelismo tra programma informatico e schiavo romano[58], perché, nella concezione romana più antica del servus, la sua coscienza non rilevava ad alcun fine: egli era un “utensile che si muoveva e parlava”[59]. Ebbene, se, ad oggi, immaginarsi un robotche provi sentimenti appare fantascienza, robots che si muovono e parlano non lo sono di certo.
Potrebbe, invece, avere una sua utilità evidenziare come i giureconsulti romani, nell’individuazione della responsabilità ex lege Aquilia de damno in capo a chi avesse cagionato un danno non immediatamente e direttamente, bensì mediante uno strumento, anche “animato”, come un animale o un servo, dessero più importanza al grado di autonomia dello strumento rispetto all’azione od omissione originaria del proprietario dello stesso che al fatto che si trattasse di esseri senzienti[60]: una constatazione che rafforzerebbe ancor di più l’ipotesi della possibile correlazione tra gli strumenti di IA e una res animata, quale lo schiavo (in particolare, ai fini della determinazione della responsabilità in capo all’amministrazione intesa come insieme di persone fisiche per i danni cagionati dall’agente artificiale).
Si tratta di un tema estremamente complesso e che lascia aperte molte domande, alle quali, però, sarebbe opportuno rispondere in considerazione della grande rilevanza della questione sulle garanzie procedimentali annesse all’emanazione della decisione amministrativa automatizzata.
6. La soluzione del T.A.R. Lazio: conclusioni e prospettive
Ritornando alla sentenza in commento, il T.A.R. Lazio ha dichiarato il difetto di giurisdizione in ordine alle contestazioni sul non corretto funzionamento del programma informatico, in quanto orientate – come già detto – a demolire un segmento dell’azione amministrativa privo di rilievo pubblicistico; ciò sull’assunto che «l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”».
Il T.A.R., infatti, ha chiarito che una simile affermazione risulta condivisibile allorquando «l’utilizzo del mezzo informatico sia strumentale all’esercizio di un potere autoritativo di stampo pubblicistico», precisando successivamente che «solo laddove il programma informatico sia asservito a un procedimento amministrativo in senso stretto può essere affermato che la bontà della regola informatica che lo regola debba sempre essere conosciuta dal giudice amministrativo» (corsivo aggiunto).
Certamente, l’algoritmo (non il programma) costituisce una regola, una precisa modalità di esercizio del potere attribuito dalle disposizioni normative e, pertanto, frutto di un’interpretazione delle stesse.
Con riguardo al software, invece, l’affermazione del T.A.R. offre un ulteriore punto a favore della tesi sopra esposta. Se, infatti, esso acquisisse la qualifica di atto amministrativo informatico, dovrebbe assumersi sempre e comunque la giurisdizione del giudice amministrativo, come sostenuto dai ricorrenti. Diversamente, individuando la natura del software in un modulo operativo, un mero strumento, si comprende agevolmente come la regola algoritmica, espressa in linguaggio naturale nel pre-software, rifletta i poteri datoriali dell’amministrazione, i quali vengono poi incanalati nel circuito informatico mediante l’applicazione di un software, con correlate traduzione e codificazione delle singole operazioni nel linguaggio della macchina.
La giurisdizione poggia ovviamente, come ribadito dal T.A.R. Lazio, sulla natura delle situazioni giuridiche coinvolte nel contenzioso e non sulla tipologia di strumento, analogico o digitale, adoperato dall’amministrazione, per cui correttamente lo stesso T.A.R. ha ritenuto carente la propria giurisdizione nella fattispecie in esame.
Pur tuttavia, si registra un orientamento diverso da parte del Consiglio di Stato[61], chiamato a pronunciarsi su una procedura di mobilità di docenti, fattispecie che di per sé non si distanzia dalla sentenza in esame, avendo riguardo pur sempre a un segmento dell’attività della pubblica amministrazione rientrante nella più ampia gestione del rapporto di lavoro.
La diversa soluzione di Palazzo Spada parte da una considerazione preliminare: l’algoritmo, nella sua dimensione statica, costituisce «l’oggetto della volizione amministrativa preliminare con cui si opta per l’automazione»[62]. Una volta scelto, mediante quella che supra è stata definita la “delega algoritmica”, la sequenza diviene il contenuto di un atto amministrativo, il pre-software.
Entrambi gli atti presentano una connotazione anche sul piano organizzativo. Se è vero, infatti, che l’algoritmo, in quanto sequenza di operazioni, incide sull’attività, in questo caso dell’amministrazione-datrice di lavoro, è altrettanto vero che la scelta di avvalersi di software e le istruzioni impartite dal funzionario incidono sulla stessa organizzazione amministrativa, tanto che la gran parte della dottrina riconduce questi atti al potere di autorganizzazione della pubblica amministrazione[63].
Orbene, è nota la distinzione, nel pubblico impiego, tra atti di macro-organizzazione e atti di micro-organizzazione[64]: i primi concernono, in particolare, le linee fondamentali di organizzazione degli uffici[65], i secondi la gestione del rapporto di lavoro[66].
Non vi è dubbio che la determinazione delle sedi di supplenza rientri nella gestione del rapporto di lavoro, sicché, avendo il software mera natura strumentale, dovrebbe ritenersi che anche l’atto preliminare, il pre-software, costituisca, al più, un atto di micro-organizzazione, come tale soggetto alla giurisdizione del giudice ordinario.
La domanda che ci si pone è se la volizione a monte di usufruire di simili strumenti, indipendentemente dalle singole determinazioni nelle diverse e puntuali attività (la c.d. delega algoritmica), possa essere qualificata come atto di macro-organizzazione, sì da poter essere impugnata innanzi al giudice amministrativo.
La risposta è certamente affermativa, giacché, nel caso di specie, le doglianze sollevate dai ricorrenti non sono incentrate su atti di mera gestione del rapporto di lavoro, ma sulla scelta organizzativa a monte relativa allo svolgimento della procedura in forma telematica.
In linea di massima, la decisione dell’amministrazione di avvalersi di software (e di algoritmi), genericamente intesi, è precipua rispetto a qualunque volizione inerente al concreto esercizio delle proprie funzioni – dunque, anche alla gestione del rapporto di lavoro – ed è contenuta in un atto amministrativo o regolamentare[67]. È su quest’ultimo che dovrebbe incentrarsi l’impugnazione davanti al giudice amministrativo, stante il profilo macro-organizzativo dello stesso cui prima si è fatto riferimento.
Una simile soluzione si rivela finanche l’unica ammissibile «a garanzia della pienezza ed effettività della tutela giurisdizionale, atteso che i ricorrenti rimarrebbero diversamente privati del rimedio dell’annullamento dell’atto generale o normativo che ritengono viziato e che determina l’effetto del successivo atto meramente attuativo»[68].
Si tenga presente, inoltre, che il pre-software, pur essendo nel caso di specie un atto di micro-organizzazione, difficilmente potrebbe essere comunque oggetto di impugnativa autonoma, rappresentando solo una volontà in divenire, che trova compiuta attuazione con l’effettivo e successivo atto, adottato dall’amministrazione umana, che attesta la correttezza di quanto svolto dalla controparte digitale[69].
Problemi decisamente più seri emergono probabilmente con riferimento alle forme di automazione avanzata o “intelligente”. Una possibile configurazione organica dell’agente artificiale inciderebbe in maniera veramente rivoluzionaria lungo tutto il profilo organizzativo dell’amministrazione, prospettando degli scenari inediti: l’amministrazione-datrice di lavoro sarebbe, in quel caso, totalmente rappresentato da un organo di IA, il che attiene a profili di natura eminentemente amministrativa che prescindono dalla semplice gestione del rapporto di lavoro.
Nell’attesa, sempre più breve, di una piena implementazione della tecnologia “intelligente” nell’apparato amministrativo, le questioni giuridiche sul banco continuano a rimanere molteplici e di non immediata soluzione. Presumibilmente, ancora per molto, sarà la giurisprudenza a fornire le opportune chiavi di lettura nella configurazione di un nuovo e diverso modo di amministrare. Non si dimentichi che, finora, è stata quest’ultima a elaborare i principi-chiave per l’esercizio delle funzioni pubbliche mediante algoritmi e a delineare l’ambito applicativo. Sarà, dunque, verosimilmente compito dei giudici “modernizzare” l’attuale apparato amministrativo tanto sul piano organizzativo quanto su quello dell’attività, in quanto la materia è ancora in costante evoluzione e la legislazione non riesce ancora a cristallizzare orientamenti consolidati[70].
Pur tuttavia, appare evidente che la parola ‘fine’ potrà essere messa solo allorquando si chiarirà una volta per tutte cosa sia l’IA e, più in generale, come possano operare i software di automazione nell’esercizio dell’attività amministrativa genericamente intesa; il che postula una necessaria cooperazione dei tecnici e dei giuristi per l’elaborazione di una soluzione unitaria a livello normativo[71].
[1] In particolare:
- del decreto dirigenziale recante gli esiti della procedura di assegnazione delle sedi scolastiche;
- dell’ordinanza n. 112/2022, con cui il Ministero dell’Istruzione ha indetto la procedura di assegnazione delle sedi scolastiche ai fini dell’aggiornamento delle graduatorie provinciali per le supplenze (GPS) e delle graduatorie di istituto per il biennio relativo agli anni scolastici 2022-23 e 2023-24;
- della nota ministeriale n. 28597 del 29 luglio 2022, specificamente nella parte in cui prescrive che «[l]’assegnazione di una delle sedi indicate nella domanda comporta l’accettazione della stessa. L’assegnazione dell’incarico preclude il conferimento delle supplenze di cui all’articolo 2, comma 4, lettere 3) e b) dell’Ordinanza ministeriale n. 112 del 6 maggio 2022, per qualsiasi classe di concorso o tipologia di posto»;
- del bollettino recante il “risultato nomine” pubblicato da ATP Roma Istruzione il 5 ottobre 2022;
- di ogni altro atto e/o provvedimento connesso o consequenziale che sia lesivo degli interessi della ricorrente.
[2] Ex multis, G. AVANZINI, Decisioni amministrative e algoritmi informatici, Editoriale Scientifica, Napoli, 2019.
[3] M. DURANTE, Potere computazionale. L’impatto delle ICT su diritto, società, sapere, Meltemi, Milano, 2019, p. 237: gli algoritmi sono «procedure codificate per trasformare i dati di ‘input’ in un ‘output’ desiderato, in base a calcoli specifici»; in termini, T. GILLESPIE, The relevance of algorithms, in T. GILLESPIE, P.J. BOCZKOWSKI, K.A. FOOT (a cura di), Media Technologies: Essays on Communication, Materiality and Society, MIT Press, Cambridge, 2014, p. 167. Un’interessante lettura sul tema è quella di D. CARDON, Che cosa sognano gli algoritmi, trad. it. di C. De Carolis, Mondadori, Milano, 2018: «[t]ale e quale a una ricetta di cucina, un algoritmo è una serie d’istruzioni che permettono di ottenere un risultato. In modo ultrarapido, l’algoritmo opera un insieme di calcoli a partire da gigantesche masse di dati (i big data). Organizza gerarchicamente l’informazione, indovina ciò che ci interessa, seleziona i beni che preferiamo e si sforza di sostituirci in numerosi compiti. Siamo noi a fabbricare questi calcolatori, ma in cambio loro ci costruiscono» (p. 3). Cfr., altresì, P. FERRAGINA, F. LUCCIO, Il pensiero computazionale. Dagli algoritmi al coding, Il Mulino, Bologna, 2017, p. 10, secondo cui «un Algoritmo soddisfa le seguenti proprietà: (1) è utilizzabile su diversi input generando i corrispondenti output; (2) ogni passo ammette un’interpretazione univoca ed è eseguibile in un tempo finito; (3) la sua esecuzione si ferma qualunque sia l’input».
[4] Vi è chi non pone tale distinzione, riscontrando semmai una nozione pre-tecnologica e una nozione tecnologica di algoritmi: così V. DARDANO, I limiti nell’utilizzo delle decisioni automatizzate e la legalità algoritmica, in www.amministrativamente.com, n. 2/2023, pp. 1214-1215, secondo cui, «[n]ella sua connotazione pre-tecnologica, [l’algoritmo] è identificato in una procedura che conduce alla soluzione di un problema attraverso un percorso formalizzato che si risolve in una sequenza di passaggi precostituiti, ordinati ed univoci, tali da poter essere eseguiti e ripetuti senza margini di scelta arbitraria», mentre, «con la nascita e lo sviluppo della computer science, la nozione… ha subito una parziale traslazione di significato, per cui oggi è divenuto sinonimo di “programma informatico” capace di svolgere solo funzioni precise, sequenziali e univoche».
[5] S. CRAFA, Dalle competenze alla consapevolezza digitale: capire la complessità e la non neutralità del software, in P. MORO (a cura di), Etica, Diritto e Tecnologia, Franco Angeli, Milano, 2021, p. 6: «[u]n algoritmo rappresenta la logica di funzionamento di un programma, mentre il software è il codice di un programma scritto in un preciso linguaggio di programmazione ed eseguibile da un computer».
[6] S. CRAFA, op. cit., p. 6, che pone l’esempio dell’algoritmo di Euclide: «[s]e ad uno studente basta leggere la descrizione di questa procedura per saper calcolare il massimo comune divisore, per un computer servono delle istruzioni più specifiche. L’algoritmo va cioè implementato, tradotto in un software scritto in un linguaggio di programmazione sintatticamente preciso: solo questa traduzione è pienamente non ambigua ed effettivamente eseguibile».
[7] Cons. St., Sez. III, 25 novembre 2021, n. 7891.
[8] In termini, U. FANTIGROSSI, Automazione e pubblica amministrazione. Profili giuridici, Il Mulino, Bologna, 1993, p. 51; A. MASUCCI, L’atto amministrativo informatico. Primi lineamenti di una ricostruzione, Jovene, Napoli, 1993, p. 56; A. USAI, Le prospettive di automazione delle decisioni amministrative in un sistema di teleamministrazione, in Dir. inf., 1993, pp. 163 ss., spec. p. 174; M. MANCARELLA, Algoritmo e atto amministrativo informatico: le basi nel Cad, in Dir. internet, 2019, p. 467; I.A. NICOTRA, V. VARONE, L’algoritmo, intelligente ma non troppo, in Riv. AIC, n. 4/2019, p. 86. Secondo G. GALLONE, Riserva di umanità e funzioni amministrative, Wolters Kluwer-CEDAM, Milano, 2023, p. 91, da un punto di vista dogmatico, queste tesi muovono «da una impostazione ancora eminentemente attizia che tende a dequotare la componente materiale ed operativa dell’attività amministrativa». Un simile approccio, tra l’altro, sarebbe, secondo l’A., il frutto dell’esigenza di «risolvere il problema della compatibilità tra automazione provvedimentale e discrezionalità amministrativa»: «il riconoscimento all’algoritmo (ed al software) della natura di atto amministrativo era in tali studi, per lo più, funzionale ad affermare che con la formazione dell’algoritmo si realizza già una prima parziale spendita di potere amministrativo che determina l’insorgenza di un autovincolo, in grado di influenzare il successivo esercizio della potestà e consumando i profili originali di apprezzamento riconosciuti all’Amministrazione».
[9] Con riguardo alla natura regolamentare dell’atto-programma, v. A. BOIX PALOP, Los algoritmos son reglamentos: la necesidad de extender las garantias propias de las normas reglamentarias a los programas empleados por la administraciòn para la adopciòn de decisiones, in Revista de Derecho Pùblico: Teorìa y Metodo, n. 1/2020, p. 223; ID., Algorithms as Regulations: Considering Algorithms, when Used by the Public Administration for Decision-making, as Legal Norms in order to Guarantee the proper adoption of Administrative Decisions, in European Review of Digital Administration & Law, n. 1-2/2020, pp. 75 ss.
[10] Per tutti, G. DELLA CANANEA, Gli atti amministrativi generali, CEDAM, Padova, 2000.
[11] Automazione e pubblica amministrazione, cit., pp. 51 ss.
[12] In questi termini, A.G. OROFINO, La patologia dell’atto amministrativo elettronico. Sindacato giurisdizionale e strumenti di tutela, in Foro amm. CDS, 2002, pp. 2256 ss. La giurisprudenza, tuttavia, è chiara nel ritenere del tutto irrilevante tale profilo: cfr. T.A.R. Lazio-Roma, Sez. III-bis, 22 marzo 2017, n. 3769, che confuta partitamente le tesi contrarie alla configurazione attizia del software; Cons. St., Sez. VI, 8 aprile 2019, n. 2270, secondo cui «la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva».
[13] A. USAI, op. cit., p. 164; contra, A. MASUCCI, op. cit., p. 59, secondo cui ha «rilevanza esterna quell’atto che (anche se di per sé non produce effetti giuridici verso l’esterno) trova, pur se attraverso un altro atto, concretizzazione in un rapporto esterno».
[14] Si tratterebbe di una nuova categoria, un atto generale a contenuto non normativo «che pone delle prescrizioni generali ed astratte con le quali l’autorità amministrativa “indirizza” il proprio agire amministrativo, predeterminandone modalità e contenuti»: A. MASUCCI, op. cit., pp. 57 e 103.
[15] Sez. III-bis, n. 3769/2017, cit.
[16] G. BRUNO, E.M. FALESE, Focus sentenze G.A. su decisioni algoritmiche – Decisioni algoritmiche: il codice sorgente è un atto amministrativo informatico accessibile ai sensi della l. n. 241/1990, in www.irpa.eu, 14 giugno 2022.
[17] Sez. VI, n. 2270/2019, cit.
[18] F. SAITTA, Le patologie dell’atto amministrativo elettronico e il sindacato del giudice amministrativo, in Dir. econ., n. 4/2003, p. 615.
[19] G. ZANOBINI, Corso di diritto amministrativo, 8ª ed., Giuffrè, Milano, 1958, I, p. 245. Viene mantenuta la dizione “atto amministrativo” proprio in avvicinamento alle categorie del diritto privato. Non a caso si soleva parlare anche di “atto amministrativo negoziale”. La connotazione provvedimentale è, invece, il frutto della progressiva pubblicizzazione della categoria.
[20] Per un approfondimento, si veda F.G. SCOCA, Atto e provvedimento: elementi essenziali e situazioni giuridiche (Relazione alle Giornate Italo-Argentine di Diritto amministrativo, 8ª ed.), in www.aiapda.org, 4 maggio 2019.
[21] M.S. GIANNINI, Diritto amministrativo, 2ª ed., Giuffrè, Milano, 1988, II, p. 672.
[22] Così G. GALLONE, op. cit., p. 112, il quale specifica che l’algoritmo non «si propone di dichiarare o conservare ovvero innovare la realtà del diritto perché, semplicemente, non si pone un orizzonte giuridico»; in questi termini, D. SIMEOLI, L’automazione dell’azione amministrativa nel sistema delle tutele di diritto pubblico, in A. PAJNO, F. DONATI, A. PERRUCCI (a cura di), Intelligenza artificiale e diritto: una rivoluzione?, Il Mulino, Bologna, 2022, II, p. 640.
[23] A.M. SANDULLI, Il procedimento amministrativo, Giuffrè, Milano, 1940; ID., Manuale di diritto amministrativo, Jovene, Napoli, 1984, p. 622. L’A. definisce il procedimento amministrativo come «una serie di atti (istanze, accertamenti, pareri, proposte, designazioni, deliberazioni preliminari, etc.) e di operazioni (comunicazioni, notificazioni, pubblicazioni, etc.), posti in essere da un unico o da diversi agenti, solitamente culminanti in un provvedimento e strutturalmente e funzionalmente collegati dall’obiettivo avuto di mira».
[24] V.R. PERRINO, L’atto amministrativo informatico e le cause della sua invalidità, in www.amministrazioneincammino.luiss.it, 2005.
[25] Nel senso che gli algoritmi non sono altro che la traduzione in termini informatici dei criteri di valutazione che l’amministrazione utilizza nel suo giudizio, T.A.R. Lazio-Roma, Sez. III-bis, 10 luglio 2017, n. 8160.
[26] In questi termini, M. TIMO, Algoritmo e potere amministrativo, in Dir. econ., n. 1/2020, p. 775.
[27] R. VILLATA RAMAJOLI, Il provvedimento amministrativo, Giappichelli, Torino, 2006, p. 230.
[28] A.G. OROFINO, L’attuazione del principio di trasparenza nello svolgimento dell’amministrazione elettronica, in www.judicium.it, 2020. Per l’A., tra l’altro, «[u]n diverso convincimento non terrebbe conto anche delle difficoltà connesse al firmare i programmi informatici, visto che la sottoscrizione elettronica di un software non è sempre possibile»; così già ID., La patologia dell’atto amministrativo elettronico, cit., p. 2276. Vi sarebbero, poi, ulteriori ragioni a favore della piena comprensibilità – mediante, cioè, l’uso della lingua italiana – degli atti amministrativi: ciò risulterebbe confermato dal principio di diritto comune di cui all’art. 122, co. 1, c.p.c. (cfr. T.A.R. Lazio-Roma, Sez. II, 13 marzo 2001, n. 1853) e da tutte quelle «disposizioni che impongono il bilinguismo, ovvero da quelle che prevedono la traduzione, in lingua comprensibile al destinatario, quando i provvedimenti siano adottati nei confronti di uno straniero».
[29] Così A.G. OROFINO, L’attuazione del principio di trasparenza, cit., secondo cui, tra l’altro, quanto statuito da T.A.R. Lazio-Roma, Sez. III-bis, n. 3769/2017, cit., ossia che «il privato destinatario dell’atto […] può, comunque, legittimamente avvalersi dell’attività professionale di un informatico competente in materia», non è convincente «anche per gli oneri evidenti che verrebbero posti in capo alle parti processuali ed allo stesso giudice, chiamati a ricorrere ad un tecnico informatico per comprendere il senso delle istruzioni impartite all’elaboratore: si ritiene davvero eccessivamente gravoso immaginare che la possibilità di interpretare gli atti oggetto di sindacato giurisdizionale sia esercitata attraverso la mediazione di tecnici informatici». L’A. richiama, in argomento, M. MARTINI, Algorithmen als Herausforderung für die Rechtsordnung, in Juristen Zeitung, n. 21/2017, p. 1017, il quale osserva: «[e]ine intransparente und dadurch für Betroffene nicht nachvollziehbare Entscheidungsfindung birgt Gefahren für gesellschaftliche Grundwerte» (un processo decisionale non trasparente e non comprensibile per le persone interessate mette a rischio i valori sociali fondamentali: trad. pers.).
[30] Così V.R. PERRINO, op. cit., con riferimento al programma informatico, che, però, definisce come «l’insieme di istruzioni individuate in un elaboratore e che sono strumentali ad un dato risultato», dimostrando, così, di adottare una prospettiva – del tutto scorretta, a parere di chi scrive – di eguaglianza tra i termini algoritmo e programma.
[31] Sez. VI, 13 dicembre 2019, n. 8472.
[32] Così A.G. OROFINO, L’attuazione del principio di trasparenza, cit.; ID., La patologia dell’atto amministrativo elettronico, cit., pp. 2256 ss.; F. SAITTA, op. cit., pp. 615 ss.; S. PUDDU, Contributo ad uno studio sull’anormalità dell’atto amministrativo informatico, Napoli, 2006, pp. 179 ss.; I. MARTÍN DELGADO, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, in Revista de Administración Pública, n. 180/2009, pp. 353 ss., spec. p. 361.
[33] Per i programmi che operano mediante gli algoritmi tradizionali potrebbe bastare una motivazione numerica, mentre per i programmi che utilizzano algoritmi di apprendimento la motivazione dovrà contenere tutto l’iter logico-giuridico seguito dalla macchina: cfr. L. VIOLA, L’intelligenza artificiale nel procedimento e nel processo amministrativo: lo stato dell’arte, in Federalismi.it, n. 21/2018, p. 16; D. MARONGIU, L’attività amministrativa automatizzata. Profili giuridici, Maggioli, Santarcangelo di Romagna, 2005, pp. 125 ss. Si vedano, anche, D.U. GALETTA, J.G. CORVALAN, Intelligenza Artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Federalismi.it, n. 3/2019, p. 16, i quali ribadiscono la necessità di fornire un’adeguata spiegazione delle decisioni amministrative adottate tramite algoritmi di machine-learning, per quanto riguarda non solo il contenuto dell’atto finale, ma anche il procedimento che ha condotto alla sua adozione; A. SIMONCINI, Profili costituzionali della amministrazione algoritmica, in Riv. trim. dir. pubbl., n. 4/2019, pp. 1183 ss., il quale sottolinea che, per poter ottenere la motivazione di un atto amministrativo automatizzato, è necessario che l’algoritmo che ne è alla base sia “esplicabile”, ossia descrivibile nella sua strutturazione causale, sebbene questa qualità non sia oggi comune a tutti i sistemi di decisione automatizzata.
[34] A.G. OROFINO, L’attuazione del principio di trasparenza, cit., che, al riguardo, richiama, in un’ottica comparatistica, «la disciplina recata in Francia dall’art. L. 300-2 del Code des relations entre le public et l’administration che, all’esito della modifica apportata dall’art. 2 della Loi pour une République numérique del 7 ottobre 2016, espressamente annovera tra i documenti amministrativi accessibili anche i listati dei programmi usati dalle amministrazioni».
[35] Cfr. G. AVANZINI, op. cit., p. 145.
[36] Interessanti spunti di riflessione al riguardo in L. VIOLA, Interpretazione della legge con modelli matematici. Processo, a.d.r., giustizia predittiva, StreetLib, Milano, 2017, I.
[37] Cfr. A.G. OROFINO, L’attuazione del principio di trasparenza, cit., secondo cui, «[s]e si accedesse alla tesi che qualifica come atto amministrativo il programma, anche quando si faccia ricorso a macchine equipaggiate con reti neurali, dovrebbe dedursene che tale programma sia un atto “incompiuto” o “in divenire”, cioè con un contenuto non completo, ma che si arricchirà nel tempo, all’esito dei vari processi di autoapprendimento posti in essere dal software».
[38] Per approfondire il quale cfr. G. PESCE, Funzione amministrativa, intelligenza artificiale e blockchain, Editoriale Scientifica, Napoli, 2021, pp. 65 ss.
[39] Difficile non scorgere un punto di partenza per un ampliamento dell’imputazione organica agli agenti artificiali nella tesi funzionalistica di G. TEUBNER, Digital Personhood? The Status of Autonomous Software Agents in Private Law, in Ancilla Iuris, n. 106/2018, pp. 107 ss.: v. G. PESCE, op. cit., pp. 70 ss.
[40] G. PESCE, op. cit., p. 166; già prima G. SCIULLO, L’organizzazione amministrativa, Giappichelli, Torino, 2013, p. 78.
[41] G. PESCE, op. cit., p. 170; già prima M.S. GIANNINI, Diritto pubblico dell’economia, Il Mulino, Bologna, 1995, p. 50.
[42] G. TEUBNER, op. cit., pp. 106-149.
[43] G. PESCE, op. cit., p. 179.
[44] Cfr. A. MASCOLO, Gli algoritmi amministrativi: la sfida della comprensibilità, in Giorn. dir. amm., n. 3/2020, p. 370.
[45] G. PESCE, op. cit., p. 180 ss.
[46] U. RUFFOLO, Artificial Intelligence e responsabilità. “Persona elettronica” e teoria dell’illecito, in A. PAJNO, F. DONATO, A. PERRUCCI (a cura di), op. cit., II, p. 266.
[47] Secondo L.B. SOLUM, Legal Personhood for artificial intelligences, in North Carolina Law Review, n. 4/1992, p. 1259, il concetto di persona è intrinsecamente legato alla nostra esperienza della vita umana.
[48] La migliore dottrina riconosce, infatti, due elementi fondamentali nella nozione di organo: quello oggettivo, determinato dall’ufficio o dalla sfera di competenza, e quello soggettivo, rappresentato dalla persona fisica titolare dell’organo: M.S. GIANNINI, Organi (teoria generale), in Enc. dir., XXXI, Giuffrè, Milano, 1981, pp. 37 ss; G. MARONGIU, Organo e ufficio, in Enc. giur., XII, Roma, 1990. Si veda, tuttavia, C. ESPOSITO, Organo, ufficio, soggettività dell’ufficio, in Annali dell’Università di Camerino (sez. giur.), CEDAM, Padova, 1932, VI, p. 251, che assume una posizione parzialmente diversa e non identifica l’organo con la persona fisica.
[49] Così I.M. DELGADO, Automazione, intelligenza artificiale e pubblica amministrazione: vecchie categorie concettuali per nuovi problemi?, in Ist. fed., n. 3/2019, p. 652. Sulla primaria importanza dell’elemento personalistico, nella chiave di una rivisitazione della tradizionale fictiodell’immedesimazione organica, v. I. MONTEDURO, Il funzionario persona e l’organo: nodi di un problema, in Pers. e Amm., n. 1/2021, p. 78: se è vero, infatti, che «l’agente umano incardinato nell’organizzazione amministrativa subisce […] un’eclissi che artificialmente lo transustanzia, lo trasfigura, lo assorbe, riportandolo per una via o per l’altra, attraverso una sorta di gelida ἔκστασις giuridicamente coatta, all’uno-tutto della persona giuridica», è altrettanto vero che «il funzionario amministrativo è […] persona che assume su di sé come lavoro-dovere l’esercizio di una funzione amministrativa».
[50] Sull’imprescindibilità della persona nella configurazione dell’organo amministrativo v. A. FALZEA, Responsabilità penale delle persone giuridiche, in La responsabilità penale delle persone giuridiche in diritto comunitario. Atti del Convegno di Messina, 30 aprile - 5 maggio 1979, Giuffrè, Milano, 1981, pp. 149 ss., ora in ID., Ricerche di teoria generale del diritto e di dogmatica giuridica, Giuffrè, Milano, 2010, III, pp. 67 ss., spec. pp. 88-89; S. ROMANO, Organo, in Frammenti di un dizionario giuridico, Giuffrè, Milano, 1947, p. 154, secondo cui, «[s]e organo è un elemento dell’ente che ha la funzione di far volere e agire l’ente stesso, ne consegue che esso è un individuo che da solo o col concorso di altri individui ha siffatto compito, il quale non può essere assolto se non da persone fisiche».
[51] I.M. DELGADO, op. cit., p. 654.
[52] Per un approfondimento sulle res mancipi, v. A. CORBINO, Diritto privato romano. Contesti, fondamenti, discipline, CEDAM, Padova, 2014, pp. 552 ss.
[53] A. CORBINO, op. cit., pp. 729-730.
[54] U. RUFFOLO, op. cit., p. 265.
[55] U. RUFFOLO, ibidem.
[56] Art. 13 del Trattato sul funzionamento dell’Unione europea (TFUE): «l’Unione e gli Stati membri tengono pienamente conto delle esigenze in materia di benessere degli animali in quanto esseri senzienti».
[57] In questi termini, L. LOMBARDI VALLAURI, Algoretica e Informatica giuridica, in i-lex, n. 1/2022, p. 34.
[58] La pensa diversamente G. PESCE, op. cit., p. 64.
[59] GAIO, Institutionum Commentarii Quattuor, II, 17: «[v]i sono tre tipi di utensili: quelli che non si muovono e non parlano, quelli che si muovono e non parlano e quelli che si muovono e parlano». I primi, come notato da G. PESCE, op. cit., p. 64, sono le cose inanimate, i secondi gli animali e i terzi gli schiavi.
[60] Ex multis, D. 9.2.11.5 (Ulpianus 18 ad ed.): «Item cu meo, qui canem irritaverat ed effecerat, ut aliquem morderet, quamvis eum non tenuit, Proculus respondit Aquiliae actionem esse: sed Iulianus eum demum Aquilia teneri ait, qui tenuit et effecit ut aliquem morderet: ceterum si non tenuit, in factum agendum» (Ugualmente Proculo rispose esservi l’azione aquiliana nei confronti di colui che abbia aizzato un cane e fatto sì che mordesse qualcuno, anche se non tenne il cane al guinzaglio: ma Giuliano afferma che è tenuto in base alla legge Aquilia solo colui che lo teneva al guinzaglio e fatto sì che mordesse qualcuno: se invece non lo tenne al guinzaglio, si può agire con l’actio in factum: trad. pers.). Preliminarmente, si deve notare che la lesione qui viene arrecata corpore corpori. Per Proculo, però, l’animale viene considerato al pari di un qualunque strumento d’offesa inanimato, non rilevando a nulla il suo personale arbitrio: così S. LOHSSE, Canem vel servum tenuit? D. 9.2.11.5 and the applicability of the ‘actio legis Aquiliae’ in cases involving inanimate objects used for killing, in Tijdschrift voor Rechtsgeschiedenis, LXX, 2002, p. 271, secondo cui la differente posizione dei due giuristi nel caso in esame in merito alla tipologia d’azione processuale da concedere discende da una diversa interpretazione del comportamento dell’animale («Proculus regarded the dog as a kind of weapon like a sword or a beam. Julian’s opinion then is explained by reference to the own will of the dog. An animal could not be regarded as a simple tool, so that an additional corporeal act by the person to be held liable is necessary»). Giuliano, più cautamente, riconosceva, invece, l’azione aquiliana diretta solo laddove l’animale fosse tenuto al guinzaglio, e ciò perché il guinzaglio in qualche modo determina un pieno controllo del dominus sull’animale, tale da azzerare l’arbitrio di quest’ultimo. Ciò si lega perfettamente a un tema molto caro alla giurisprudenza amministrativa in tema di automazione procedimentale, ossia il rispetto del principio di non esclusività, legittimando, così, lo svolgimento di una funzione amministrativa mediante algoritmi, anche nell’alveo di strumenti intelligenti, solo laddove si consenta uno spazio d’intervento all’uomo, diretto eventualmente anche a correggere l’operato della macchina: Cons. St., Sez. VI, n. 8472/2019, cit.; nonché cfr., da ultimo, l’art. 30, co. 3, del nuovo Codice dei contratti pubblici (d.lgs. 31 marzo 2023, n. 36).
[61] Sez. VI, 9 febbraio 2021, n. 1206, che ha riformato T.A.R. Lazio-Roma, Sez. III-bis, 24 luglio 2020, n. 8732, la quale aveva dichiarato il ricorso inammissibile per difetto di giurisdizione.
[62] G. GALLONE, op. cit., p. 93.
[63] Cfr. A. MASUCCI, op. cit., p. 54.
[64] Ex multis, Cons. St., Sez. V, 28 novembre 2013, n. 5684; 16 gennaio 2012, n. 138 e 20 dicembre 2011, n. 6705.
[65] Art. 2, co. 1, del d.lgs. 9 maggio 2001, n. 165: «[l]e amministrazioni pubbliche definiscono, secondo principi generali fissati da disposizioni di legge e, sulla base dei medesimi, mediante atti organizzativi secondo i rispettivi ordinamenti, le linee fondamentali di organizzazione degli uffici; individuano gli uffici di maggiore rilevanza e i modi di conferimento della titolarità dei medesimi; determinano le dotazioni organiche complessive […]».
[66] Art. 5, co. 2, del d.lgs. n. 165/2001: «[n]ell’ambito delle leggi e degli atti organizzativi di cui all’art. 2, comma 1, le determinazioni degli uffici e le misure inerenti alla gestione dei rapporti di lavoro sono assunte in via esclusiva dagli organi preposti alla gestione con la capacità e i poteri del privato datore di lavoro […]».
[67] G. GALLONE, op. cit., p. 98.
[68] Così Cons. St., Sez. VI, n. 1206/2021, cit., le cui conclusioni si pongono lungo una ben precisa traccia della giurisprudenza amministrativa: decc. 2 ottobre 2017, nn. 4560 e 4567, 21 novembre 2017, n. 5409, 5 dicembre 2017, n. 5733 e 23 gennaio 2018, nn. 447 e 454.
[69] Si tenga presente, altresì, che la volizione espressa nel pre-software è eminentemente potenziale, nel senso che soltanto a valle l’amministrazione fa proprio il prodotto dell’operazione algoritmica, sicché è quest’ultima «la prima e unica forma di manifestazione di volontà in grado di produrre effetti costitutivi all’esterno»: G. GALLONE, op. cit., pp. 98-99, il quale conclude, con riferimento all’esercizio di un procedimento amministrativo mediante algoritmo – fattispecie, dunque, diversa da quella in esame, ove non si riscontra un procedimento amministrativo, ma un segmento inerente alla gestione del rapporto di lavoro –, che l’algoritmo «esprime una “volontà potenziale” e non compiutamente manifestata dell’Amministrazione che per divenire attuale necessita, a valle dell’operazione amministrativa di elaborazione affidata al software come mezzo istruttorio, dell’intervento umano».
[70] Si consideri, però, l’art. 30, co. 3, del d.lgs. n. 36/2023, che ha consacrato una volta per tutte i tre principi di legalità algoritmica, sia pur con riferimento a un segmento preciso dell’attività amministrativa: la valutazione delle offerte all’interno della procedura di selezione del contraente nell’ambito di contratti pubblici.
[71] Ad oggi, il tentativo più concreto a riguardo è COMMISSIONE EUROPEA, Proposta di Regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica alcuni atti legislativi dell’Unione, in www.eur-lex.europa.eu, 21 aprile 2021. Per un inquadramento generale, esemplificato ma esaustivo, delle varie parti in cui si scompone la Proposta, si vedano G. CONTISSA, F. GALLI, F. GODANO, F. SARTOR, Il Regolamento europeo sull’intelligenza artificiale. Analisi informatico-giuridica, in i-lex, n. 2/2021, pp. 5-8; F. DONATI, Diritti fondamentali e algoritmi nella Proposta di Regolamento sull’intelligenza artificiale, in A. PAJNO, F. DONATI, A. PERRUCCI (a cura di), op. cit., I, pp. 111 ss.; A. ADINOLFI, L’Unione europea dinanzi allo sviluppo dell’intelligenza artificiale: la costruzione di uno schema di regolamentazione europea tra mercato unico digitale e tutela dei diritti fondamentali, in S. DORIGO (a cura di), Il ragionamento giuridico nell’era dell’intelligenza artificiale, Pacini Giuridica, Pisa, 2020, pp. 13 ss.
E poi Aggiungi alla schermata principale.
