Le “allucinazioni” dell’intelligenza artificiale nei provvedimenti amministrativi e negli atti processuali

Riferimenti giurisprudenziali inconferenti o inesistenti prodotti con l’impiego dell’intelligenza artificiale non invalidano gli atti in cui sono contenuti se la motivazione finale esprime un percorso logico-giuridico autonomo, riferibile all’organo titolare del potere e da questo assunto e sottoscritto.

Va rammentato che l’IA può assistere l’amministrazione, ma non può sostituire il soggetto umano titolare del potere amministrativo, cui rimane la paternità e responsabilità degli atti, in applicazione del principio della “riserva di umanità”. Che viene meno, se si recepisce automaticamente e acriticamenteil risultato prodotto da un sistema di IA, senza comprenderlo, verificarlo o correggerlo.

Recenti sentenze arricchiscono il panorama giurisprudenziale sulla tematica della valenza da attribuire alle elaborazioni prodotte dalla intelligenza artificiale generativa inserite nei provvedimenti amministrativi o negli atti processuali.

Sentenza TAR Marche 1.6.2026  n. 758

Secondo la società ricorrente, la relazione del RUP conteneva argomentazioni generiche, richiami a sentenze inesistenti o inconferenti e passaggi stereotipati. Da qui il sospetto che fosse stata redatta con il supporto di un sistema di intelligenza artificiale non dichiarato e non adeguatamente controllato.

Veniva riportato che  “A fattor comune va poi evidenziato che la relazione contiene argomentazioni talmente illogiche e generiche da far emergere il fondato sospetto che essa sia stata elaborata con il supporto di sistemi di intelligenza artificiale non dichiarati né adeguatamente controllati dall’utilizzatore.

Questo emerge in particolare:

– dal fatto che le pronunce del G.A. richiamate sono inesistenti o quantomeno inconferenti;

– dalla circostanza che, come ampiamente esposto, le valutazioni appaiono stereotipate e non conferenti rispetto alle deduzioni difensive della ricorrente e alla documentazione da essa prodotta nell’ambito del procedimento di verifica del possesso del requisito in parola.

Tutto ciò dà luogo alla violazione del principio della c.d. riserva di umanità, sancito dall’art. 30, commi 3 e 4, del D.Lgs. n. 36/2023.”

Sul punto, i giudici si esprimono come segue.

“(….)  Al riguardo va ricordato che, a far tempo dal 2019 (sentenze del Consiglio di Stato nn. 2270 e 8472), la giurisprudenza amministrativa ha chiarito che l’eventuale impiego distrumenti di IA o di supporti algoritmici non può tradursi “…in una delega integrale del potere decisionale a un sistema automatico, soprattutto nei procedimenti caratterizzati da profili valutativi o discrezionali…”, e ciò in quanto “…l’utilizzo di procedure algoritmiche è legittimo solo se l’amministrazione conserva un effettivo potere di controllo e di imputazione della decisione, restando esclusa l’adozione di determinazioni amministrative basate su meccanismi caratterizzate dalla mera automazione…”. Più di recente il T.A.R. Lazio, con la sentenza n. 1895/2026, haulteriormente chiarito che “…nelle procedure automatizzate … non può essere pretermessa la riserva di umanità…”, visto che ” … il principio di controllo umano delle decisioni automatizzate trova solido fondamento: (i) negli artt. 3, 24 e 97 Cost., che impongono il rispetto dei principi di uguaglianza, diritto di difesa, imparzialità, ragionevolezza e buon andamento dell’azione amministrativa; (ii) nella legge n. 241/1990, in particolare negli artt. 1 e 3, che richiedono che l’azione amministrativa sia sorretta da motivazione intelligibile e verificabile, e negli artt. 7 ss. e 22 ss., che tutelano la partecipazione procedimentale e il diritto di accesso; (iii) nel Codice dell’amministrazione digitale (d.lgs. n. 82/2005), che consente l’uso di strumenti informatici e automatizzati solo in quanto funzionali al perseguimento dell’interesse pubblico e nel rispetto dei principi di trasparenza, responsabilità e centralità della persona…”. (….) Passando invece a trattare delle censure relative alla presunta violazione della c.d. riserva di umanità, il Collegio evidenzia anzitutto che la censura è mal posta, in quanto nella specie non si è in presenza di una decisione completamente automatizzata nel senso comunemente inteso.

Va infatti ricordato che per decisione amministrativa completamente automatizzata deve intendersi un atto che sia la risultante della mera elaborazione di dati inseriti a sistema, senza alcun intervento umano che riguardi, alternativamente o cumulativamente, la fase dell’input dei dati, la fase della loro elaborazione o la fase decisionale vera e propria. Per la verità, secondo l’opinione dottrinale prevalente l’intervento umano potrebbe essere limitato anche solo alla fase della decisione preliminare circa l’utilizzo della procedura automatizzata, l’unico obbligo del deployer – ossia del soggetto, pubblico o privato, che utilizza sistemi di IA – essendo quello (previsto ad esempio dall’art. 86 del Regolamento dell’U.E. n. 1689/2024 e dall’art. 30 del D.Lgs. n. 36/2023) di fornire a chiunque sia interessato “…spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata…”. Pertanto, allo stato attuale dell’arte, e a seconda della tipologia di procedimento che viene in rilievo, in alcuni casi la P.A. potrebbe garantire la c.d. riserva di umanità anche adottando solo la decisione preliminare in merito all’utilizzo di una procedura basta sull’IA (e dovendo nel prosieguo verificare solo il corretto funzionamento del sistema, oltre, come detto, a rendere le dovute spiegazioni a chiunque sia interessato). (….) In realtà, quand’anche fosse vero che il R.U.P. della presente gara ha in parte qua utilizzato l’IA, egli avrebbe operato alla stregua di un avvocato che, dovendo redigere un atto processuale relativo ad una causa civile, abbia chiesto all’IA di cercare tutte le sentenze della Corte Costituzionale e della Corte di Cassazione in cui è trattata, ad esempio, la tematica del “fine vita”. Si tratta, cioè, di una modalità nuova e moderna rispetto alla tradizionale ricerca cartacea – la quale implicava la faticosa consultazione di riviste o manuali – ma che non incide sulla parte volitiva dell’atto processuale (va peraltro ricordato che anche all’epoca del processo cartaceo capitava sovente di rinvenire negli atti difensivi delle parti richiami giurisprudenziali errati o “selettivi”).

In effetti, nel caso odierno il R.U.P. ha operato alcuni richiami giurisprudenziali solo con riguardo ai principi che la giurisprudenza ha via via affinato relativamente alle cause di esclusione c.d. facoltative, ma le valutazioni relative al merito delle condotte addebitate a -OMISSIS-, e dunque alla concreta applicazione di quei principi, appartengono indubbiamente al funzionario.”

Quindi l’eventuale utilizzo dell’intelligenza artificiale come supporto alla redazione o alla ricerca di precedenti giurisprudenziali non integra, di per sé, violazione della riserva di umanità, ove la decisione finale e la valutazione discrezionale restino imputabili all’amministrazione.

L’impiego dell’intelligenza artificiale non viola la riserva di umanità quando non incide sulla parte volitiva del provvedimento e la valutazione dei fatti, l’applicazione dei principi al caso concreto e la decisione finale restano affidate all’autorità competente.

Un sistema può limitarsi ad assistere il funzionario nella ricerca di fonti, nell’analisi dei documenti o nella predisposizione di una bozza. In questo caso non è necessariamente l’algoritmo a decidere.

Diversa è l’ipotesi in cui l’amministrazione recepisca automaticamente il risultato prodotto dal sistema, senza comprenderlo, verificarlo o correggerlo.

Sentenza TAR Puglia, Bari, sez. III, 3.8.2026 n. 956

“ L’eventuale ausilio di strumenti di intelligenza artificiale generativa nella fase di elaborazione materiale di un provvedimento amministrativo non incide, di per sé, sulla validità dell’atto, né può tradursi in un vizio di difetto assoluto di motivazione, quando la motivazione finale esprima un percorso logico-giuridico autonomo, riferibile all’organo titolare del potere e da questo assunto e sottoscritto.

Il vincolo posto dall’articolo 97 della Costituzione, quale attuazione del principio di riserva di umanità e dell’uomo all’interno del processo decisionale (c.d. human in the loop, cfr. Cons. Stato, Sez. VI, nn. 2270 e 8472 del 2019) non si traduce nel sindacare le modalità con cui l’amministrazione, nella fase preparatoria, si sia avvalsa di strumenti di supporto, ma nell’esigere che il discorso giustificativo finale, quale risulta dal provvedimento, sia un discorso giuridico autonomo, riferibile al suo autore e non alienato.

Si può aggiungere che in questi casi l’eventuale assistente algoritmico opera in un ruolo servente e non sostitutivo: le minute eventualmente prodotte da un sistema generativo devono essere esaminate, emendate e convalidate dal soggetto titolare del potere, che ne assume l’esclusiva paternità e responsabilità. Ove l’output recepito risulti inficiato da un errore o da un’allucinazione informatica, tale errore è

integralmente ascrivibile all’organo che lo ha fatto proprio inserendolo nell’atto, e il sindacato del giudice deve appuntarsi sulla tenuta logico-giuridica della motivazione complessivamente risultante, non sulla provenienza, umana o anche digitalmente assistita, dei singoli passaggi.

L’eventuale erroneità di una citazione di supporto, per quanto non commendevole, non priva l’atto del suo nucleo motivazionale effettivo, né determina l’assenza di motivazione che il ricorrente lamenta.

Nel caso di specie, il ricorrente lamenta la presenza, nel primo provvedimento, di riferimenti giurisprudenziali inesistenti o inconferenti, dei quali deduce, senza fornirne peraltro alcuna certezza, l’origine da un utilizzo distorto di sistemi di intelligenza artificiale.

Anche a voler ammettere che tale origine sia effettiva, e che uno o più richiami giurisprudenziali risultino inesistenti o comunque non pertinenti, ciò non è sufficiente a travolgere l’intero provvedimento per difetto assoluto di motivazione: lamotivazione dell’atto si fonda, nel suo nucleo essenziale, su un accertamento di fatto,relativo alla rappresentazione dello stato dei luoghi e alla consistenza dell’immobile, che è del tutto autonomo da qualsivoglia richiamo a precedenti giurisprudenziali, e che il provvedimento espone con sufficiente specificità da consentirne la piena comprensibilità e la verificabilità in questa sede.”

Allucinazioni dell’intelligenza artificiale negli atti processuali

Tribunale ordinario di Firenze – Sez. Imprese  – 14 marzo 2025 – Ordinanza RG 11053/2024

Il difensore, anche quando utilizza uno strumento di intelligenza artificiale deve effettuare le necessarie verifica della veridicità delle ricerche, (nel caso in esame è stato utilizzato lo strumento dell’intelligenza artificiale “ChatGPT” che ha inventato numeri asseritamente riferibili a sentenze della Corte di Cassazione, oppure, citato sentenze esistenti ma con contenuto del tutto differente a quello riportato).

L’I.A. avrebbe dunque generato risultati errati che possono essere qualificati con il fenomeno delle cosiddette allucinazioni di intelligenza artificiale, che si verifica allorché l’IA inventi risultati inesistenti ma che, anche a seguito di una seconda interrogazione, vengono confermati come veritieri. Tuttavia, in sede processuale, è stato rilevato che l’errore/omissione di verifica della veridicità delle ricerche effettuate e l’abusivo utilizzo dello strumento processuale, unitamente all’assenza di malafede del difensore, non hanno influito sulla decisione del collegio, impedendo così la condanna della controparte ex art. 96 c.p.c.

Corte di Cassazione penale  – Sez. 7^, 26 marzo 2026 – Ordinanza n.11431

E’ inammissibile l’atto d’impugnazione quando i richiami giurisprudenziali contenuti nel ricorso risultano frutto di probabile allucinazione informatica conseguente all’utilizzo di applicativi di intelligenza artificiale generativa, quando le sentenze richiamate, pur esistenti, non affermano i principi corrispondenti a ciascuna delle decisioni indicate, non potendosi escludere profili di colpa nella sua proposizione.