Sovranità cognitiva e pubblica amministrazione

Sovranità cognitiva e pubblica amministrazione

Il contesto dei dati istituzionali nell'era dell'AI generativa

La tesi: la cognizione istituzionale è un bene pubblico

Chi possiede il contesto della pubblica amministrazione possiede la cognizione istituzionale dello Stato. Questa affermazione non e' una metafora: e' la descrizione di un meccanismo in atto, con conseguenze giuridiche precise e finora quasi interamente trascurate dalla letteratura italiana.

Per "contesto" si intende, nel lessico dei sistemi AI generativi, tutto cio' che un utente porta nell'interazione con un modello linguistico: domande, documenti, storia delle conversazioni, preferenze accumulate nel tempo. Quando quell'utente e' un funzionario pubblico — un avvocato di un ente locale, un dirigente amministrativo, un responsabile di procedimento — il contesto non e' un dato personale dell'individuo. E' patrimonio istituzionale dell'ente: atti, pareri, relazioni istruttorie, informazioni riservate su procedimenti in corso. La sua trasmissione a infrastrutture private di terzi non e' un fatto tecnico neutro. E' un atto giuridicamente rilevante, che l'ordinamento vigente non ha ancora imparato a qualificare e disciplinare adeguatamente.

Il punto di partenza e' un recente working paper della Brookings Institution (Taylor e Krishna, maggio 2026), che introduce il concetto di cognitive agency — agenzia cognitiva — come criterio autonomo per valutare i sistemi AI: non quanta AI viene consumata, ne' cosa produce, ma se e in quale misura restituisce o sottrae all'utente il controllo sul proprio processo cognitivo. E' un avanzamento concettuale rilevante, che rimane pero' confinato alla dimensione del rapporto tra utente privato e piattaforma commerciale. Il presente contributo sviluppa la dimensione istituzionale che quel paper non affronta.

Il contesto istituzionale: qualificazione giuridica

Le piattaforme AI proprietarie dominanti catturano il contesto di ogni interazione per impostazione predefinita: lo archiviano sotto il proprio controllo e lo utilizzano per addestrare modelli futuri. L'utente produce valore cognitivo senza saperlo e lo cede senza poterlo scegliere. Taylor e Krishna descrivono questo meccanismo come context flywheel — il volano del contesto: piu' interazioni generano piu' contesto, che migliora il modello, che attrae piu' utenti, che generano ulteriore contesto. Chi possiede il volano accumula, nel tempo, il pensiero dei propri utenti.

Quando chi alimenta quel volano e' un soggetto pubblico, le implicazioni giuridiche si moltiplicano su piu' livelli.

Sul piano della protezione dei dati personali, il Regolamento (UE) 2016/679 impone che il trattamento di dati personali da parte di soggetti pubblici avvenga su base giuridica esplicita (art. 6), con designazione formale del responsabile del trattamento per i trasferimenti a soggetti terzi (art. 28), e con valutazione di impatto nei casi di trattamento ad alto rischio (art. 35). L'utilizzo di piattaforme AI proprietarie per elaborare documenti contenenti dati personali di cittadini configura nella generalita' dei casi un trasferimento a responsabile esterno che richiede contratto conforme al GDPR: condizione che non sempre accompagna l'adozione di fatto di strumenti AI da parte degli uffici pubblici.

Sul piano del segreto d'ufficio, l'art. 15 del D.P.R. 10 gennaio 1957, n. 3 — applicabile agli impiegati civili dello Stato, con disposizioni analoghe negli ordinamenti degli enti locali — impone l'obbligo di riservatezza sulle notizie di ufficio non di pubblico dominio. L'inserimento di atti riservati in sistemi AI che ne acquisiscono il contenuto per il training dei modelli puo' integrare una violazione di tale obbligo, con rilevanza disciplinare e, nei casi piu' gravi, penale ai sensi dell'art. 326 c.p.

Sul piano procedimentale, le disposizioni sull'accesso documentale impongono che i dati relativi a procedimenti in corso siano trattati con misure idonee a garantirne la riservatezza rispetto alle controparti. Un parere legale interno elaborato con il supporto di una piattaforma AI che ne acquisisce il contenuto per fini propri potrebbe pregiudicare quella riservatezza in modo non reversibile — e senza che l'ente ne abbia piena consapevolezza.

Il problema dell'accountability: motivazione e tracciabilità

La questione non e' solo di riservatezza. E' di accountability democratica sul processo decisionale pubblico.

L'art. 3 della L. 7 agosto 1990, n. 241 impone l'obbligo di motivazione per i provvedimenti amministrativi. La motivazione deve dare conto dell'iter logico-giuridico che ha condotto alla decisione: non come formula, ma come presidio sostanziale di legalita' e di sindacabilita' dell'atto. Se una parte rilevante di quell'iter e' stata esternalizzata a un sistema AI la cui logica elaborativa non e' trasparente, non e' controllabile dall'amministrazione stessa e non e' riproducibile su richiesta del cittadino o del giudice, il requisito motivazionale rischia di svuotarsi.

Il problema non riguarda solo i provvedimenti finali. Riguarda l'intero processo istruttorio: la selezione delle fonti, la costruzione degli argomenti, la valutazione comparativa delle opzioni. Se queste operazioni vengono delegate — anche parzialmente, anche inconsapevolmente — a sistemi AI che operano su logiche opache e non documentabili, la catena di responsabilita' che il diritto amministrativo presuppone si interrompe in un punto che nessun atto formale registra.

Vi e' poi un profilo di irreversibilita' che aggrava ulteriormente il quadro. A differenza di un documento cartaceo trasmesso a un consulente esterno — recuperabile, revocabile, soggetto a obblighi contrattuali di riservatezza — il contesto acquisito da un modello AI per il training non e' tecnicamente restituibile. L'esternalizzazione cognitiva della PA verso piattaforme proprietarie produce una perdita di sovranita' informativa strutturalmente irreversibile: il pensiero istituzionale, una volta ceduto al volano, non torna.

Il quadro regolatorio: prescrizioni esistenti e lacune operative

L'AI Act (Reg. UE 2024/1689), applicabile nelle sue disposizioni principali dal febbraio 2025, classifica come ad alto rischio i sistemi AI utilizzati dalle autorita' pubbliche per valutare, classificare o gestire servizi e prestazioni (Allegato III), imponendo obblighi di trasparenza, documentazione tecnica, registrazione delle attivita' e supervisione umana. La questione aperta — e praticamente irrisolta — e' se e in quale misura l'utilizzo di piattaforme AI generaliste da parte di uffici pubblici ricada in questa categoria, o si collochi nella zona grigia dei sistemi di supporto che non producono decisioni ma le orientano.

La distinzione non e' secondaria. Un sistema che abbozza un parere legale, suggerisce la risposta a un ricorso o struttura una determina dirigenziale non decide in senso formale — ma orienta la decisione in modo significativo. L'accountability per quell'orientamento ricade sull'amministrazione, che pero' spesso non dispone ne' della trasparenza tecnica ne' degli strumenti giuridici per documentarlo.

Le Linee Guida AgID sull'acquisizione e il riuso di software per la PA (aggiornate nel 2024) e le indicazioni del Dipartimento per la Trasformazione Digitale sulla classificazione dei dati pubblici — strategici, critici, ordinari, con conseguenti restrizioni sulle infrastrutture ammissibili — costituiscono un primo presidio. Rimangono pero' strumenti di orientamento privi di enforcement effettivo. La verifica del loro rispetto nella pratica degli uffici — specie nelle amministrazioni di minore dimensione, con risorse IT limitate e pressione crescente verso l'adozione di strumenti AI di mercato — e' sistematicamente carente.

Il context-maxxing istituzionale: una proposta necessaria

E' qui che il paper Brookings offre uno spunto che merita di essere sviluppato oltre le intenzioni degli autori. Taylor e Krishna propongono il context-maxxing — l'utilizzo di ambienti AI self-hosted, open-source, con accesso API a piu' provider — come risposta individuale al problema dell'agenzia cognitiva. Tradotta in chiave istituzionale, quella proposta assume una valenza radicalmente diversa e molto piu' ambiziosa.

Una pubblica amministrazione che adotti un'architettura di context-maxxing non si limita a tutelare l'agenzia cognitiva dei propri funzionari: afferma la sovranita' cognitiva dell'ente sul proprio patrimonio informativo. Il contesto istituzionale rimane sotto il controllo dell'ente. Il processo di elaborazione e' verificabile e documentabile. Il training dei modelli non avviene sul patrimonio cognitivo della PA senza il suo consenso esplicito e revocabile. La catena di accountability che il diritto amministrativo presuppone rimane integra.

Non e' un'ipotesi futuristica. E' la direzione indicata — ancora in forma embrionale — dalle iniziative europee di cloud sovrano, dal programma GAIA-X, e dalle sperimentazioni di alcune amministrazioni nordeuropee con modelli open-source su infrastrutture nazionali. Il difetto italiano non e' la mancanza di strumenti tecnici: e' la mancanza di una cornice giuridica che trasformi quella direzione in obbligo esigibile piuttosto che in scelta discrezionale rimessa alla sensibilita' dei singoli responsabili IT.

Va pero' registrata un'obiezione tecnica ineludibile, sollevata nel dibattito pubblico attorno allo stesso paper: anche il context-maxxing, nella sua forma attuale, non risolve il problema dell'inferenza. Le chiamate API transitano comunque su server di fornitori privati in giurisdizioni estere. Il contesto e' sotto il controllo dell'utente, ma per essere elaborato deve attraversare un'infrastruttura che non lo e'. Per la pubblica amministrazione, questo residuo di dipendenza non e' un dettaglio tecnico: e' un problema di sovranita' che nessuna soluzione puramente software puo' dissolvere senza infrastrutture computazionali sovrane corrispondenti. Il context-maxxing istituzionale e' una condizione necessaria, non sufficiente.

Conclusioni: tre condizioni minime per un regime giuridico della sovranità cognitiva

Il quadro che emerge e' quello di un ritardo strutturale del diritto rispetto alla pratica. Le pubbliche amministrazioni italiane adottano strumenti AI generativi — spesso in via informale, attraverso l'uso individuale da parte dei dipendenti di piattaforme commerciali — in assenza di una disciplina organica che regoli la tutela del contesto istituzionale, la tracciabilita' dell'apporto AI alle decisioni pubbliche e la titolarita' dei dati prodotti nell'interazione tra funzione pubblica e macchina cognitiva.

Tre condizioni minime appaiono necessarie per un regime giuridico adeguato. Prima: il contesto istituzionale trasferito a sistemi AI deve rimanere sotto il controllo dell'ente, o essere soggetto a obblighi contrattuali di non riutilizzo verificabili e sanzionabili — non affidate alla buona fede del fornitore. Seconda: l'apporto AI al processo istruttorio e decisionale deve essere documentato in modo sufficiente a garantire il rispetto sostanziale dell'obbligo motivazionale ex art. 3 L. 241/1990, con indicazione del sistema utilizzato, del contesto fornito e del grado di autonomia del funzionario nella valutazione dell'output. Terza: le infrastrutture utilizzate per l'elaborazione di dati pubblici sensibili devono essere soggette a requisiti di localizzazione e sicurezza equivalenti a quelli gia' previsti per il cloud della PA dalla normativa AgID.

Quella cognitiva non e' una risorsa commerciale che la PA acquista sul mercato come qualunque altro servizio. E' il substrato del processo decisionale pubblico — e dunque, in ultima analisi, della legittimita' democratica dell'azione amministrativa. Trattarla come tale e' il primo passo verso un diritto dell'AI che sia all'altezza della posta in gioco.