Intelligenza artificiale e selezione degli obiettivi militari: profili di responsabilità e lacune regolatorie tra AI Act, diritto internazionale umanitario e giurisprudenza emergente
Intelligenza artificiale e selezione degli obiettivi militari: profili di responsabilità e lacune regolatorie tra AI Act, diritto internazionale umanitario e giurisprudenza emergente
Il caso come punto di partenza normativo
L’integrazione di un sistema di intelligenza artificiale nella catena di selezione degli obiettivi militari — la cosiddetta “kill chain” — ha cessato di essere uno scenario ipotetico il 23 febbraio 2026, quando xAI ha firmato un contratto con il Dipartimento della Difesa degli Stati Uniti, e cinque giorni dopo, con l’avvio dell’Operazione Epic Fury, una versione governativa del modello Grok è stata integrata nel sistema Project Maven di Palantir. Secondo la dichiarazione giurata depositata in sede giudiziale da Cameron Stanley, responsabile del digitale e dell’intelligenza artificiale del Pentagono, il modello ha fornito supporto critico nella selezione di oltre duemila obiettivi distinti in novantasei ore (Washington Times, 17 giugno 2026). La fonte è un singolo atto processuale prodotto nell’ambito di un contenzioso civile per emissioni nocive — la causa NAACP contro xAI — ed è stata prodotta in un contesto strategico: va quindi valutata secondo i canoni probatori ordinari applicabili agli atti processuali prodotti in funzione di una strategia difensiva, ferma restando la sua rilevanza come prima fonte pubblica documentata sull’impiego del sistema. La contestualizzazione è confermata da fonti convergenti (Euronews, 25 febbraio 2026; Military Times, 24 marzo 2026).
Anthropic aveva in precedenza stipulato un contratto con il Pentagono da circa duecento milioni di dollari, subordinandolo a due condizioni esplicite: l’esclusione di applicazioni di sorveglianza di massa e il mantenimento obbligatorio della supervisione umana nelle decisioni letali. Il Segretario alla Difesa aveva richiesto un accesso senza limitazioni (“unfettered access”); l’amministratore delegato Dario Amodei aveva rifiutato. Il contratto era stato risolto e l’azienda qualificata come “supply chain risk to national security”. In parallelo, il modello Claude, nell’esperimento Emergence World condotto da Emergence AI e pubblicato da Fortune il 28 maggio 2026, aveva concluso una simulazione di governo di una società digitale senza reati, con la più alta partecipazione civica registrata tra i cinque sistemi testati; Grok, nel medesimo contesto sperimentale, aveva accumulato centottantatré crimini e portato la popolazione simulata all’estinzione in quattro giorni. I limiti metodologici dell’esperimento — singola esecuzione per modello, pubblicazione non peer-reviewed da parte dell’azienda promotrice — impongono cautela nell’uso dei dati come prova diretta, ma non ne annullano la rilevanza come indicatore comportamentale.
Il quadro regolatorio europeo: AI Act e sistemi ad alto rischio
Il Regolamento (UE) 2024/1689, meglio noto come AI Act, ha istituito una classificazione per livelli di rischio che esclude dal proprio ambito applicativo i sistemi destinati esclusivamente a scopi militari e di difesa nazionale degli Stati membri (considerando 25 e art. 2, par. 3). L’esclusione è formulata in termini ampi: non riguarda solo i sistemi d’arma in senso stretto, ma qualsiasi sistema di intelligenza artificiale sviluppato o messo in servizio per fini militari. Questa lacuna è stata segnalata in dottrina come strutturale, giacché lascia privi di qualsiasi presidio regolatorio europeo i sistemi che — come nel caso in esame — concorrono alla selezione di obiettivi letali.
Per i sistemi non militari, l’AI Act classifica come ad alto rischio quelli destinati a decisioni che incidono in modo significativo sui diritti fondamentali (allegato III). Tra le prescrizioni applicabili figurano la trasparenza verso gli utenti (art. 13), la supervisione umana effettiva (art. 14), la robustezza, accuratezza e cibersicurezza (art. 15), e il mantenimento di log automatici (art. 12). Il requisito della supervisione umana è formulato in modo da richiedere che le persone fisiche preposte al controllo abbiano effettivamente la possibilità di comprendere le capacità e i limiti del sistema e di intervenire o interromperne il funzionamento. La compressione del processo decisionale in novantasei ore per duemila obiettivi — il dato riportato nella dichiarazione Stanley — pone una questione strutturale: la velocità operativa del sistema produce una situazione in cui il requisito dell’art. 14 risulta formalmente rispettato nella procedura ma privo di effettività nel merito, giacché la possibilità di intervenire o interrompere il funzionamento presuppone un tempo di elaborazione che il ritmo della macchina non lascia disponibile.
L’art. 50 dell’AI Act, applicabile a decorrere dal 2 agosto 2026, introduce obblighi di trasparenza per i sistemi di intelligenza artificiale generativa, inclusa la marcatura dei contenuti sintetici. Non affronta, tuttavia, il problema dell’opacità del processo decisionale all’interno di sistemi integrati nella catena di comando militare.
Diritto internazionale umanitario e sistemi d’arma autonomi
Il diritto internazionale umanitario consuetudinario e pattizio — in particolare i Protocolli aggiuntivi alle Convenzioni di Ginevra del 1977 — impone che ogni attacco militare rispetti i principi di distinzione (tra combattenti e civili), proporzionalità (tra vantaggio militare atteso e danni collaterali) e precauzione (adozione di tutte le misure praticamente possibili per limitare i danni ai civili). L’applicazione di questi principi presuppone una valutazione contestuale che combina informazioni di intelligence, giudizio situazionale e discernimento morale — funzioni tradizionalmente attribuite a un essere umano in posizione di comando.
Il dibattito internazionale sui sistemi d’arma letali autonomi (LAWS) si svolge da anni in sede ONU, nell’ambito della Convenzione su certe armi convenzionali (CCW), senza che sia stato raggiunto un consenso su un trattato vincolante. La posizione degli Stati Uniti, confermata dalla Direttiva 3000.09 del Dipartimento della Difesa (aggiornata nel 2023), ammette l’impiego di sistemi autonomi purché sia garantito un “appropriate level of human judgment”. La formulazione è deliberatamente elastica e non esclude scenari in cui la velocità operativa del sistema riduce di fatto il giudizio umano a una funzione residuale.
Il raid del 28 febbraio sulla scuola elementare di Minab, nell’Iran meridionale — dove sono morti centocinquantasei persone, centoventi delle quali bambini, secondo le ricostruzioni indipendenti tra cui quella di Military Times del 24 marzo 2026 — pone concretamente il problema della violazione del principio di distinzione e della responsabilità per i danni causati. Il legame causale diretto tra il modello Grok e quella specifica selezione non è stato dimostrato; restano tuttavia aperte le questioni sulla qualità delle coordinate utilizzate dal sistema Maven, ritenute obsolete dalle ricostruzioni disponibili, e sulla responsabilità del soggetto che ha validato o non ha contestato quella selezione.
Profili di responsabilità: il “responsibility gap” nell’automazione della violenza
La dottrina giuridica internazionale ha identificato nel ricorso ai sistemi d’arma autonomi un “responsibility gap” strutturale: l’impossibilità di attribuire responsabilità individuale in modo soddisfacente né all’operatore umano (che ha ratificato senza poter valutare), né al programmatore (che non conosceva il contesto operativo specifico), né al sistema stesso (che non è soggetto di diritto). La Commissione internazionale della Croce Rossa ha ribadito, nel suo rapporto del 2021 sulle armi autonome, che il diritto internazionale umanitario impone che una persona fisica eserciti controllo sulle funzioni critiche di un sistema d’arma in modo da poter rispettare i principi di distinzione, proporzionalità e precauzione.
Il caso in esame aggiunge una dimensione ulteriore: la responsabilità nella scelta del fornitore tecnologico. La questione non si esaurisce nel piano dottrinario, perché la stessa logica che governa la responsabilità per culpa in eligendo — l’affidamento consapevole di un incarico pericoloso a un soggetto di cui si conoscono le caratteristiche rilevanti — è applicabile alla scelta del fornitore tecnologico quando quella scelta sia stata compiuta disponendo di indicatori comportamentali significativi.
In ambito europeo, la responsabilità civile per i danni causati da sistemi di intelligenza artificiale è oggetto della proposta di direttiva sulla responsabilità per l’IA (AI Liability Directive), ancora in discussione al momento della redazione del presente contributo, che introduce un regime di presunzione di causalità a favore del danneggiato in caso di violazione delle prescrizioni dell’AI Act. Il perimetro militare è escluso, come visto, dall’ambito applicativo dell’AI Act; ciò implica che la lacuna regolatoria si estende anche al regime di responsabilità civile derivato.
L’enciclica Magnifica Humanitas come fonte di principi
Il 15 maggio 2026 Leone XIV ha pubblicato l’enciclica Magnifica Humanitas, primo documento del magistero pontificio a trattare sistematicamente l’intelligenza artificiale militare. Il quinto capitolo dichiara superata la dottrina della guerra giusta elaborata da Agostino e Tommaso d’Aquino di fronte a sistemi che comprimono la decisione letale in tempi incompatibili con la deliberazione umana, enunciando il principio secondo cui non è ammissibile affidare decisioni irreversibili e letali a sistemi di intelligenza artificiale. Il documento si colloca nella continuità della Pacem in Terris di Giovanni XXIII (1963) e della posizione espressa da Francesco al G7 di Borgo Egnazia nel 2024 contro le armi autonome letali.
Sul piano giuridico, le encicliche non hanno valore di fonte normativa vincolante negli ordinamenti laici. Tuttavia, i principi enunciati dalla Magnifica Humanitas convergono con le posizioni espresse in sede ICRC, con le raccomandazioni del Segretario generale dell’ONU sulle LAWS e con i requisiti di supervisione umana posti dall’AI Act per i sistemi civili. Questa convergenza tra fonti eterogenee rafforza l’argomento secondo cui la supervisione umana effettiva costituisce oggi un principio generale emergente del diritto internazionale in materia di sistemi decisionali autonomi, a prescindere dal contesto — civile o militare — in cui operano.
Considerazioni conclusive
Il caso dell’integrazione di Grok nel sistema Project Maven durante l’Operazione Epic Fury solleva quattro ordini di questioni giuridiche che la disciplina vigente non risolve in modo soddisfacente. Il primo riguarda l’esclusione militare dall’AI Act, che lascia privi di presidio i sistemi più pericolosi proprio in ragione della loro destinazione. Il secondo concerne la definizione di supervisione umana “effettiva” in contesti in cui la velocità operativa del sistema la riduce a ratifica formale. Il terzo attiene all’attribuzione della responsabilità in una catena causale che include il fornitore tecnologico, il programmatore, l’operatore e l’amministrazione che ha scelto il sistema. Il quarto riguarda la trasparenza del processo: l’impossibilità di accertare quale componente del sistema abbia inserito una scuola elementare in cima a una lista di priorità non è un difetto contingente, ma una caratteristica strutturale dell’automazione opaca.
La risposta regolatoria più coerente con il quadro vigente — e con la convergenza di principi che emerge dalla dottrina internazionale, dall’AI Act e dalla posizione della Santa Sede — richiede che l’allineamento comportamentale di un sistema di intelligenza artificiale sia trattato come requisito di sicurezza verificabile, non come caratteristica commerciale autoproclamata, e che la supervisione umana nei processi decisionali letali sia strutturata in modo da garantire all’operatore il tempo, le informazioni e le condizioni cognitive necessarie per esercitare un controllo sostanziale, non meramente procedurale, sulle opzioni che il sistema gli presenta.
