Il paradosso del guardiano: la perdita del controllo tecnologico delle Big Tech e la crisi dell'autoregolamentazione nell'era dell'intelligenza artificiale

Il paradosso del guardiano: la perdita del controllo tecnologico delle Big Tech e la crisi dell'autoregolamentazione nell'era dell'intelligenza artificiale

The Guardian’s Paradox: Big Tech’s Loss of Technological Control and the Crisis of Self-Regulation in the Age of Artificial Intelligence

Abstract italiano

Il progressivo sviluppo di sistemi di intelligenza artificiale sempre più complessi, adattivi e caratterizzati da comportamenti emergenti pone una questione centrale per il diritto contemporaneo: fino a che punto i soggetti che progettano, sviluppano, addestrano, commercializzano e impiegano tali tecnologie sono effettivamente in grado di esercitare un controllo sui processi algoritmici e, soprattutto, di rispondere delle conseguenze derivanti dal loro funzionamento?

Il contributo esamina quello che viene definito il paradosso del guardiano: la contraddizione tra la posizione di potere tecnologico, economico e infrastrutturale assunta dalle grandi imprese digitali e la crescente difficoltà di assicurare un governo effettivo, trasparente e giuridicamente responsabile dei sistemi di intelligenza artificiale da esse sviluppati o distribuiti.

Muovendo dai limiti strutturali dei modelli di autoregolamentazione aziendale, dai codici etici volontari e dai meccanismi interni di gestione del rischio, l'analisi approfondisce il progressivo scollamento tra potere tecnologico, capacità di controllo e imputabilità giuridica. Particolare attenzione è dedicata ai problemi di accertamento del nesso causale, alla distribuzione degli obblighi lungo la catena del valore dell'intelligenza artificiale, alla responsabilità civile per i danni cagionati da sistemi algoritmici e ai presupposti, necessariamente più rigorosi, dell'eventuale responsabilità penale delle persone fisiche e degli enti.

La riflessione si colloca nel quadro multilivello della regolazione europea, con particolare riferimento al Regolamento (UE) 2024/1689 (Artificial Intelligence Act), alla disciplina in materia di protezione dei dati personali, alla responsabilità da prodotto difettoso e agli strumenti normativi posti a presidio della sicurezza, della trasparenza e della tutela dei diritti fondamentali.

La tesi sostenuta è che l'autoregolamentazione privata, pur conservando una funzione complementare nell'elaborazione di standard tecnici e modelli organizzativi di conformità, non costituisca uno strumento sufficiente a governare rischi tecnologici caratterizzati da asimmetrie informative, concentrazione del potere economico, opacità decisionale e potenziali effetti transnazionali. Ne deriva l'esigenza di un modello di governance fondato su obblighi giuridici cogenti, supervisione indipendente, effettività dei meccanismi di enforcement e responsabilizzazione degli operatori lungo l'intero ciclo di vita dei sistemi di IA.

In questa prospettiva, la questione dell'intelligenza artificiale trascende la dimensione della mera regolazione tecnologica e investe direttamente i fondamenti dello Stato di diritto, l'effettività della tutela giurisdizionale e l'esercizio della sovranità digitale. La sfida per il diritto non consiste nell'attribuire soggettività giuridica alle macchine, bensì nell'impedire che la crescente complessità dei sistemi algoritmici si traduca in una zona di irresponsabilità per i soggetti che ne determinano lo sviluppo, ne controllano le infrastrutture e ne traggono vantaggio economico.

Abstract English

The progressive development of increasingly complex and adaptive artificial intelligence systems, characterised by emergent behaviours and limited predictability, raises a fundamental question for contemporary law: to what extent can the entities that design, develop, train, commercialise and deploy such technologies effectively control algorithmic processes and, above all, be held legally accountable for the consequences arising from their operation?

This paper examines what may be defined as the Guardian’s Paradox: the contradiction between the technological, economic and infrastructural power exercised by major digital corporations and their growing difficulties in ensuring effective, transparent and legally accountable governance of the artificial intelligence systems they develop or distribute.

Starting from the structural limitations of corporate self-regulation, voluntary ethical codes and internal risk-management mechanisms, the analysis explores the widening gap between technological power, effective control and legal accountability. Particular attention is devoted to the challenges of establishing causation, allocating legal obligations throughout the AI value chain, determining civil liability for damage caused by algorithmic systems and identifying the stringent legal requirements governing the potential criminal liability of natural persons and legal entities.

The analysis is situated within the EU's multilayered regulatory framework, with reference to Regulation (EU) 2024/1689 (the Artificial Intelligence Act), data protection legislation, product liability rules and the regulatory instruments designed to safeguard security, transparency and fundamental rights.

The central argument is that private self-regulation, while retaining a complementary role in the development of technical standards and organisational compliance frameworks, cannot by itself provide an adequate response to technological risks characterised by information asymmetries, concentrated economic power, algorithmic opacity and potentially transnational effects. This calls for a governance model based on binding legal obligations, independent supervision, effective enforcement mechanisms and the accountability of operators throughout the entire lifecycle of AI systems.

From this perspective, artificial intelligence regulation extends beyond the mere governance of technology and directly concerns the foundations of the rule of law, the effectiveness of judicial protection and the exercise of digital sovereignty. The legal challenge does not lie in

granting legal personhood to machines, but rather in preventing the increasing complexity of algorithmic systems from creating zones of legal impunity for those who determine their development, control their infrastructures and derive economic benefits from their deployment.

Introduzione: il tramonto del paradigma prometeico e la crisi della controllabilità tecnologica

Il dibattito contemporaneo sull'intelligenza artificiale ha raggiunto una fase di profonda discontinuità, nella quale le questioni centrali non riguardano più esclusivamente il progresso ingegneristico, la capacità computazionale o l'efficienza dei modelli, ma investono direttamente la possibilità di governare, prevedere e contenere gli effetti dei sistemi algoritmici più avanzati. Una delle questioni maggiormente rilevanti emerge proprio dalle difficoltà manifestate dagli stessi soggetti che progettano, sviluppano e commercializzano tali tecnologie nell'assicurarne una supervisione effettiva lungo l'intero ciclo di vita.

Per lungo tempo, il paradigma industriale delle grandi imprese tecnologiche (Big Tech) si è fondato sulla convinzione che la disponibilità di ingenti risorse computazionali, di infrastrutture proprietarie e di quantità crescenti di dati consentisse di mantenere un controllo sostanzialmente adeguato sui sistemi sviluppati. L'evoluzione dei modelli di apprendimento automatico, in particolare dei Large Language Models (LLM) e dei sistemi di intelligenza artificiale capaci di pianificare e intraprendere azioni in autonomia, ha tuttavia evidenziato limiti strutturali di tale presupposto.

La crescente complessità delle architetture neurali, la natura probabilistica dei processi inferenziali, l'emersione di capacità non esplicitamente programmate e la difficoltà di ricostruire integralmente le dinamiche interne dei modelli pongono problemi inediti sotto il profilo della prevedibilità e della controllabilità. Non si tratta necessariamente di una perdita assoluta del controllo tecnico, né dell'acquisizione da parte delle macchine di un'autonomia decisionale assimilabile a quella umana, quanto piuttosto della progressiva riduzione della capacità degli sviluppatori e degli operatori di anticipare, spiegare e governare tutte le possibili manifestazioni operative dei sistemi.

In questa tensione tra potere tecnologico e limitata controllabilità si colloca quello che il presente contributo definisce il paradosso del guardiano: i soggetti economici che concentrano le maggiori risorse infrastrutturali, finanziarie e conoscitive necessarie allo sviluppo dell'intelligenza artificiale possono trovarsi nell'impossibilità di garantire un controllo pienamente efficace sulle tecnologie che essi stessi immettono nei circuiti economici e sociali.

La questione assume una rilevanza eminentemente giuridica. La difficoltà di prevedere il comportamento di un sistema algoritmico non costituisce, infatti, soltanto un problema di sicurezza informatica o di affidabilità ingegneristica, ma investe i presupposti dell'imputazione della responsabilità, l'individuazione degli obblighi di diligenza, la distribuzione del rischio tecnologico e l'effettività della tutela dei soggetti danneggiati. Il problema fondamentale diviene pertanto stabilire se e in quale misura l'incertezza tecnologica possa incidere sui criteri giuridici di attribuzione delle conseguenze dannose.

In questa prospettiva, il paradigma del superamento dei limiti umani attraverso l'innovazione tecnologica, fondato sull'idea di un dominio progressivo e sostanzialmente illimitato sulla propria creazione, rivela i propri limiti. Il diritto è chiamato a confrontarsi non tanto con una presunta autonomia soggettiva delle macchine, quanto con l'esigenza di impedire che la crescente complessità dei sistemi di intelligenza artificiale determini un'area di irresponsabilità dei soggetti che ne governano lo sviluppo e ne traggono utilità economica.

L'insufficienza strutturale dell'etica aziendale e i limiti dell'autoregolamentazione privata

La diffusione globale delle tecnologie digitali si è sviluppata, per una parte significativa, all'interno di un modello di governance caratterizzato dal ricorso a strumenti di regolazione flessibile, standard volontari, codici di condotta e meccanismi di autodisciplina aziendale. In tale contesto, le grandi imprese tecnologiche hanno progressivamente elaborato modelli interni di Corporate AI Governance, comitati etici, procedure di valutazione dei rischi e politiche di sviluppo responsabile dell'intelligenza artificiale (Responsible AI).

Tali strumenti hanno contribuito alla definizione di principi di trasparenza, sicurezza, equità e non discriminazione, favorendo l'elaborazione di prassi organizzative e standard tecnici destinati a incidere sui processi di progettazione e distribuzione dei sistemi algoritmici. La loro diffusione ha tuttavia evidenziato una criticità di carattere strutturale: la coincidenza tra il soggetto chiamato a gestire il rischio tecnologico e il soggetto che persegue l'interesse economico alla massimizzazione dello sviluppo, della commercializzazione e della diffusione della tecnologia.

L'autoregolamentazione privata presenta, infatti, limiti intrinseci quando viene chiamata a disciplinare attività caratterizzate da rilevanti asimmetrie informative, elevata concentrazione del potere economico e potenziali esternalità negative a carico della collettività. La definizione degli standard di sicurezza, la valutazione dell'accettabilità dei rischi e l'individuazione delle soglie di intervento rimangono, in tali modelli, prevalentemente affidate a decisioni organizzative interne, la cui effettività dipende anche dagli assetti proprietari, dagli incentivi economici e dalle strategie competitive dell'impresa.

Il problema si manifesta con particolare evidenza nell'attuale competizione internazionale per lo sviluppo dei modelli di intelligenza artificiale generativa e dei sistemi di frontiera. La pressione concorrenziale, la necessità di ridurre i tempi di commercializzazione e l'entità degli investimenti richiesti possono determinare una tensione permanente tra obiettivi di sicurezza e strategie di espansione economica. In tale scenario, i presidi etici aziendali rischiano di perdere effettività qualora non siano accompagnati da obblighi giuridici verificabili, adeguati sistemi di controllo e responsabilità organizzative chiaramente individuate.

Da una prospettiva giuridico-istituzionale, la criticità non risiede nell'esistenza dell'autoregolamentazione in quanto tale, che può svolgere una funzione complementare nella definizione di standard tecnici e buone pratiche, bensì nella pretesa di attribuirle una funzione sostitutiva della regolazione pubblica. La tutela dei diritti fondamentali, la sicurezza dei prodotti e la prevenzione dei rischi sistemici non possono essere rimesse esclusivamente alla discrezionalità dei soggetti economici destinatari degli obblighi di protezione.

Si pone, pertanto, un problema di legittimazione e di responsabilità istituzionale: consentire che gli operatori privati definiscano autonomamente le condizioni sostanziali di accettabilità dei rischi prodotti dalle proprie attività significa esporre interessi collettivi a decisioni assunte al di fuori dei tradizionali circuiti della responsabilità democratica e del controllo pubblico.

La regolazione dell'intelligenza artificiale richiede, conseguentemente, il superamento di una concezione meramente volontaristica della responsabilità d'impresa e l'affermazione di un modello nel quale gli strumenti di autoregolamentazione siano integrati, subordinati e verificabili rispetto a un sistema di obblighi giuridici cogenti.

I nodi giuridici irrisolti: imputazione della responsabilità, causalità e rischio algoritmico

La progressiva complessità dei sistemi di intelligenza artificiale solleva interrogativi particolarmente rilevanti in relazione alle categorie tradizionali dell'imputazione giuridica. La difficoltà di prevedere integralmente determinati comportamenti algoritmici, unitamente all'opacità dei processi inferenziali e alla distribuzione delle attività tra molteplici operatori, può rendere più complessa l'individuazione delle condotte rilevanti, l'accertamento del nesso causale e la determinazione dei presupposti della responsabilità.

Nel diritto civile, il problema investe anzitutto l'applicazione delle regole generali in materia di responsabilità contrattuale ed extracontrattuale, nonché dei regimi speciali di responsabilità per attività pericolose e per prodotti difettosi. L'articolazione della filiera tecnologica, nella quale possono concorrere sviluppatori, fornitori di modelli, produttori, distributori, integratori e utilizzatori professionali, rende particolarmente complessa la ricostruzione del contributo causale dei singoli soggetti alla produzione dell'evento dannoso.

L'opacità algoritmica può inoltre determinare una significativa asimmetria probatoria tra il soggetto danneggiato e l'operatore economico che dispone delle informazioni tecniche, dei dati di addestramento, della documentazione progettuale e dei registri relativi al funzionamento del sistema. Ne deriva il rischio che l'accertamento giudiziale della responsabilità risulti eccessivamente oneroso, soprattutto quando la ricostruzione del processo decisionale richieda conoscenze specialistiche e l'accesso a informazioni custodite esclusivamente dal fornitore o dall'operatore.

A ciò si aggiunge la questione della causalità. Nei sistemi di IA complessi, l'evento dannoso può derivare dall'interazione tra caratteristiche del modello, dati utilizzati, configurazione dell'ambiente operativo, istruzioni impartite dall'utilizzatore e successive modifiche del sistema. L'individuazione della sequenza causale rilevante richiede pertanto una valutazione che tenga conto dell'intera catena tecnologica, senza trasformare la complessità del funzionamento algoritmico in un automatismo di esclusione dell'imputazione.

Particolarmente delicata è anche la dimensione penalistica. Il principio di personalità della responsabilità penale, la necessaria individuazione di una condotta umana e l'accertamento degli elementi soggettivi del reato impediscono di trasferire automaticamente alla macchina categorie quali dolo e colpa. L'impiego di sistemi algoritmici in processi decisionali potenzialmente lesivi impone, piuttosto, di verificare le condotte delle persone fisiche coinvolte nella progettazione, nella gestione, nella supervisione e nell'utilizzazione del sistema, alla luce degli obblighi giuridici concretamente esigibili.

In tale ambito assumono particolare rilievo la prevedibilità dell'evento, la violazione delle regole cautelari, la concreta possibilità di prevenzione del rischio e l'eventuale sussistenza di una posizione di garanzia, ove ne ricorrano i presupposti normativi. Analogamente, l'eventuale responsabilità degli enti ai sensi del D.lgs. 231/2001 richiede la verifica dei presupposti previsti dalla disciplina, senza poter essere desunta automaticamente dalla mera verificazione di un danno riconducibile all'impiego dell'intelligenza artificiale.

Il rischio più significativo consiste, dunque, nella possibile dissociazione tra capacità di controllo economico e tecnologico e concreta possibilità di imputazione delle conseguenze dannose. Gli operatori che detengono le infrastrutture, le informazioni e le risorse necessarie a governare i sistemi possono trovarsi in una posizione di particolare vantaggio rispetto ai soggetti danneggiati, i quali rischiano di incontrare ostacoli rilevanti nell'accesso alla prova e nell'individuazione del responsabile.

Si configura così una questione di effettività della tutela giurisdizionale: il sistema giuridico deve evitare che la complessità tecnologica produca una sostanziale immunità dei soggetti economicamente più forti, senza per questo introdurre forme di responsabilità automatica incompatibili con i principi di legalità, causalità e colpevolezza.

La questione centrale non è, pertanto, l'individuazione di un nuovo soggetto responsabile nella macchina, ma l'adeguamento dei criteri di imputazione e degli strumenti probatori affinché la distribuzione del potere tecnologico trovi un corrispondente sistema di responsabilizzazione giuridica.

La risposta del diritto positivo: il superamento dell'autoregolamentazione esclusiva e la sfida dell'AI Act

Nel quadro delle criticità descritte si colloca il progressivo consolidamento di un modello europeo di regolazione dell'intelligenza artificiale, volto a superare l'insufficienza degli strumenti esclusivamente volontari e a ricondurre lo sviluppo tecnologico entro un sistema di obblighi giuridici, controlli istituzionali e garanzie di tutela dei diritti fondamentali.

Il Regolamento (UE) 2024/1689 (Artificial Intelligence Act) rappresenta, in questa prospettiva, uno degli interventi normativi più significativi a livello sovranazionale. La sua architettura si fonda su un approccio basato sul rischio, attraverso il quale vengono individuati differenti livelli di disciplina in relazione alla natura dei sistemi, alle relative finalità d'impiego e alla potenziale incidenza sulla sicurezza e sui diritti fondamentali delle persone.

Il legislatore europeo ha inteso superare una concezione della governance algoritmica affidata prevalentemente alla discrezionalità degli operatori, introducendo obblighi specifici per i diversi soggetti della catena del valore dell'intelligenza artificiale. Particolare rilevanza assumono gli obblighi di gestione del rischio, governance dei dati, documentazione tecnica, registrazione, trasparenza, sorveglianza umana e monitoraggio successivo all'immissione sul mercato, secondo le condizioni e i presupposti previsti dalla disciplina applicabile.

L'AI Act non esaurisce, tuttavia, il quadro normativo di riferimento. La governance dell'intelligenza artificiale deve essere letta in coordinamento con il Regolamento (UE) 2016/679 (GDPR), con la disciplina europea sulla sicurezza dei prodotti e con la Direttiva (UE) 2024/2853 in materia di responsabilità per danno da prodotti difettosi. Tali strumenti concorrono, secondo ambiti applicativi e presupposti differenti, alla definizione di un sistema multilivello di prevenzione dei rischi, tutela dei dati personali e responsabilizzazione degli operatori economici.

Rimane, tuttavia, una questione centrale: l'effettività della regolazione non può essere misurata esclusivamente attraverso l'adempimento formale degli obblighi documentali e procedurali. La conformità normativa deve tradursi in una capacità concreta di individuare, valutare, monitorare e mitigare i rischi, anche quando questi emergano successivamente alla commercializzazione o all'implementazione del sistema.

La difficoltà diviene particolarmente evidente in relazione ai modelli di intelligenza artificiale caratterizzati da elevata complessità, aggiornamenti frequenti, adattabilità operativa e dipendenza da infrastrutture tecnologiche proprietarie. In tali circostanze, la vigilanza pubblica deve poter disporre di strumenti tecnici e giuridici adeguati a verificare l'effettiva osservanza degli obblighi, acquisire le informazioni necessarie e intervenire in presenza di violazioni o rischi incompatibili con il quadro normativo.

Il problema assume una dimensione istituzionale ancora più ampia quando si considera la concentrazione, in un numero limitato di operatori privati, delle infrastrutture computazionali, delle risorse informative e delle competenze necessarie allo sviluppo dei modelli più avanzati. La dipendenza tecnologica di interi settori economici da tali infrastrutture può determinare asimmetrie di potere che incidono sulla capacità degli ordinamenti nazionali di esercitare un controllo effettivo sulle attività digitali transnazionali.

In questa prospettiva, il superamento di una sorta di lex mercatoria digitale, intesa come insieme di standard, regole contrattuali e prassi private che tendono a disciplinare autonomamente i rapporti tecnologici transnazionali, non implica l'eliminazione dell'autonomia privata, ma la sua riconduzione entro un quadro di legalità sostanziale e di controllo pubblico.

La sfida per il diritto europeo consiste quindi nel rendere effettivi gli obblighi normativi attraverso un sistema di vigilanza indipendente, cooperazione istituzionale, trasparenza verificabile e responsabilità giuridica degli operatori. Solo in presenza di tali condizioni la regolazione può evitare di ridursi a un insieme di adempimenti formali, incapaci di incidere sui processi decisionali e sulle effettive modalità di funzionamento dei sistemi algoritmici.

Il punto di equilibrio non risiede nella contrapposizione tra innovazione tecnologica e regolazione pubblica, ma nella costruzione di un modello nel quale la libertà di iniziativa economica e lo sviluppo dell'intelligenza artificiale siano compatibili con la sicurezza, la tutela dei diritti fondamentali e l'effettività della responsabilità.

Conclusioni: verso una nuova sovranità giuridica algoritmica

Le difficoltà che le grandi imprese tecnologiche incontrano nell'assicurare un controllo pienamente effettivo sui sistemi di intelligenza artificiale da esse sviluppati non rappresentano un semplice problema contingente di natura ingegneristica, ma costituiscono il sintomo di una più profonda trasformazione dei rapporti tra potere economico, innovazione tecnologica e ordinamento giuridico. Il cosiddetto paradosso del guardiano evidenzia, infatti, una contraddizione strutturale: proprio i soggetti che concentrano le maggiori risorse necessarie a orientare lo sviluppo dell'intelligenza artificiale possono incontrare difficoltà crescenti nel prevederne e governarne integralmente le manifestazioni operative, pur continuando a esercitare un'influenza determinante sulla sua diffusione e sulle sue ricadute economiche e sociali.

Da tale contraddizione discende una questione fondamentale per il diritto contemporaneo: l'incertezza tecnologica non può tradursi in incertezza giuridica, né tantomeno in una progressiva attenuazione degli obblighi di diligenza, prevenzione e responsabilizzazione gravanti sugli operatori economici. La complessità dei sistemi algoritmici, l'opacità dei processi decisionali e la difficoltà di ricostruire le dinamiche interne dei modelli non possono costituire, di per sé, fattori di esclusione della responsabilità. Al contrario, proprio l'accresciuta capacità di incidere su interessi individuali e collettivi impone un corrispondente rafforzamento dei presidi di controllo, trasparenza e accountability.

In questa prospettiva, il superamento dell'autoregolamentazione quale paradigma esclusivo di governo dell'intelligenza artificiale costituisce una condizione essenziale per ricondurre l'esercizio del potere tecnologico entro un sistema di legalità effettiva. I codici etici, gli standard volontari e i modelli aziendali di governance possono continuare a svolgere una funzione significativa, ma non sono idonei a sostituire la regolazione pubblica, la vigilanza indipendente e i meccanismi di tutela giurisdizionale. La protezione dei diritti fondamentali non può dipendere esclusivamente dalle scelte organizzative e dalle valutazioni di convenienza economica dei soggetti che sviluppano e commercializzano le tecnologie potenzialmente lesive.

Il Regolamento europeo sull'intelligenza artificiale rappresenta, in questo scenario, un passaggio fondamentale verso un modello di governance fondato su obblighi giuridici cogenti, gestione del rischio e supervisione istituzionale. La sua effettività, tuttavia, dipenderà dalla capacità delle autorità competenti di esercitare poteri di controllo realmente incisivi, dalla disponibilità di adeguate competenze tecniche e dalla possibilità di assicurare un coordinamento sovranazionale coerente con la dimensione transfrontaliera dei mercati digitali. La regolazione dell'intelligenza artificiale non può, infatti, esaurirsi nella produzione di norme: richiede istituzioni capaci di verificarne l'osservanza e strumenti giuridici idonei a garantirne l'effettività.

In questo passaggio si colloca il tema della sovranità digitale, da intendere non come pretesa di autosufficienza tecnologica degli Stati, ma come capacità degli ordinamenti democratici di determinare le condizioni giuridiche entro le quali il potere algoritmico può essere esercitato, controllato e assoggettato a responsabilità. La questione non riguarda soltanto chi possieda le infrastrutture computazionali o disponga dei modelli più avanzati, ma chi abbia il potere di stabilire le regole, verificare il rispetto dei diritti e intervenire quando le decisioni automatizzate producano conseguenze incompatibili con i principi dell'ordinamento.

La sfida che attende il legislatore e la dottrina giuridica non consiste, pertanto, nel contrastare il progresso tecnologico, né nell'attribuire ai sistemi artificiali una soggettività giuridica che non risolve il problema dell'imputazione delle condotte umane e organizzative. Consiste, piuttosto, nel costruire un sistema di responsabilità adeguato alla complessità tecnologica, capace di individuare gli obblighi dei diversi operatori lungo la catena del valore, assicurare l'accessibilità della prova, garantire il risarcimento dei danni ingiustamente subiti e preservare l'effettività della tutela dei diritti fondamentali.

In definitiva, il controllo che le Big Tech faticano ad assicurare sul piano tecnologico non può essere confuso con il potere di sottrarsi al controllo sul piano giuridico. È questo il nucleo del paradosso del guardiano: chi esercita il potere di sviluppare, distribuire e governare infrastrutture algoritmiche di rilevanza sistemica non può rivendicare, al tempo stesso, l'imprevedibilità dei loro effetti come ragione generale di deresponsabilizzazione.

Il diritto è dunque chiamato a riaffermare la propria funzione ordinatrice non attraverso una pretesa di dominio sulla tecnologia, ma mediante la capacità di assoggettare ogni forma di potere a regole, controlli e responsabilità. Perché la questione fondamentale dell'intelligenza artificiale non è stabilire se le macchine possano diventare incontrollabili, ma impedire che coloro che ne detengono il potere economico e tecnologico diventino, a loro volta, incontrollabili.

La sovranità giuridica nell'era algoritmica si misura, in ultima analisi, nella capacità di garantire che nessuna innovazione, per quanto sofisticata o dirompente, possa determinare uno spazio sottratto alla legalità, alla responsabilità e alla tutela della persona.