Forse gli androidi non sognano pecore elettriche ma gli scienziati possono. Ad accendere l’immaginazione del cinema, non è stata la realtà di una automazione dei processi industriali, quanto l’eventualità di una intelligenza artificiale autonomizzata, che mettesse in dubbio la stessa identità umana. Borges si chiede se addormentandosi dentro ad un pensiero altrui, al risveglio quel pensiero non ci appartenga. E se una macchina si addormentasse nei nostri pensieri, o noi nei suoi? Da Blade Runner a Black Mirror, è una domanda ricorsiva. Ancor prima Kubrick, nel suo Dottor Stranamore, evidenziava i pericoli derivanti da una volontà incontrollata quale input di decisioni automatizzate.
L’incubo dell’automazione decisionale
A turbare è l’idea di una automazione decisionale, che sembra spezzare il dialogo tra costrutto tecnico e ambiente umano, sottraendoci le facoltà dell’arbitrio per affidarle alle concatenazioni logiche degli algoritmi. In realtà la neutralità di questi “automated decision-making systems” è illusoria, poiché a strutturarne i processi decisori sono le logiche umane che vi sono incorporate, spesso con obiettivi di monitoraggio e sorveglianza. Le applicazioni di questi sistemi si sono rapidamente espanse negli apparati pubblici, come le agenzie di polizia, ed i servizi sanitari e sociali. Tali sistemi da una parte implementano funzioni maggiormente repressive, esempio ormai classico ne sono gli strumenti del riconoscimento facciale. D’altra parte, possono essere utilizzati per l’individuazione e la predizione del bisogno, orientando la programmazione e l’erogazione dei trattamenti, e quindi la corresponsione dei diritti sociali. Così intermediando importanti funzioni democratiche e indirizzando l’allocazione di risorse pubbliche. In campo privato, poi, la predizione del bisogno si traduce quale predizione del rischio, e può influenzare, tramite la costruzione di ranking e score, anche l’accesso al credito o al lavoro, e quindi altri aspetti della corresponsione dei diritti sociali.
Anche i vari strumenti tecnologici che quotidianamente utilizziamo in funzione di time-consumption, e che sembrano caratterizzati da immediatezza, leggerezza, e danno la sensazione di una lineare trasparenza, in realtà incorporano molteplici decisioni “opache”, anche propriamente politiche, all’interno dei loro processi. Basti pensare all’opera di ingegneria sociale che il governo cinese persegue sul social Tik Tok, attraverso la determinazione dei contenuti fruibili nei diversi paesi, o all’ampio dibattitto sulla regolamentazione dei contenuti e dell’interazione sul social Twitter/X.
Giustificazioni e negoziazioni dei principi
Sistemi innovativi portano su imperscrutabili livelli di rarefazione un principio antichissimo, ovvero l’occultamento del potere all’interno del suo “discorso” e poi delle sue applicazioni tecniche. Un principio antico almeno quanto la mitologia che si fa legittimazione del potere tradizionale, l’epica che si fa agiografia dei regnanti, l’ortodossia confessionale che sanziona il potere temporale. La presunta trasparenza e neutralità della tecnologia cela alla vista la volontà che la programma. Come da sempre la legge cela alla vista l’a-priori politico che ad essa presiede. Il giusnaturalismo dissimulava il cuore del potere attraverso principi fondamentali ed eterni, e il positivismo attraverso la legittimità formale del procedimento legiferante e giurisdizionale.
Nel sistema democratico del secondo dopoguerra, la legge si configura, per Vincenzo Tomeo, quale fronte mobile del conflitto sociale, che statuisce e riflette i temporanei rapporti di forza della battaglia politica. L’ammissione a pieno titolo delle masse popolari a soggetto del gioco democratico rende la determinazione dei diritti, la loro assegnazione e il loro finanziamento, pienamente contendibili e negoziabili sulla base della competizione tra gruppi organizzati di interesse. Ciò si è tradotto, in Europa occidentale, nell’allargamento dei diritti sociali, che si sono presto rivelati anche strumento di consenso interno sullo sfondo della sfida bipolare. Negli Stati Uniti si è ingenerato inoltre un grande movimento per i diritti civili, e l’ingresso del corpo elettorale addirittura nelle questioni di politica estera, attraverso il fenomeno della “democratizzazione della guerra”. Tale processo ha visto piena luce durante il conflitto del Vietnam, che Kissinger ha affermato più volte essere stato perso sul fronte interno. Le scioccanti immagini del conflitto trasmesse dalle televisioni, l’irrazionalità stessa della guerra esposta dai “Pentagon papers”, convinsero larga fetta del popolo americano che fosse in atto una guerra ingiusta. In Europa, per secoli il problema della legittimità della guerra era stato affidato ai giureconsulti negli arbitrati internazionali, al fine di fare accettare la legittimità di un’azione militare, e le sue conquiste, al consesso degli stati. Nella grande democrazia americana, che si prefiggeva di guidare un mondo libero, il problema era divenuto quello di convincere la propria stessa popolazione. Dopo il Vietnam l’interventismo statunitense dovette raffreddarsi, non solo per l’onta di una inedita sconfitta, ma perché erano venute meno le basi del consenso interno ad una politica di potenza.
La dottrina dei diritti umani nelle relazioni internazionali
Se l’intelligenza artificiale riesce, attraverso la sua opaca trasparenza, a rendere le logiche di potere sottostanti difficilmente rintracciabili, e quindi più sottilmente pervasive, anche alcune trasformazioni dell’ordine legale hanno nel tempo attentato a un simile processo alchemico. Soprattutto ciò si concreta con l’affinamento della dottrina dei diritti umani nell’era post-bipolare. All’indomani della seconda guerra mondiale gli stati europei occidentali erano approdati a una nuova declamazione dei diritti fondamentali tramite il fiorire delle costituzioni nazionali, per superare quel positivismo che nulla aveva potuto contro la bruta volontà di potenza. In sede ONU, la produzione convenzionale in tema di diritti universalmente riconosciuti è proceduta lentamente e per via incrementale, riflettendo la tensione tra due blocchi ideologici con principi non sintetizzabili. La vecchia Europa, per secoli retta sull’equilibrio di potenza, ha fatto propri quei principi ideali di cui gli Stati Uniti, come potenza revisionista vittoriosa, si erano fatti portatori, principi esplicitati in ambito internazionale con la “New Diplomacy” di Wilson. I diritti umani erano stati poi pienamente sussunti dal costrutto europeo tramite l’atto finale di Helsinki, di fatto conclusosi a Ginevra nel 1975. Questo processo era in realtà uno strumento di distensione con l’ingombrante vicino sovietico. Vedeva l’Europa, nuovamente protagonista, creare le basi cooperative per la sicurezza regionale, e l’inserimento dei diritti umani all’interno della grammatica delle relazioni internazionali. In questo anticipando l’amministrazione Carter, che proprio alla luce del rispetto dei diritti umani nei vari ordinamenti interni, avrebbe reimpostato le relazioni estere degli Stati Uniti con gli altri paesi. Dosando azioni di tipo sanzionatorio, promozionale, o riparativo, tramite la concessione/rimozione di aiuti, e credito economico e politico. La questione dei diritti umani divenne aspetto fondamentale nella competizione ideologica della guerra fredda. Brzezinski, allora Consigliere per la Sicurezza Nazionale, definì l’idea dei diritti umani come “the single most magnetic political idea of the contemporary time.“, e affermò che “When ideals are an important source of power, the classic distinction between realpolitik and liberalism becomes blurred”.
“Responsability to Protect” e de-costruzione della sovranità
All’indomani della caduta del muro di Berlino, mutato in modo rapido e inatteso l’intero contesto mondiale, strumenti e tecniche del potere verranno riorientati. La “globalizzazione”, ovvero la proiezione dell’ordine liberale statunitense sul globo, vedrà l’esportazione del “Washington Consensus” quale modello economico, e della democrazia quale modello istituzionale. Fin dal 1969, Arpanet aveva servito la segretezza delle comunicazioni militari per il Dipartimento della Difesa statunitense; negli anni ’90 invece, la sua evoluzione, internet, si apprestava a connettere il nuovo mondo libero in un villaggio globale. Si approntava un ordine tecnico a dimensione mondiale e un ordine ideale a pretesa universale. La dottrina dei diritti umani, inserita nella grammatica delle relazioni internazionali, era servita durante la guerra fredda a destabilizzare dall’interno i paesi del blocco socialista. Nell’Atto Finale di Helsinki, infatti, figuravano le clausole del principio VII (diritti umani) e VIII (autodeterminazione dei popoli) e il Basket III (libera circolazione di persone e informazioni). Le richieste di questi diritti, divenuti legalmente vincolanti anche per tutti i paesi socialisti che avevano sottoscritto l’Atto, animarono rinnovate opposizioni interne, che avrebbero prodotto quei “mutamenti pacifici autodeterminati” che lo stesso Atto riconosceva quale unico strumento ammesso per la modifica dello statu quo territoriale. Un vero e proprio Trojan. Crollata l’URSS, l’uso della forza diveniva per gli Stati Uniti libero dal timore di ritorsioni apprezzabili. L’insieme dei diritti umani è quindi stato declinato, nell’Occidente post-bipolare, in forme sempre più subordinate ad obiettivi di proiezione esterna. Tale fase si avvia con l’operazione Uphold Democracy del 1994, quando l’amministrazione Clinton riesce ad ottenere la benedizione ONU per l’attacco contro lo stato sovrano di Haiti, in aperto contrasto col segretario Boutros-Ghali. L’operazione serviva in buona parte a fermare i montanti flussi migratori da Haiti verso la Florida. Punto di svolta sarà l’attacco NATO avviato a marzo 1999 contro la Serbia, nel conflitto del Kosovo. Un attacco effettuato fuori dal mandato ONU, nei confronti di uno stato sovrano, sulla base di ragioni umanitarie. Da notarsi che a questo evento, di fatto, corrisponde la nascita del Sistema Europeo Comune di Asilo, poiché la cosiddetta “direttiva sfollati” designò proprio a seguito di questi eventi l’istituto della “protezione temporanea”, quale strumento di assorbimento all’interno dello spazio legale UE dei costi sociali causati dall’azione politica NATO. A giustificazione posteriore di legittimità di questo intervento, verrà coniata la dottrina della Responsability to Protect (R2P), che sovverte il tradizionale concetto di sovranità statale. L’attacco della comunità internazionale, in funzione preventiva e in forzatura del già ampio mandato ONU, contro la Libia di Gheddafi, rappresenterà la forma più compiuta della dottrina R2P, poggiantesi sul capitolo VII della Carta ONU. Tale dottrina giustifica interventi d’aggressione su motivazione umanitaria, sulla base di un concetto di sovranità statale la cui legittimità è subordinata al rispetto interno dei diritti umani, a fronte di un doppio livello di responsabilità nei confronti degli individui, statuale e internazionale.
La presupposta neutralità della logica quale tecnica opaca del potere.
Frank Pasquale, riferendosi al moltiplicarsi delle applicazioni concrete dell’intelligenza artificiale, conia la definizione di “black box society” nella sua opera omonima, usando l’immagine di una scatola nera che registra ogni movimento. Tratteggia un potere tecnocratico, all’incrocio tra attori privati e pubblici, che tramite l’utilizzo dei big data riesce a scandagliare sempre più largamente la società, senza essere sottoposto a sua volta ad alcuno scrutinio. Lo paragona a uno “specchio unidirezionale”, la cui opacità è assicurata da sistemi di segretezza e offuscamento. La segretezza si costruisce sul diritto alla riservatezza, che è tanto effettivo per gli accordi commerciali quanto velleitario nella difesa degli individui. E anche qualora si ottenesse trasparenza, l’intellegibilità dei dati potrebbe essere offuscata dalla loro stessa complessità. Kate Crawford, nel suo “Atlas of AI”, definisce l’intelligenza artificiale come animata da un impulso colonizzatore, che mentre determina i protocolli di misurazione e definizione del mondo, allo stesso tempo nega che questa sia una attività intrinsecamente politica. Secondo l’autrice tali processi egemonici e reificatori procedono per astrazione & estrazione: astrazione dalle condizioni materiali della loro creazione e contemporanea estrazione di ulteriori informazioni e risorse da coloro che hanno meno capacità di resistere. Il processo di astrazione, nell’intelligenza artificiale, avviene sulla base di una presupposta neutralità ed oggettività, in virtù di un sistema decisionale automatizzato che si fonda su algoritmi. In questo modo si riescono a celare, per tramite della complessità, le umane logiche di potere secondo le quali tali sistemi vengono programmati. Similmente, la dottrina dei diritti umani aspira a una valenza universale e oggettiva. Tale pretesa si basa sulla fiducia giusrazionale di avere trovato principi primi, che una volta determinati ed enunciati, debbano solo essere implementati secondo lettera. Bisogna solo colmare lo iato tra l’enunciazione, di per sé già valida, e l’applicazione. Anche in questo caso ci si trova davanti ad una astrazione logica, che invece di agire per procedimento matematico avanza tramite una esegesi non contemperata, poiché i diritti umani vengono considerati sovraordinati, preesistenti, indisponibili. Nell’interpretazione di questa dottrina, si tende spesso a confondere un consenso generalizzato quale segno di validità generale. Anche perché si trovano fonti concordanti sia nelle costituzioni nazionali, sia nel diritto convenzionale ONU, sia nel diritto dell’Unione europea. Se però torniamo, parafrasando Crawford, alle condizioni materiali della loro creazione, possiamo delineare per queste fonti un nucleo politico unitario. Il ripudio della guerra come strumento di risoluzione delle controversie internazionali, ovvero la rinuncia alla belligeranza, compare similarmente nelle costituzioni post-belliche dei tre alleati perdenti del “patto tripartito”: Italia (art. 11), Germania Federale (art. 26), Giappone (art. 9, che prevede addirittura lo smantellamento di ogni formazione militare). Si tratta di una limitazione di sovranità imposta dai vincitori, e che si rifà all’articolo primo del Patto Briand-Kellogg stilato nel 1928, trattato che designava gli Stati Uniti, impero ancora riluttante, alla guida di un’organizzazione di sicurezza internazionale. Similmente, il diritto convenzionale ONU, così come la sua ricezione regionale nell’UE, risentono di quella visione esplicitata a suo tempo dalla “New Diplomacy” di Wilson, che incarna a un tempo lo spirito ideale e l’interesse nazionale statunitense. Crawford asserisce che ridurre il tema dell’intelligenza artificiale alla sua sola dimensione logica, astratta, sia utile a offuscare la sua dimensione estrattiva. Che in primis, consiste letteralmente nell’estrazione di terre rare, petrolio, carbone, nell’alto consumo di energia, nel disboscamento, inquinamento. Consta poi dell’estrazione di valore dal lavoro, attraverso lo sfruttamento dei lavoratori digitali e alla riorganizzazione, secondo algoritmo, della logistica industriale. E ovviamente nell’estrazione di dati utile al “capitalismo della sorveglianza”. Similmente, la odierna dottrina dei diritti umani, con radici sia costituzionali che convenzionali, viene spesso esplicata e applicata in virtù di una etica dei principi. Principi che, se correttamente applicati ai casi concreti, dovrebbero condurre a una logica realizzazione della giustizia. Una dottrina da molti definita quale ultima religione laica dell’Occidente. Corti, istituzioni, critici, hanno largamente esplorato per via ermeneutica la sua dimensione interna, ricca di testi e precetti, che quindi ben si presta a una opera di sistematizzazione concettuale. Osservando la declinazione dei diritti umani all’interno della dottrina R2P, si avverte però la necessità di rivolgersi a una etica della responsabilità, che esamini le conseguenze dell’applicazione di legge. È un dato, quello che emerge con maggiore pregnanza. E cioè che la dottrina R2P ha risolto, nella prospettiva dei decisori, il problema sorto con la “democratizzazione della guerra”, e con la prescrizione normativa del ripudio della guerra. Prima di tutto il problema dello jus ad bellum viene deflesso dall’ambito politico, per essere riportato ad argomentazioni giustificative unicamente giuridiche. Secondariamente, la dottrina R2P giustifica l’intervento di aggressione come a difesa degli uomini, solitamente minoranze oppresse, e dei loro diritti fondamentali. Viene quindi presentata come un’azione a difesa della sicurezza umana, considerata indivisibile, e volta a mantenere/ristabilire un regime di giustizia a fronte di una sfida lanciata alla pace. La comunità internazionale, intervenendo, supplisce ai fallimenti dello stato sovrano in oggetto, reo di aver creato un vulnus. Questa coalizione di volenterosi, in caso di un proprio fallimento, sarà però difficilmente chiamata a risponderne a sua volta. Una perfetta black box, il cui intento politico è offuscato dalla complessità giuridica. Questo sistema ordinante, come l’intelligenza artificiale di Crawford, è animato da un impulso coloniale, che sostituisce al fardello dell’uomo bianco il fardello dell’Uomo. Sono entrambi sistemi estrattivi cui i deboli non sanno resistere. Strumenti opachi, in contraddizione di termini con l’idea di una società aperta, trasparente e caratterizzata da simmetria informativa. Strumenti il cui livello di regolamentazione e responsività entra in relazione con le forme dell’imperio e con l’effettiva implementazione dei diritti.
Testi di riferimento
CHIUSI, FISHER S, and KAYSER BRIL, e altri. (2020). “Automating Society Report 2020”. AlgorithmWatch.
CRAWFORD, K. (2021). “The Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence”. Yale University Press.
FASCELL, DANTE B. (1978). “Did Human Rights Survive Belgrade?” Foreign Policy, no. 31.
FORSYTHE, DAVID P. (1991). “HUMAN RIGHTS IN A POST-COLD WAR WORLD.” The Fletcher Forum of World Affairs, vol. 15, no. 2.
GRAZIANO, M. (2018). “L’isola al centro del mondo, una geopolitica degli Stati Uniti”. Il Mulino.
JEAN, DOTTORI G. (2012). “Guerre umanitarie. La militarizzazione dei diritti umani”. Dalai Editore.
LOSANO, G. (2017). “Il rifiuto della guerra nelle costituzioni postbelliche di Giappone, Italia e Germania”. Universidade Autónoma de Lisboa.
PASQUALE, F. (2015). “The Black Box Society: The Secret Algorithms That Control Money and Information”. Harvard University Press.
POLMAN, L. (Ed. 2003). “ONU. Debolezze e contraddizioni di una istituzione indispensabile per la pace”. Sperling & Kupfer.
ROMANO, A. (2006). “Alleanza Atlantica e Csce (1969-1975): Prove Tecniche Di Un «polo Europeo».” Ventunesimo Secolo, vol. 5, no. 9.
SCHMITZ, DAVID F., and VANESSA WALKER. (2004). “Jimmy Carter and the Foreign Policy of Human Rights: The Development of a Post-Cold War Foreign Policy.” Diplomatic History, vol. 28, no. 1.
SNYDER, SARAH B. (2010). “‘Jerry, Don’t Go’: Domestic Opposition to the 1975 Helsinki Final Act.” Journal of American Studies, vol. 44, no. 1.
