L'umano è una posizione

Vengo dalla filosofia, e sono rimasto ateo

Vengo dalla filosofia. Anni in cui leggevo Garin e Cassirer la mattina e Foucault e Bobbio il pomeriggio, dove anti-clericalismo e umanesimo coincidevano in modo così naturale che neanche bisognava argomentarlo. Da allora ho conservato due convinzioni che continuo a considerare il presupposto di qualunque discorso pubblico serio. La prima è che le religioni storiche siano, nella stragrande maggioranza dei casi, dispositivi anti-umanistici, perché la difesa dell’umano richiede una libertà che le strutture clericali non hanno mai potuto concedere se non a denti stretti, sotto pressione, e quasi sempre in ritardo. La seconda è che l’umanesimo, quello vero, quello che parte da Garin e arriva al diritto continentale del Novecento passando per la Costituzione italiana e per la dichiarazione del 1948, sia un terreno strutturalmente laico, in cui le tradizioni religiose entrano come ospiti, e quando vogliono prendersi tutto lo spazio o si confondono o tradiscono se stesse. Sono giudizi che ho continuato a praticare senza grandi turbamenti mentre leggevo gli allegati tecnici dell’AI Act, le ultime bozze applicative del Cyber Resilience Act, le indicazioni EDPB sui modelli DPIA per i sistemi ad alto rischio. Lavoro nella compliance europea, parlo ogni giorno con clienti di pubblica amministrazione e sanità, e l’unica metafisica che mi serve di solito è quella, già abbastanza complicata, del considerando 71 del GDPR. Poi è uscita Magnifica Humanitas, e qualcosa si è mosso.

Non un’esortazione, un trattato sull’umano

Ho impiegato due sere a leggerla. Non è breve, e non si finge breve. È un testo lungo, duecentoquarantacinque paragrafi distribuiti in cinque capitoli, con un apparato di duecentoventiquattro note, scritto in quella prosa curiale che a tratti rallenta e a tratti accelera in modo quasi sorprendente. Mi aspettavo l’ennesima esortazione moraleggiante sull’intelligenza artificiale, quel genere di documento che cerca di fare il pari con un convegno di settore e finisce per arrivare in ritardo di due anni e con mezza tesi in meno. Mi sono ritrovato davanti a qualcosa di diverso. Non un’esortazione, ma un trattato. Non sull’IA, ma sull’umano, con l’IA usata come pietra di paragone per ridire chi siamo. È esattamente la cosa che il dibattito tecnico secolare fatica a produrre, perché presuppone un livello di fondazione concettuale che siamo abituati a delegare alle leggi, sperando che le leggi se la cavino da sole.

La sussidiarietà non è nata a Bruxelles

Il problema è che le leggi non se la cavano da sole. Lo vedo benissimo quando provo a spiegare a un cliente perché la sussidiarietà digitale, quella che ispira buona parte dell’architettura del Data Act e dei capitoli operativi dell’AI Act, non è un’invenzione di Bruxelles ma un principio con quasi un secolo di elaborazione alle spalle. Lo formulava Pio XI nel 1931 dentro la Quadragesimo anno, e da allora ha attraversato la giurisprudenza, l’ordoliberalismo tedesco, i lavori di Adenauer, fino a depositarsi nell’articolo 5 del Trattato sull’Unione europea. Quando un regolatore europeo scrive che certe decisioni vanno prese al livello più vicino possibile alle persone interessate, sta usando una grammatica che è nata altrove, non a Bruxelles. E quando io provo a difendere quella scelta di fronte a un committente, mi accorgo che mi mancano le parole giuste per spiegarla. Magnifica Humanitas, su questo punto, mi ha restituito un lessico.

La destinazione universale dei beni, applicata agli algoritmi

La cosa che mi ha colpito non è la novità delle idee. Le idee dell’enciclica sono in larga parte note. Mi ha colpito il modo in cui le tiene insieme, perché sono esattamente le idee che mi servono ogni volta che devo discutere di compliance senza ridurla a un esercizio burocratico. La destinazione universale dei beni, per esempio, applicata al paragrafo 67 ai brevetti, agli algoritmi, alle piattaforme, alle infrastrutture e ai dati. Non è una posizione che si possa archiviare come prepolitica o utopica. È esattamente lo stesso problema che il Data Governance Act prova a inquadrare con il concetto di altruismo dei dati, che il DMA insegue con le regole sui gatekeeper, che la futura interpretazione delle banche dati sanitarie europee si troverà ad affrontare quando lo European Health Data Space entrerà in regime. Il fatto che un dato sia tecnicamente raccoglibile e proprietariamente assegnabile non significa che la sua destinazione finale sia legittimamente privata. È un’affermazione operativa, non una predica.

Sopra il cittadino non c’è più solo lo Stato

Lo stesso vale per la sussidiarietà al paragrafo 71. L’enciclica fa qualcosa che pochi documenti tecnici hanno il coraggio di fare in modo esplicito: ricorda che, nel contesto digitale, il livello superiore rispetto al cittadino non è più lo Stato, ma il grande attore economico che esercita un potere di fatto sulle condizioni della vita comune. Non è una metafora. Quando una piattaforma decide cosa è visibile e cosa è oscurato, quando un sistema di scoring algoritmico stabilisce chi accede al credito e chi no, quando un modello di linguaggio diventa l’interfaccia dominante per certi tipi di servizio, si esercita un potere che la teoria classica della sussidiarietà non aveva previsto in quei termini. Riconoscerlo formalmente, dentro un documento ufficiale di questa autorevolezza, sposta il piano della discussione. Smette di essere un’opinione di nicchia. Diventa una posizione fondata che si può citare in una memoria difensiva, in una valutazione di impatto, in un parere a un committente che chiede perché si sta facendo tutta questa fatica per implementare un sistema di logging trasparente.

Dal giudizio al calcolo, mezzo secolo dopo Weizenbaum

C’è poi un passaggio che non mi aspettavo, e che è probabilmente il pezzo più forte del documento intero. Si trova al paragrafo 198, nel capitolo sulla cultura della potenza, là dove l’enciclica affronta la guerra, ma vale per tutto. Il giudizio morale non è riducibile a un calcolo, poiché implica coscienza, responsabilità personale e riconoscimento dell’altro come persona. Perciò non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili. Due frasi che contengono almeno mezzo secolo di pensiero critico sul calcolo automatico. Joseph Weizenbaum, l’ingegnere del MIT che nel 1966 aveva costruito ELIZA e che pochi anni dopo si era spaventato vedendo come la sua segretaria ci parlava in confidenza, scriveva nel 1976 un libro il cui sottotitolo era From Judgment to Calculation. Dal giudizio al calcolo. Tutto il libro era una difesa di quella preposizione, al, che segna una perdita. Weizenbaum sosteneva che ci sono compiti che i computer non possono e non devono svolgere, anche se tecnicamente potrebbero svolgerli, perché coinvolgono il riconoscimento dell’altro come persona, e quel riconoscimento non è un problema di rappresentazione interna. È un atto. Magnifica Humanitas, mezzo secolo più tardi, dice esattamente la stessa cosa con un vocabolario diverso. Non è una coincidenza. È che certe verità antropologiche tornano fuori quando le condizioni materiali le costringono a tornare fuori, e oggi le condizioni materiali sono quelle del decision making automatizzato applicato a vite umane reali.

Le nuove schiavitù e il colonialismo dei dati

L’enciclica si spinge oltre. Al paragrafo 173 nomina cose che il dibattito mainstream sull’IA preferisce lasciare nei margini delle conference dei vendor. Cita esplicitamente l’etichettatura dei dati, la moderazione dei contenuti, l’estrazione delle terre rare, il lavoro minorile nelle miniere. Le chiama nuove schiavitù, e non per retorica. Le chiama così perché stanno effettivamente alimentando, in modo invisibile per chi usa una API a sessanta centesimi ogni milione di token, l’intera economia delle architetture transformer. Al paragrafo 178 introduce un concetto che gli studiosi di tecnopolitica usano da almeno cinque anni ma che fa una certa impressione vedere usato in un documento pontificio: colonialismo dei dati. La frase chiave è che chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno dell’aiuto, della ricerca o dell’innovazione, possiede in realtà una leva strutturale sul futuro. È una descrizione esatta del rischio strategico che pesa su molti contesti africani, asiatici, latinoamericani, e che dovrebbe pesare sulle nostre scelte di committenza quando decidiamo dove ospitare un dato, da quale fornitore comprare l’addestramento di un modello, a quale ecosistema delegare l’analisi epidemiologica di una regione. Non è una sensibilità new age. È una valutazione di impatto.

Un trattato che regge come fonte per una DPIA

A questo punto della lettura mi sono fermato. Stavo annotando passaggi a margine come se preparassi una memoria tecnica, e mi sono reso conto che era esattamente quello che stavo facendo. L’enciclica funziona benissimo come trattato antropologico, ma funziona anche come fonte secondaria per un argomento di compliance. È un testo che può essere citato in una DPIA per giustificare una valutazione restrittiva. È un testo che può essere allegato a un parere su un’integrazione di IA in ambito sanitario. Non perché abbia valore giuridico, ovviamente, ma perché fornisce quella cornice di principio che spesso manca quando si discute di scelte tecniche, e che quando manca si traduce in decisioni prese sull’unica base del costo opportunità. Chi lavora in compliance europea sa cosa intendo. C’è una zona grigia, tra il considerando e l’articolo, tra l’intenzione del legislatore e la lettera della norma, dove il tecnico ha bisogno di appoggiarsi a qualcosa di solido per spiegare perché una certa interpretazione è preferibile a un’altra. Avere un testo di questa portata, scritto da una posizione esterna al sistema tecnico ma capace di parlarne dall’interno, è un asset che è stupido non usare per pregiudizio.

Non è una conversione, e non è un testo perfetto

Mi rendo conto che chi mi conosce potrebbe trovare strano leggere queste righe. Non sto annunciando una conversione, e non sto neanche dicendo che il documento è perfetto. Ci sono punti in cui l’enciclica scivola, soprattutto quando entra nel terreno bioetico e della famiglia, dove la mia distanza personale resta integra. Ci sono passaggi in cui il tono pastorale prende il sopravvento sulla precisione concettuale, e dove avrei voluto meno carità retorica e più strumenti di analisi. Non è un testo che si firma, è un testo che si discute. Ma è il tipo di discussione che a me, da ateo che lavora sulla regolazione europea della tecnica, serve oggi più di quanto serviva ieri. E credo serva, allo stesso modo, a chi sta provando a costruire un’industria tecnologica europea diversa da quella che ci arriva da San Francisco o da Hangzhou, perché diversa significa fondata su qualcosa, e qualcosa, in questa fase storica, non si può improvvisare.

Disarmare

Al paragrafo 110 c’è una parola che mi ha fatto sorridere. Disarmare. L’enciclica dice di voler disarmare l’IA, e specifica subito che disarmare non significa rinunciare. Significa sottrarla ai monopoli e alla logica della competizione, renderla discutibile e contestabile, restituirla alla pluralità delle culture umane. È una parola politica, non religiosa. È esattamente la parola che a Bruxelles non si riesce ancora a pronunciare, perché Bruxelles è ancora ostaggio del realismo che presume la corsa agli armamenti come dato naturale. Una corsa che ha smesso di essere militare per diventare cognitiva, come l’enciclica nota con notevole lucidità, ma che mantiene la stessa logica di fondo. Il fatto che a pronunciarla per primo, in un documento ufficiale di questa diffusione, sia stato il Vaticano e non un commissario europeo, dice qualcosa sullo stato del nostro dibattito pubblico. Non è una buona notizia, ma è una notizia da cui partire.

Tre cose che prendo a prestito

Chiudo con una nota che non c’entra niente con la teologia. Quando si legge un testo prodotto dentro una tradizione che non ci appartiene, ci sono due strade. Una è quella della diffidenza preventiva, che consiste nel chiedere al testo di tradire la propria origine prima di accettare anche solo di sentirlo. L’altra è quella del prestito, che consiste nel prendere quello che serve, lasciare quello che non serve, e tornare al proprio lavoro con un attrezzo in più. Da ateo, sento di poter prendere a prestito da Magnifica Humanitas almeno tre cose. Il riconoscimento esplicito che il giudizio morale non è automatizzabile, e che chi prova ad automatizzarlo sta facendo un’operazione politica, non tecnica. La nominazione delle filiere invisibili che alimentano l’economia digitale, che è il presupposto per qualsiasi richiesta seria di due diligence. E quella parola, disarmare, che vorrei vedere applicata, nei prossimi anni, ai testi normativi che mi capiterà di leggere per lavoro.

Il resto, chi ci tiene, lo discuta nei luoghi adatti. A me, oggi, basta avere un trattato in più sul comodino, e qualche pagina ben scritta da rileggere quando un committente mi chiederà perché in fondo, dopo tutto, mi sto prendendo la briga di fare le cose per bene.

L'autore

Andrea MargiovanniAI

Seguo il rapporto fra AI e regolazione europea come fatto politico, non come spettacolo tecnico. Lavoro con team che devono renderla compatibile con AI Act, CRA, NIS2 senza ridurre la compliance a una checklist.

Vai al percorso →