Stato-regioni, la “leale collaborazione” non basta

Stato-regioni, la “leale collaborazione” non basta

Nella relazione sull’attività della corte costituzionale svolta dal presidente Coraggio viene segnalato ancora una volta il pesante contenzioso tra stato e regioni, e si richiama in particolare la pandemia, per quello che lo stato avrebbe potuto e dovuto fare, e non ha fatto. Citando la recente sentenza 37/2021, Coraggio ricorda che la competenza esclusiva della stato in materia di profilassi internazionale «avrebbe dovuto garantire quella unitarietà di azione e di disciplina che la dimensione nazionale delle emergenze imponeva e tuttora impone». Un obiettivo – si deve intendere – fallito.
Non si può che essere d’accordo, come abbiamo più volte scritto su queste pagine. Ma qui le considerazioni da fare sono almeno tre. La prima, che possono aversi emergenze a dimensione nazionale non riferibili alla profilassi internazionale, come ad esempio un terremoto di gravissima entità; la seconda, che esistono questioni che hanno una dimensione nazionale non qualificabili come emergenze in senso stretto, come il divario Nord-Sud; la terza, che la dimensione nazionale trova nel titolo V della Costituzione un proprio autonomo strumento attuativo solo in misura parziale. Nel Titolo V la dimensione nazionale non è fortemente presidiata, e in specie non è assistita da una posizione di supremazia. Un implicito riconoscimento si può trovare nell’art. 120 della Costituzione, che assegna allo stato un potere sostitutivo nei confronti di regioni ed enti locali per la tutela di una dimensione nazionale. Un siffatto potere non può non presupporre una supremazia. Ma può essere esercitato solo ex post, per correggere una violazione già avvenuta. Non a caso, la stessa Corte ha ampiamente elaborato il principio di leale collaborazione, che il presidente Coraggio richiama. Il punto è che esso trova il suo ultimo e fisiologico esito nell’intesa, e concettualmente nega qualsiasi supremazia nel rapporto cui si applica.
Ne vengono due possibili alternative. La prima: si introduce una clausola di supremazia esplicita nell’art. 117 della Costituzione, in specie applicabile anche all’art. 116, comma 3, sull’autonomia differenziata (come ho suggerito in una audizione parlamentare sui disegni di legge in discussione). Il secondo: la corte muta parzialmente rotta nella lettura del rapporto stato-regioni, assumendo che un principio di supremazia sia in ogni caso desumibile dal sistema costituzionale nel suo complesso, a partire dall’unità e indivisibilità della Repubblica e dalla tendenziale necessaria uguaglianza nei diritti fondamentali.
E nemmeno basterebbe. Infatti, un potere viene esercitato solo se il titolare così decide. Diversamente, rimane sulla carta. È esattamente quello che è accaduto per l’art. 120 nel caso della pandemia. Alla fine, tutto dipende dal decisore politico, e dalla volontà normativa che esso esprime. La corte, che lascia molto spazio alla discrezionalità legislativa, se ne è resa ben conto quando ha messo in campo la «incostituzionalità prospettata», richiamata dal presidente Coraggio, in specie per il caso Cappato e la diffamazione a mezzo stampa.
Ma allora come poter essere certi, quando sono in gioco i diritti di minoranze, che i giudici siano «garanti di una democrazia veramente inclusiva» come il presidente sottolinea? Anche qui due strade. La prima: la Corte riduce la discrezionalità riconosciuta al legislatore, definendo più ampiamente e in dettaglio il nucleo incomprimibile dei diritti. La seconda: si garantisce con la legge elettorale un parlamento ampiamente rappresentativo scelto da elettrici ed elettori, e senza distorsioni di tipo maggioritario in chiave di supposta governabilità. E sarà quella la sede primaria della «democrazia inclusiva».
Nel sistema istituzionale tutto si tiene. Nel confronto in atto i segnali non sono buoni, e non basta certo una relazione del presidente della corte a riportarlo sui binari giusti. La battaglia è – e rimane – politica.

Massimo Villone, Il Manifesto, 14-V-2021

La salute è prendersi cura

La salute è prendersi cura

Il virus pandemico che da quindici mesi attraversa il pianeta ha messo in evidenza la centralità del diritto alla salute, mettendo in crisi convinzioni radicate, e mostrando tutte le inadeguatezze degli attuali servizi sanitari.
La contraddizione primaria evidenziata è quella fra salute e mercato. Il virus ha dimostrato come una società fondata sul mercato non sia in grado di garantire protezione ad alcuno, e l’illusione dell’economia come motore del benessere collettivo si è dovuta scontrare con l’autoreclusione nel giro di brevissimo tempo di oltre due miliardi di persone.
Anche i servizi sanitari, da decenni soggetti a privatizzazione e/o aziendalizzazione, hanno rivelato la loro totale incapacità di garantire vita e salute alle persone, come testimoniano gli oltre 150 milioni di contagi e un numero di decessi che ha superato i 3 milioni di persone.
Se vogliamo cogliere gli insegnamenti profondi della pandemia, ciò che va messo in discussione è lo stesso concetto di salute, per come è stato elaborato da decenni di dottrina neoliberale.
In questo senso, il primo concetto da recuperare è quello dell’interdipendenza.
La vita della specie umana, a differenza di quella di alcune altre specie animali, è caratterizzata sin dall’inizio da un legame sociale.
“L’infante senza la madre non esiste”[1] scriveva lo psicanalista inglese Donald Winnicott, per il quale, all’inizio della vita, ognuno esiste solo in quanto parte di una relazione, e le sue possibilità di vivere e svilupparsi dipendono totalmente dal soddisfacimento del bisogno primario di attaccamento e appartenenza ad un’altra persona -solitamente la madre- che si prenda cura di lui e gli dia quel senso di sicurezza e intimità che sono basilari per la crescita.
Ma, potremmo aggiungere, quella matrice relazionale -infante/madre- non potrebbe a sua volta sopravvivere senza un ambiente naturale che fornisca aria, acqua e cibo.
Se la vita è dunque contrassegnata dall’interdipendenza con l’altro e con l’ambiente, la salute non può che essere data dal buon esito di questa interdipendenza plurima.
La salute non può essere considerata solo un’assenza di malattia, bensì uno stato di benessere psico-fisico determinato da un’adeguata salubrità dell’ambiente nel quale viviamo e da un’adeguata qualità delle relazioni nelle quali siamo immersi.
Cosa ci dice questo passaggio? Che non può esservi separatezza fra vita quotidiana e stato di malattia, bensì che il secondo dipende da come è vissuta la prima.
Il primo motore del diritto alla salute è di conseguenza l’ecologia, ovvero il mantenimento dell’equilibrio nella relazione fra vita, società e natura. Come ha dimostrato la pandemia, il virus non è un invisibile nemico esterno, bensì il prodotto della rottura di equilibri ecosistemici, portata avanti da un modello economico-sociale che si relaziona alla natura come altro da sé e come luogo da depredare.
La malattia è sempre l’espressione di un sintomo, ovvero un indizio che ci svela come funziona un contesto, senza curare il quale il superamento della malattia rappresenta nel migliore dei casi null’altro che una riduzione del danno.
Il diritto alla salute si garantisce di conseguenza attraverso la prevenzione, ovvero un’insieme di azioni, individuali e sociali, dirette a impedire il verificarsi della malattia. Non è dunque qualcosa di settoriale di cui deve occuparsi un servizio specifico, bensì un compito dell’intera organizzazione sociale che deve trasformare il ‘cosa, quanto, dove, come e per chi’ produrre, ‘come, quanto e in quali condizioni’ lavorare, come nutrirsi, come muoversi, come stare insieme.
In questa direzione, il secondo concetto da recuperare è quello della cura.
Si tratta di un concetto che nella narrazione dominante viene relativizzato per declinare da una parte le attività strettamente medico-sanitarie, dall’altra le attività di accudimento domestico, storicamente svalorizzate e delegate in particolare al mondo delle donne.
La cura così intesa è funzionale all’ideologia dell’intoccabilità del modello capitalistico, basato da una parte sulla valorizzazione della produzione economica e la non considerazione della riproduzione sociale, e dall’altra sull’intoccabilità di un modello sociale dentro il quale la malattia viene relegata a sfortunato evento individuale.
Si tratta, al contrario, di recuperare la differenza tra due verbi inglesi foneticamente e graficamente molto simili, ovvero “to cure” e “to care”.
Il primo significa “curare”, mentre il secondo significa “prendersi cura, preoccuparsi per”.
E’ a questo secondo significato che bisogna fare riferimento, come ben espresso da Joan Tronto e Berenice Fisher, le quali considerano la cura “una specie di attività che include tutto ciò che facciamo per mantenere, continuare e riparare il nostro mondo in modo da poterci vivere nel modo migliore possibile. Quel mondo include i nostri corpi, noi stessi e il nostro ambiente, tutto ciò che cerchiamo di intrecciare in una rete complessa a sostegno della cura”[2]
La cura così intesa prende atto della vulnerabilità dell’esistenza e contrasta il mito onnipotente della sicurezza, parola che deriva da sine-cura, senza preoccupazioni, per accedere alla curiosità, parola che serve a significare colui che si cura di qualcosa.
Segnando il radicale antagonismo tra chi, con la città piena di cadaveri trasportati dai camion dell’esercito, produce il video “Bergamo is running” e tutte e tutti coloro che, con il mutualismo autorganizzato si sono preoccupati della propria comunità di riferimento.
Quali caratteristiche dovrebbe, di conseguenza, avere un servizio sanitario di una società basata sull’interdipendenza e la cura?
Innanzitutto, dovrebbe essere pubblico e gratuito. In tempi di frammentazione sociale, molti rischiano di perdere il profondo significato di coesione sociale rappresentato da questo concetto.
Se il servizio sanitario è pubblico e gratuito, significa che io lo finanzio mentre sono in salute (con le tasse) per essere sicuro, in caso di necessità, di essere curato e per garantire che venga curato anche chi non ha un reddito; se il servizio sanitario è privato e a pagamento, vuol dire che io non pago nulla mentre sono in salute, ma pagherò in caso di malattia, potendo accedere alle cure solo se dispongo di adeguate disponibilità economiche. Dentro il quadro privatistico, muore l’universalità del servizio e si approfondisce la diseguaglianza sociale.
In secondo luogo, dovrà essere adeguatamente finanziato con risorse incomprimibili. Se la salute è un diritto primario, la spesa per la stessa non può essere dettata dai principi aziendalistici del “far quadrare il bilancio” o da vincoli dettati dalla trappola ideologica del debito pubblico. Occorrono risorse certe e comunità territoriali che ne controllino democraticamente destinazione ed efficacia.
In terzo luogo dovrà essere organizzato territorialmente, secondo l’idea della cura di prossimità e la strategia della prevenzione. Se la malattia è un fenomeno sociale, è dentro quel contesto che può ristabilirsi la salubrità e la salute; al contrario, un sistema centrato sull’ospedalizzazione rischia di tecnicizzare la malattia estrapolandola dal contesto che l’ha prodotta, sino a reificare la persona stessa riducendola ad organo su cui intervenire (se vado da un otorino divento un orecchio).
Il settore ospedaliero va integrato dentro una sanità territoriale basata sulla medicina scolastica, del lavoro e dell’ambiente, dentro una logica di ospedale al servizio della comunità e non del suo contrario.
La pandemia ha mandato in tilt un modello sanitario basato sul mercato e un concetto organicistico di salute, ridicolizzando i feticismi delle eccellenze privatistiche.
Il Piano Nazionale di Ripresa e Resilienza presentato dal governo per l’accesso ai 209 miliardi del Next Generetion EU non sembra aver alcuna intenzione di invertire la rotta.
Serviranno grandi mobilitazioni sociali per uscire dall’universo della competizione e approdare alla società del prendersi cura.

[1]D. W. Winnicott, Sviluppo affettivo e ambiente, Armando Editore, Roma 1974
[2]Sara Brotto, Etica della cura. Una introduzione, Orthotes, Napoli 2013

Photo credits: Manifestazione per la riapertura dell’Ospedale Maria Adelaide. Torino, 12 aprile 2021, Riapriamo il Maria Adelaide.

Marco Bersani, Il Manifesto, 9-V-2021. Articolo tratto dal Granello di Sabbia n. 46 di maggio-giugno 2021:  “La salute non è una merce“

Il draft di regolamento europeo sull’intelligenza artificiale

Il draft di regolamento europeo sull’intelligenza artificiale

La proposta di Regolamento europeo per l’intelligenza artificiale interviene in uno scenario di grandi cambiamenti economici, sociali, geopolitici in larga misura connessi con lo sviluppo delle tecnologie digitali.
La rapida evoluzione dei sistemi di intelligenza artificiale – come si afferma nel Considerando 1 – ottimizzando le operazioni e l’allocazione delle risorse e personalizzando la fornitura di servizi, supporta il raggiungimento di risultati vantaggiosi, sia dal punto di vista sociale che da quello ambientale, in ogni settore dell’economia.
L’assunzione di lavoratori, la determinazione dell’affidabilità per un prestito, la valutazione della capacità di un insegnante, persino il rating di legalità ai fini dell’aggiudicazione degli appalti sono sempre meno il frutto di una scelta umana e sempre più l’esito di selezioni algoritmiche, alle quali deleghiamo, quasi fideisticamente, il compito di decidere aspetti determinanti della vita delle persone.
Con l’intelligenza artificiale, la tecnica è divenuta un “fatto sociale totale”, essenzialmente perché da protesica si è resa mimetica, capace cioè di replicare, fino a sostituire, gli aspetti più qualificanti dell’uomo come la razionalità, marginalizzando, in molte circostanze, il contributo umano nel processo decisionale.
La capacità di autonomizzazione della macchina rispetto all’uomo che l’ha progettata richiama l’idea dell’automa che si emancipa dal suo creatore, evocativa di quell’ambivalenza attribuita alla macchina dal pensiero greco: tanto strumento quanto inganno.
Tra gli inganni di cui, assieme agli indiscutibili benefici, l’intelligenza artificiale può farsi portatrice vi è quello dei pregiudizi o delle inesattezze, tali da compromettere la neutralità degli stessi processi decisionali.
La delega quasi fideistica agli “oracoli digitali”, dai quali ci si attende quell’obiettività che le “troppo umane” decisioni tradizionali non assicurerebbero, finisce con l’oscurarne i rischi di discriminazioni, anche etniche, che replicano in una sorta di fisiognomica computazionale pregiudizi, a volte, addirittura lombrosiani.
In questa cornice si dispiega la competizione per la leadership tra Cina e Stati uniti, rispetto alla quale l’Europa ha accumulato un ritardo non banale.
Per invertire questa tendenza, l’Unione europea ha l’ambizione di proporsi- a livello globale- come punto di riferimento per una disciplina organica della società digitale, compensando quel ritardo con posizioni di avanguardia sul piano regolatorio.
Proprio su questo punto, con il Gdpr e la direttiva 680, già nel 2016 l’Europa aveva sancito il primo limite, anzitutto valoriale, all’intelligenza artificiale, oltre il quale non si deve fare tutto ciò che è possibile fare.
Il divieto di discriminazione, unitamente al diritto alla spiegazione e alla revisione umana della decisione automatizzata, ha rappresentato (e continuerà a rappresentare, almeno fino all’approvazione delle prossime norme) il presupposto per non rendere talmente regressivo da apparire distopico, quello che invece dovrebbe rappresentare uno strumento di progresso sociale.
Questi principi essenziali sono sviluppati ulteriormente nella proposta della Commissione, che sottende una scelta importante, dal punto di vista non solo normativo ma anche e soprattutto politico, valoriale e identitario.
Esso, soprattutto se inscritto all’interno della più ampia politica del digitale portata avanti dalla Commissione assume il valore di una scelta di campo: quella di ridisegnare i confini del tecnicamente possibile alla luce di ciò che è giuridicamente ed eticamente accettabile, di temperare l’algocrazia con l’algoretica.
Significativa, in questo senso, la dichiarazione della vice-presidente Vestager, volta a sottolineare come la proposta di Regolamento coniughi l’aspirazione a una “tecnologia etica” con esigenze di sviluppo e competitività dell’Europa.
Il vantaggio competitivo cui la Commissione mira con questa disciplina è essenzialmente quello di promuovere ed esportare un modello tecnologico all’avanguardia soprattutto in termini di sicurezza ed esattezza del processo algoritmico, utilizzando dati privi di errori sistemici ai fini dell’addestramento degli algoritmi e con un costante monitoraggio della loro applicazione anche successivamente all’immissione nel mercato.
Si tratta di una previsione importante, che coglie uno degli aspetti trasformativi dell’intelligenza artificiale: il suo intrinseco dinamismo e la capacità di molti sistemi di sviluppare un apprendimento, almeno in parte autonomo, rispetto a quello progettato.
Per questo tipo di programmi, la valutazione di conformità prevista dal Regolamento dovrà essere progressiva e costante, adeguando l’analisi di impatto e compliance all’evoluzione delle nuove funzionalità “apprese” e sviluppate dal software.
Le garanzie e i limiti previsti mirano, del resto, a promuovere quella fiducia nell’innovazione evocata più volte nei considerando, senza la quale quest’ultima sarà vissuta come un processo imposto, dalla cui opacità rifuggire, anziché come una straordinaria opportunità di progresso sociale.
Si consolida così, anche in termini geopolitici, la specificità europea nell’approccio alle nuove tecnologie già emersa con il Gdpr: un’alternativa tanto al liberismo quasi anomico americano quanto al dirigismo e autoritarismo digitale cinese, fondato sull’alleanza tra potenza di calcolo e coercizione.
La stessa idea di sovranità digitale sottesa al progetto del cloud europeo, tutt’altro che un sovranismo antagonista, esprime un’esigenza di emancipazione del proprio sviluppo tecnologico dalla dipendenza costante da altri ordinamenti, fondati su scale di valori diverse che, inevitabilmente, innervano anche la tecnica, condizionandone l’uso.
Scegliendo di normare per prima una materia destinata a segnare come poche altre il futuro delle democrazie, l’Europa accosta all’idea di un’egemonia soltanto commerciale nel dominio della tecnica quella di un’egemonia valoriale, tale da imprimere al progresso una direzione antropocentrica.
Si riafferma così quella radice personalista espressa dal preambolo della Carta di Nizza con l’enunciazione della persona come centro dell’azione dell’Unione e dall’inviolabilità della dignità, la cui previsione apre il catalogo dei diritti, ritessendone la trama.
La proposta di Regolamento sottende scelte importanti.
Da un lato, infatti, rileva la scelta in favore della regolazione, che marca la distanza dall’approccio americano, ove a norme cogenti spesso si preferisce la soft law delle linee guida.
La scelta europea di introdurre un apparato normativo articolato è tanto più rilevante in un contesto, quale quello in esame, in cui la tendenza all’anomia -barattata per libertà d’iniziativa economica- finisce per relegare alla legge del mercato la definizione del perimetro di diritti e libertà, determinando non eguaglianza ma subalternità all’imperativo del profitto.
Quest’idea di fondo accomuna tutta la politica europea del digitale, a partire dal Gdpr sino alle più recenti proposte di Data Governance, Digital Services e Digital Markets Act.
E non è un caso che per tutti questi atti si sia scelta (come anche appunto per l’intelligenza artificiale) la fonte regolamentare, che si consolida sempre più come la forma tipica della disciplina europea del digitale, realizzando quella vocazione unitaria (“one continent, one law”) in cui si esprimono scelte normative cui l’Europa ascrive valenza identitaria.
In questo la politica dell’Ue, dalla protezione dati all’intelligenza artificiale, passando per la disciplina delle piattaforme, sottende l’aspirazione a fare della civiltà digitale un nuovo umanesimo, un fattore di progresso sociale attorno a cui rivitalizzare la stessa idea della cittadinanza europea e dell’Unione come “Comunità di diritto”.
Sembra, insomma, che attorno al rapporto tra uomo e macchine, diritto e tecnica, possa fondarsi un nuovo Manifesto di Ventotene, declinando in forme nuove quella dialettica tra libertà e solidarietà sociale attorno a cui si è costruito il progetto europeo.
Oggetto della disciplina sono:
– regole trasversali per l’immissione nel mercato e l’uso di sistemi di intelligenza artificiale;
– divieto del ricorso a determinati usi della stessa;
– requisiti specifici per i sistemi ad alto rischio;
– obblighi di trasparenza per forme d’intelligenza artificiale progettate per interagire con le persone, sistemi di rilevazione delle emozioni e di categorizzazione biometrica, ovvero volti a manipolare immagini o contenuti audio o video (come per il deep fake), dovendo l’utente essere avvertito del fatto che sta relazionandosi con un robot; e ancora
– obblighi di monitoraggio successivi all’immissione in mercato e misure di sorveglianza.
Dai limiti di applicazione del diritto dell’Unione derivano, poi, le conseguenti (ma tutt’altro che irrilevanti) esclusioni dell’ambito applicativo del Regolamento, che interessano i sistemi d’intelligenza artificiale progettati o utilizzati esclusivamente a fini militari (esclusione espressa), è da ritenere, a soli fini di sicurezza nazionale, essendo questa materia sottratta al diritto europeo, con un’esenzione che oggi mostra però sempre più i suoi limiti.
Non si tratta, infatti, di esclusioni marginali, in quanto in questi ambiti – come ha sottolineato lo stesso Parlamento europeo nelle recenti Linee guida – l’intelligenza artificiale incontra sviluppi importanti e potenzialmente pericolosi, rispetto ai quali dunque spetta al legislatore nazionale intervenire.
Tuttavia, è da ritenere che nel caso di sistemi dual use, il Regolamento si applichi almeno al segmento di utilizzo a fini civili.
È poi rimesso a un separato atto regolamentare, ancora non presentato, lo statuto della responsabilità civile, modulato in termini di responsabilità oggettiva per i sistemi presuntivamente ritenuti ad alto rischio e di responsabilità aggravata (per colpa presunta), sul modello delineato dal Gdpr.
Dalla disciplina di protezione dati (che ha rappresentato in un certo senso l’avanguardia nella regolazione del digitale) si mutuano, del resto, altri istituti importanti:
– l’approccio fondato sul rischio con i correlativi, proporzionali adempimenti;
– gli obblighi di trasparenza verso gli utenti;
– l’articolazione del sistema sanzionatorio con cornici edittali riferite al fatturato in modo da esercitare maggiore deterrenza;
– l’ambito oggettivo di applicazione modulato sul criterio del “targeting” e dunque della localizzazione dei destinatari dell’offerta produttiva, così da determinare un’indiretta extraterritorialità della normativa;
– le certificazioni e i codici di condotta quali espressione di co-regolazione e sussidiarietà orizzontale, volti a promuovere la compliance come fattore reputazionale e dunque di vantaggio competitivo;
– l’obbligo di comunicazione degli “incidenti” suscettibili di determinare pregiudizi a terzi;
– alcune soluzioni ordinamentali quale quella della cooperazione decentralizzata tra autorità nazionali all’interno del Comitato europeo per l’intelligenza artificiale, cui partecipa anche il Garante europeo per la protezione dati.
L’architettura regolatoria si fonda su una definizione dell’intelligenza artificiale tecnologicamente neutra e su una distinzione dei relativi sistemi sulla base della loro rischiosità.
In primo luogo, si vietano i sistemi idonei a determinare discriminazioni o forme di sorveglianza inaccettabili.
I sistemi presuntivamente ritenuti ad alto rischio per caratteristiche intrinseche (o per usi in contesti cruciali quali la gestione d’infrastrutture critiche, istruzione, occupazione, servizi pubblici essenziali, controllo delle frontiere, amministrazione della giustizia, attività di contrasto) sono assoggettati a un articolato apparato di vincoli e cautele ex ante ed ex post che responsabilizza, in misura proporzionale, i vari soggetti coinvolti nella filiera produttiva (un efficace sistema di gestione del rischio, oneri probatori funzionali al principio di responsabilizzazione, valutazione di conformità modulata su standard di riferimento e certificazioni, garanzie di supervisione umana).
Vi sono poi i sistemi d’intelligenza artificiale soggetti ad obblighi di trasparenza peculiari in ragione della loro incidenza sulla persona e, soprattutto, sul processo motivazionale e cognitivo.
Infine, i sistemi a rischio basso o minimo, sono sottratti al reticolato di vincoli più puntuali su descritto in ragione della sostanziale irrilevanza del pericolo stimato nel loro uso.
Rileva anche, quale misura di promozione dell’innovazione, la disciplina di sandboxes regolamentari, volte a consentire lo sviluppo di servizi d’intelligenza artificiale con la supervisione delle autorità competenti, così da favorire la conformità normativa di soluzioni in certa misura sperimentali.
Particolarmente rilevanti sono i divieti, che concorrono a definire il limite esterno dell’intelligenza artificiale eticamente e socialmente sostenibile, riaffermando l’intangibilità dei diritti fondamentali, dell’eguaglianza e della dignità rispetto alle nuove subalternità indotte dalla tecnica.
Si vieta quindi il ricorso a sistemi che sviluppino tecniche subliminali idonee a condizionare il comportamento altrui o che sfruttino le vulnerabilità di gruppi sociali, nonché a sistemi di social scoring fondati sul monitoraggio delle condotte individuali.
Si tratta di una previsione rilevante in termini valoriali e che non soltanto marca la differenza del modello europeo rispetto a quello cinese, ma che ammonisce anche rispetto a quelle tendenze, presenti in molti Paesi dell’Unione, a utilizzare, per l’erogazione di prestazioni di welfare e il controllo sulla legittimità della loro assegnazione, algoritmi suscettibili di determinare una profilazione su base censitaria della popolazione, dagli effetti potenzialmente discriminatori.
In Olanda – ad esempio – si è utilizzato un sistema di verifica antifrode (SyRI) ritenuto illegittimo dalle corti interne e definito strumento al servizio dello “Stato di sorveglianza per i poveri” dall’alto rappresentante Onu per i diritti umani, in quanto idoneo a colpire, con un monitoraggio socialmente selettivo, proprio le frange deboli della popolazione.
Particolare rilievo assume poi, nella proposta, il divieto di ricorso per finalità di contrasto a sistemi d’identificazione biometrica, in tempo reale,  salva l’indispensabilità per esigenze pubblicistiche imperative.
Questo criterio di residualità, conforme peraltro alla posizione espressa dal Consiglio d’Europa, ha orientato la decisione del Garante nel parere negativo sul sistema Sari real time e, per altro verso, la recente pdl Sensi sulla moratoria dell’uso di tali tecniche.
È auspicabile che questa facoltà venga esercitata con assoluto rigore, pena una sostanziale elusione del divieto di ricorso a sistemi d’intelligenza artificiale, il cui rischio è ritenuto inaccettabile per il sistema di valori proprio dell’ordinamento europeo.
Le deroghe al divieto, previste dal testo del regolamento, devono infatti essere intese conformemente a quel bilanciamento tra libertà e sicurezza attorno a cui la giurisprudenza della Cgue ha affermato la centralità della privacy per l’identità costituzionale europea.
Soltanto nell’ultimo anno, con tre pronunce (Schrems II, Privacy international e quella del 2 marzo sulla data retention) la Corte ha fatto delle garanzie accordate alla privacy rispetto alle esigenze investigative il fulcro del rapporto tra libertà e sicurezza, declinandolo non in chiave antagonista ma sinergica, secondo quel binomio sancito dall’art. 6 della Carta di Nizza.
Ecco, dunque, che sul terreno dell’intelligenza artificiale e della sua regolazione si gioca una partita cruciale per il futuro dello Stato di diritto in ogni suo aspetto, per impedire che la tecnologia, con un’eterogenesi dei fini, divenga il nuovo Leviatano da cui il processo democratico aveva affrancato il cittadino.
La democrazia può dirsi ancora tale finché siamo noi a creare gli algoritmi e non gli algoritmi a creare noi, anticipando e indirizzando desideri, esigenze, paure.
Fin quando, dunque, la tecnica resti ancora al servizio dell’uomo, essa potrà dirsi alleata e non antagonista della democrazia.
Il Regolamento sull’intelligenza artificiale può essere davvero un passo molto importante nella direzione del “principio di responsabilità” (più ampio della sola idea di responsabilizzazione) che deve ispirare il rapporto tra uomo e tecnica.
Il percorso è ancora lungo e l’esito non è scontato, ma abbiamo il dovere di essere ottimisti.

di Antonello Soro, già Presidente del Garante per la protezione dei dati personali

Rivista Giustizia insieme-6 maggio 2021