Nuove tecnologie e intelligenza artificiale
Esperienza del limite e desiderio di infinito
Cuneo 21-24 Settembre 2023
Relazione del professore
Giulio M. Salerno
all’Incontro nazionale di studi delle Acli nazionali
DEMOCRAZIA, COSTITUZIONE E INTELLIGENZA ARTIFICIALE
(testo non rivisto dal relatore)
Il diritto ha l’ambizione di essere totalizzante, di riuscire a interessarsi di tutte le nostre attività e coprire qualunque esperienza umana, tanto che noi giuristi abbiamo escogitato espedienti per applicare le leggi scritte anche quando la legge non si rivolge direttamente al fatto che ha determinato la creazione della norma. Ancora di più le Costituzioni, che sono state scritte perché si ha l’ambizione di prescrivere delle clausole che valgano perlomeno per un lungo periodo di tempo. L’ambizione dei costituzionalisti è quindi di avere Costituzioni, in particolare la nostra, che possano incidere e orientare i nostri comportamenti rendendola viva.
Il mio intervento si svilupperà su quattro punti: il punto di vista del giurista rispetto le questioni che concernono l’intelligenza artificiale e come alcuni punti fermi del diritto vengono messi in crisi dalla presenza di questo fenomeno; poi qualche cenno sul ruolo della Costituzione, su come può orientare il sistema dei nostri comportamenti quando adottiamo queste tecnologie e ne siamo in qualche misura vittime; inoltre come queste tecnologie possono essere un fattore positivo e propulsivo per l’espansione delle nostre potenzialità e personalità – la nostra Costituzione dice esplicitamente che i diritti sono riconosciuti per favorire lo svolgimento della personalità degli individui – ma anche i possibili rischi; infine qualche considerazione conclusiva e suggerimento per affrontare questi temi.
Italia, Stato costituzionale
Abbiamo accennato che l’Italia è uno Stato di diritto in quanto il potere è regolato dalla legge, che presiede e circoscrive il potere sia pubblico che privato; sia i poteri delle autorità che presumono di condizionare tutta la collettività con atti generali, sia quelle forze private che si muovono nella società e che condizionano inevitabilmente il comportamento degli altri. E’ anche uno Stato costituzionale in quanto ha una Costituzione e questo è importante, in quanto significa che la legge deve circoscrivere i poteri ma esiste una legge al di sopra di quelle approvate in modo ordinario dal Parlamento.
Esistono quindi dei principi che vincolano anche il Parlamento e il modo col quale normalmente il popolo esercita la sua sovranità. E’ uno stato liberale-democratico perché a fondamento dello Stato c’è la libertà individuale e collettiva e la democrazia. Questa è l’unica qualificazione che la Costituzione dà della Repubblica: democratica, cui poi è stato aggiunto: “fondata sul lavoro” e su questo si è molto discusso in sede costituente poiché c’era chi voleva fondarla su un ceto: i lavoratori; poi un compromesso molto intelligente fu di individuare nel lavoro, ovvero nel contributo positivo e attivo di ciascun individuo, l’elemento fondante della Repubblica. Non esiste nessun altro elemento che possa differenziare un individuo dall’altro se non il contributo che si dà alla crescita della società e della collettività tutta. In realtà mi dà molto fastidio quando sento certi comici dire: repubblica fondata sul lavoro, ma che significa? il lavoro non c’è, non viene assicurato, ci sono tanti disoccupati… Probabilmente dovrebbero leggersi qualche testo di diritto costituzionale per capire cosa significa “fondata sul lavoro”. Fondata sul lavoro: la persona attiva considerata a fondamento della Repubblica, ovvero non c’è nessun altro elemento, soggetto, forza che possa connotare la nostra convivenza.
E’ anche uno Stato sociale. Non dimentichiamo che la nostra Costituzione è fondata essenzialmente sul principio della solidarietà. Nessuna collettività – dalle più essenziali come la famiglia – funziona se non c’è solidarietà. Proprio la Costituzione ha posto come elemento fondamentale la necessità di rimuovere gli ostacoli che impediscono il libero svolgimento della persona, il libero godimento delle libertà e la piena partecipazione di tutti i lavoratori alla vita economica, politica e sociale del Paese. Quindi quando si parla di intelligenza artificiale bisogna tener conto anche del principio di solidarietà.
Il diritto a cosa serve? Regola i nostri comportamenti esercitando una funzione ordinante ed è l’applicazione ragionevole delle norme. La ragionevolezza è un principio cardine che la nostra Corte Costituzionale usa sempre nelle sue sentenze. Eppure nella Costituzione non si parla da nessuna parte di ragionevolezza ma per la Corte Costituzionale qualunque prescrizione, anche quelle costituzionali, vanno applicate con ragionevolezza. All’intelligenza artificiale dunque cosa manca? Le manca questa ragionevolezza, che è esclusiva dell’essere umano.
Certamente questi dispositivi di autoapprendimento e di esiti effettuali determinati sulla elaborazione di dati che vengono ricomposti per determinare certi esiti in ogni caso dipendono da regole preordinate: gli algoritmi. E’ chiaro che l’esito ultimo di una attività svolta attraverso queste tecnologie, che possiamo considerare razionale, possiamo considerarla non ragionevole. Quello che l’uomo ha e manca a qualunque tipo di meccanismo creato dall’uomo e determinato da regole meccanicistiche è la ragionevolezza.
La funzione programmatica del diritto
Il diritto ha una funzione delimitante dei nostri comportamenti; a lui spetta determinare ciò che è proibito, quindi non possiamo accettare che ci siano decisioni prese sulla base dell’intelligenza artificiale che determinino proibizioni e divieti, tanto che tutte le esperienze che si stanno facendo sulla giustizia predittiva, ovvero sulla possibilità che sia un meccanismo automatizzato a determinare un esito giurisdizionale in qualunque tipo di contenziosi e ancor di più in materia penale, a noi giuristi fa rabbrividire perché sentiamo che in quel momento la decisione non viene più assunta sulla base del diritto e una sua applicazione ragionevole ma sulla base di meccanismi che poi sfuggono alla esatta conoscenza e comprensione e anche ad una esatta valutazione sulla correttezza della motivazione.
Quando ricorriamo ad un magistrato e ci dà torto ciò che interessa è sapere perché ci ha dato torto. In un provvedimento giuridico la motivazione è fondamentale. E infatti la Costituzione dice che tutti i provvedimenti adottati dai magistrati devono essere motivati; il giudice deve spiegare perché ha interpretato quella disposizione e quel fatto in quel modo. La motivazione serve anche per poter ricorrere e dimostrare con la nostra ragione che quel procedimento è sbagliato. Se questo processo fosse guidato da processi esclusivamente meccanicistici evidentemente non potrebbe essere applicato.
Il diritto, e in modo sommo la Costituzione, hanno anche una funzione programmatica e di orientamento; non servono soltanto a determinare cosa si può fare e cosa no ma anche a orientare complessivamente i nostri comportamenti. Ad esempio la Costituzione sta per essere cambiata e il Parlamento ha appena approvato una ultima riforma costituzionale che stabilisce che la Repubblica riconosce il valore educativo, sociale e di promozione del benessere psicofisico delle attività sportive, il che arricchirà il panorama delle discipline protette e valorizzate dalla Costituzione. Questo è stato messo nell’articolo 33, cioè nell’articolo che riguarda l’educazione, l’arte, la cultura, la scienza, l’università e la ricerca; tutte attività intellettuali che riguardano la formazione dell’individuo.
C’è chi chiede perché questo cambio della Costituzione e perché non ci si preoccupa di cose più serie, ecc. Ma io sono molto critico nei confronti di chi ha questo atteggiamento un po’ qualunquista perché l’attività sportiva da sempre fa parte del libero svolgimento della personalità degli individui e dunque questa è una norma programmatica e di orientamento, che stabilisce un nuovo valore che deve essere confrontato con gli altri. Ad esempio quando un giorno si dovrà immaginare di costruire una struttura sportiva e oggi questa costruzione è limitata dalla presenza di altri interessi protetti dalla Costituzione, come la proprietà privata o l’iniziativa economica, si dovrà invece tener conto anche di questo valore. Si tratta perciò di una norma di orientamento che serve a far sviluppare la società secondo questo valore aggiuntivo.
Sul rapporto tra diritto e fatto. Le nuove tecnologie sono un fatto che si impone di per se, sono una evidenza di cui non si può non tenere conto. Il diritto nei confronti del fatto ha sempre un rapporto un po’ difficile e complesso, perché i giuristi adottano visioni del diritto differenziate; alcune addirittura opposte.
Ci sono giuristi importantissimi che sostengono che il diritto vero è soltanto quello espresso nelle norme e nel diritto positivo e giuristi secondo cui il diritto nasce nell’istituzione e nell’organizzazione sociale che si struttura in un certo modo e che crea delle regole le quali per il fatto che si creano e si sviluppano inevitabilmente diventano diritto. I romani dicevano: ex facto orito ius. Se quindi applico una teoria posso dire che l’intelligenza artificiale fin quando non viene disciplinata e regolata dal diritto sta fuori dal diritto e quindi sta tra l’indifferenza del fenomeno e la sua proibizione; oppure applicando l’altra teoria, siccome l’intelligenza artificiale si struttura nel tessuto sociale e nell’istituzione crea di per se regole che i giuristi non possono non considerare; questo fino al punto che una corrente molto importante fin dal secolo scorso – il cosiddetto soft law – è nata con la globalizzazione. Ovvero ci sono fenomeni così forti, come la globalizzazione, che impongono modelli di comportamento che si impongono di fatto: se vogliamo commerciare con il Vietnam o la Cina dobbiamo utilizzare principi di diritto che sussistono di fatto al di là di quanto previsto dai trattati, dalle leggi e dalle costituzioni. E poi delle regole create dagli stessi operatori. Il soft law è quel diritto autoprodotto che si impone anche senza essere riconosciuto dalla legge; un elemento di flessibilità che nasce dal fatto.
Possiamo dare a queste regole un senso giuridicamente rilevante? Possiamo creare, come si dice, una seconda normatività? Ovvero da una parte la normatività del diritto scritto e dall’altra la normatività che si impone nei fatti perché esistono soggetti forti che elaborano meccanismi e criteri di produzione di algoritmi ai quali dobbiamo dare valore di diritto. Questo è un po’ pericoloso se non ricordiamo che il nostro è uno Stato di diritto, costituzionale, democratico, sociale con suoi principi e regole costituzionali e che tra l’altro è inserito in un processo di integrazione internazionale che è l’Unione europea. Siamo cioè dentro un mondo europeo di regole che si sviluppano e si approfondiscono e necessariamente questi fenomeni come l’intelligenza artificiale non potranno non essere regolati anche attraverso strumenti normativi europei.
I punti di crisi di fronte alla IA
Quali sono alcuni punti di crisi del diritto di fronte all’intelligenza artificiale? Andando per cenni, il diritto per come lo abbiamo conosciuto è caratterizzato dal principio della esteriorità, che significa: il diritto disciplina soltanto i nostri comportamenti esteriori, ovvero qualcosa di visibile che produce degli effetti. La cosa particolare è che l’intelligenza artificiale tende invece a produrre nel mondo fisico, esterno, degli atti che sono il risultato di una serie di attività svolte in modo oggettivamente non percepibile e valutabile.
Noi abbiamo la possibilità che attraverso l’intelligenza artificiale si vengano a creare effetti fisici sulla base di decisioni che non sono oggettivamente comprensibili – cosa avviene dentro le macchine? – e si corre il rischio di leggere il pensiero degli individui attraverso l’analisi facciale, il movimento degli occhi o attraverso una serie di dati predittivi per determinare come questo individuo si comporterà anche se il comportamento non si è verificato.
Possiamo giungere fino al punto di poter condizionare i nostri comportamenti sulla base di processi che analizzano non ciò che facciamo realmente ma ciò che potremmo fare? Tra i film elencati nella filmografia c’è Minority report con persone che riuscivano a prevedere i comportamenti criminali di soggetti che venivano fermate prima di compiere l’atto e arrestati. Ma noi possiamo prima del compimento dell’atto e sulla base di una lettura predittiva di alcuni elementi determinare una limitazione della libertà degli individui? E’ un po’ complicato.
Secondo problema: la responsabilità personale. Il diritto si caratterizza per il fatto che ciascuno è responsabile di ciò che fa ma nel caso di decisioni assunte sulla base di meccanismo algoritmici o l’uso di queste tecnologie informatiche chi è il vero responsabile dell’atto e della decisione conclusiva? E’ chi ha scritto l’algoritmo? E’ chi ha determinato i criteri sulla cui base è stato scritto l’algoritmo? Sono coloro che hanno consentito l’esecuzione dell’algoritmo? Sono i soggetti che hanno acquisito l’algoritmo e lo applicano? O addirittura esiste una responsabilità giuridica imputabile alla macchina, come qualcuno dice?
Terzo problema: il valore etico del diritto. Per noi giuristi è semplice, dal di fuori un po’ più complicato. I giuristi ritengono che le norme di diritto sono sempre norme etiche, perché se si stabilisce una regola di comportamento lo si fa perché si presuppone che quella regola sia giusta e che il comportamento opposto sia sbagliato. Ogni regola di diritto è deontologicamente di per se necessariamente etica ed esprime un valore, la prevalenza di un interesse e di una istanza rispetto ad un’altra. Se così è l’etica per noi non è una cosa diversa dal diritto. Quando invece ci sono dei processi decisionali determinati sulla base delle tecnologie informatiche e con uso di meccanismi di autoapprendimento e algoritmi in realtà questi non seguono o preferiscono un comportamento rispetto ad un altro sulla base dei principi incorporati nelle norme di diritto ma rispettano i criteri di predeterminazione dell’algoritmo che sono predefiniti a monte da chi ha creato il meccanismo.
E’ chiaro che l’etica del comportamento e l’esito finale dell’applicazione di quelle tecnologie è l’etica propria dell’algoritmo ma non è l’etica della norma di diritto. Questo pone il problema di come valutare il criterio che sta a fondamento dell’algoritmo. Da qui ad esempio questioni già affrontate varie volte dai magistrati, perché gli algoritmi sono impiegati in molte attività di carattere amministrativo, i quali vogliono capire bene i criteri che sono a monte della definizione dell’algoritmo e se questi non sono coerenti con la legge sono ritenuti illegittimi, sbagliati e non si possono applicare.
Proprio sul giornale di oggi è stata pubblicata la storia di un insegnante che ha vinto il concorso ma l’assegnazione dei posti è avvenuta secondo un algoritmo in se per se perfetto, in quanto prende in considerazione tenti elementi oggettivi, però è sostanzialmente irragionevole e produce degli esiti che determinano l’impossibilità di svolgere il lavoro perché si viene assegnati a sedi assolutamente impossibili da raggiungere. Il giudice ha stabilito che la predisposizione di quei criteri non è ragionevole e conforme ai principi di eguaglianza, parità di trattamento e non discriminazione previsti dalla legge e ha dichiarato illegittimo il decreto del ministro.
Altri due aspetti. Queste tecnologie sono l’esito di processi di ricerca nazionali e internazionali. I criteri alla base di questi meccanismi si creano al di fuori delle barriere nazionali e del nostro territorio ma il diritto ha un principio: ciascuno è tenuto a rispettare il diritto del proprio Stato e quello esterno solo a certe condizioni: se c’è un trattato internazionale che obbliga, se è una norma dell’Unione europea – in quanto la Costituzione consente che le norme dell’UE possano essere immediatamente applicabili – e se ci sono delle consuetudini internazionali. Insomma non siamo tenuti ad applicare regole se queste non sono previste dal nostro Stato oppure consentite dal nostro Stato se provengono dall’esterno. Quando l’applicazione delle tecnologie informatiche produce regole di comportamento alle quali inevitabilmente si è soggetti – perché se entriamo in qualche piattaforma e dobbiamo utilizzare un certo sistema perché serve necessariamente per vivere – sono soggetto a quelle regole che non sono state scritte dal mio Stato ma da qualcun altro e altrove.
Ultimo problema quello della giustizia predittiva, su cui non torno.
Quella fatta fin qui è un po’ una sintesi di quello che avrei voluto dire, ma inevitabilmente la presenza di queste tecnologie non può non comportare una modifica dei nostri comportamenti e quindi una modifica di quella che noi giuristi chiamiamo la forma di stato, ovvero il modo col quale si rapporta la libertà dell’individuo e lo svolgimento dei poteri e delle autorità sia pubbliche che private. E’ chiaro che se comincio ad essere soggetto all’applicazione di questi meccanismo perché la mia vita mi porta ad applicare queste regole, tanti principi previsti in Costituzione sono un po’ condizionati. Pensiamo alla libertà di circolazione. Tutti i meccanismi che prevedono sulle piattaforme informatiche l’acquisto dei biglietti in un certo modo o ricorrere a certi vettori invece che ad altri sono condizionamenti concreti alla libertà.
Ci sono giuristi molto timorosi per i quali in realtà siamo di fronte ad un Leviatano, un meccanismo quasi infernale e totalizzante che può davvero stravolgere la nostra vita. Se andiamo a riprendere Hobbes egli diceva chiaramente che quando c’è una macchina costruita dall’uomo e questa è capace di trascendere la moltitudine degli esseri umani ma è dotata della pretesa di suprema autorità sulla moltitudine, questa macchina diventa un Leviatano dotato di poteri assoluti: massimo potere spirituale e temporale. Non possiamo accettare questa interpretazione perché per noi giuristi e costituzionalisti è inaccettabile. Se dopo tanti secoli e sforzi siamo arrivati alla realizzazione di sistemi liberali e democratici fondati sullo Stato di diritto non possiamo accettare questa prospettiva del futuro, che è assolutamente distropica. La nostra sfida a mio avviso è cercare di conciliare le promesse – che sono senza dubbio positive – dell’intelligenza artificiale con invece le debolezze di un sistema Statale giuridico e normativo che talvolta non ha la capacità di reagire e governare correttamente questi fenomeni.
L’intelligenza artificiale è già molto utile per tanti aspetti: consente di accrescere le potenzialità individuali e collettive, consente di migliorare l’efficienza e semplificare le attività delle amministrazioni, ci può consentire una maggiore trasparenza delle amministrazioni pubbliche, può consentire di realizzare la digitalizzazione dei sistemi di informazione che sono fondamentali; però ci sono dei rischi costituzionali.
Innanzitutto questi strumenti sono concentrati nella loro conoscenza e applicazione vera soltanto in alcuni gruppi, alcuni ceti e circoli ristretti di individui. Questo va evitato e bisogna cercare di assicurare che non si creino nuove diseguaglianze mediante l’applicazione di questi sistemi. I privatisti conoscono già gli smart contracts, contratti automatizzati definiti secondo principi digitalizzati e la violazione di quei contratti determina automaticamente l’applicazione di una sanzione contrattuale prevista a monte. Si tratta quindi di contratti che hanno un vincolo molto stretto governato attraverso le piattaforme informatiche. Possiamo accettare questi smart contract, che il realtà determinano uno squilibrio tra la posizione di un contraente forte che decide le condizioni e i contraenti deboli che sono costretti di fatto ad accettarle?
Un secondo principio fondamentale è che non dobbiamo consentire che questi procedimenti possano superare le regole previste dalla legge. Noi abbiamo tante leggi che disciplinano le attività su cui l’intelligenza artificiale si svolge e il compito dei giuristi è di interpretare queste leggi cogliendovi anche le regole che sono applicabili a queste tecnologie. Quando non si riesce a svolgere questa attività di interpretazione dobbiamo necessariamente proporre leggi nuove con cui governare un fenomeno nuovo.
Un terzo problema riguarda la democrazia in senso stretto. E’ chiaro che la possibilità delle diseguaglianze e che ci sia una violazione della legge è nell’ordine delle cose, pero obiettivamente le nuova tecnologie possono determinare problemi soprattutto quando si tratta di processi democratici, ovvero che riguardano tutta la rappresentanza – i processi elettorali, quelli che riguardano i referendum, la formazione della volontà degli organi parlamentari e assembleari – quindi processi politici. Bisogna in questo caso evitare che ci siano attività che possano condurre ad una falsificazione dei processi; ricordiamoci quello che è successo con Cambridge analityca e i tentativi di falsificare le informazioni e condizionare la libera opinione del cittadino, che sono stati un atto certamente fraudolento e contro il principio democratico.
Purtroppo le nuove tecnologie si impongono più facilmente dove lo Stato è debole. Dove le amministrazioni pubbliche, i servizi pubblici hanno debolezze e fragilità l’uso di questi strumenti diventa un mezzo per risolvere ciò che lo Stato non può fare. Ad esempio negli Stati Uniti si stanno diffondendo sistemi automatizzati di soluzione delle controversie per cui non si ricorre più al magistrato ma al giudice informatizzato che risponde sulla base dell’intelligenza artificiale. Questo però può portare alla privatizzazione di servizi che devono necessariamente essere pubblici.
In conclusione quello che serve è una collaborazione intelligente tra l’uomo e la macchina, ben disciplinata dal diritto e conforme ai principi della Costituzione e soprattutto ai principi democratici.
___________________
Giulio M. Salerno – docente di Istituzioni di diritto pubblico presso Università di Macerata. Dal 2014 è componente dell’Osservatorio regionale per il riordino delle funzioni delle Province istituito dalla Regione Marche.
Le altre relazioni pubblicate:
Intelligenza artificiale tecnologia digitale. Carlo Acutis e la dimensione spirituale – Luca Peyron
Intelligenza artificiale e tecnologia digitale. La dimensione etica – prof.ssa Daniela Tafani
Intelligenza artificiale, tecnologia digitale, democrazia e algoterica – Paolo Benanti
Come l’intelligenza artificiale apprende – Andrea Bonarini
Intelligenza artificiale e lavoro che cambia – Ivana Pais
