Intelligenza artificiale, big data e nuovi diritti
←
→
Trascrizione del contenuto della pagina
Se il tuo browser non visualizza correttamente la pagina, ti preghiamo di leggere il contenuto della pagina quaggiù
ISSN 2704-7318
Fascicolo 1-2022
DOI: 10.32091/RIID0055
Articolo sottoposto a peer review
Intelligenza artificiale, big data e nuovi diritti
Agata C. Amato Mangiameli
Il presente è il risultato di vecchie e nuove riorganizzazioni e intuizioni. Mentre si moltiplicano gli studi su
algoritmi, reti neurali e intelligenza artificiale, mutano le velocità e si assiste a cambi di paradigma. Con la
rivoluzione dei big data, infatti, il paradigma logico-deduttivo cede il passo all’approccio statistico, che tra
i vari scopi ha quello fondamentale di elaborare modelli predittivi e selettivi, nel frattempo che raggruppa
gli oggetti in classi il più possibile omogenee. Al di là degli indiscutibili vantaggi, legati alla possibilità di
processare una gran mole di dati senza un particolare dispendio di tempo e di energie, l’odierno sviluppo
tecnico-scientifico solleva molteplici e serie domande. Queste ultime riguardano soprattutto la sfera dei
diritti, che si arricchiscono di nuovi contorni e significati, sino al punto di tutelare istanze pressoché inedite.
Emblematico è quanto avviene riguardo al diritto alla privacy, che evolve oggi nel diritto di proteggere i
dati personali. Proprio quei dati che costituiscono oramai il primo motore dell’economia contemporanea.
Intelligenza artificiale – Algoritmi – Reti neurali – Big data – Protezione dati
Sommario: Prima Parte – 1. Dai moderni meccanismi... – 2. ...alle moderne intuizioni – 3. ...e al dilemma: intelligenza
e/o coscienza artificiale? – Seconda Parte – 4. A partire dalle reti neurali artificiali – 5. Algoritmi e non-neutralità –
6. Intelligenza artificiale e big data – 7. Ci vuole una regola! Una Carta dei diritti 4.0! – 8. Dal Regolamento europeo
sul trattamento e la libera circolazione dei dati personali
Prima parte diante il linguaggio, quali le verità di ragione di Leib-
niz, le leggi del pensiero di Boole, fino al calcolo dei
1. Dai moderni meccanismi... predicati di Frege, Russell e Whitehead; c) lo svilup-
po, dapprima, delle macchine da calcolo meccaniche
La storia delle macchine pensanti è anche la storia di
(oltre all’orologio calcolatore di Schickard, la scatola
grandi rivolgimenti e riorganizzazioni. Prima ancora
di Pascal e il calcolatore di Leibniz), in seguito, il pro-
che si potesse progettare, costruire e programma-
getto della macchina alle differenze (di Babbage) e la
re il calcolatore intelligente, per avviare gli studi
costruzione del calcolatore differenziale (di Scheutz),
sull’intelligenza artificiale1 è stata necessaria la c.d.
sino poi ai calcolatori automatici elettronici3 .
invenzione della mente2 , in particolare: a) la visio-
Sono così costruiti meccanismi che riproduco-
ne moderna dell’essere umano come entità distinta
no singole funzioni intelligenti, dapprima i semplici
dal mondo, scandita dalla ri-concettualizzazione del-
regolatori e selettori automatici e poi i diversi dispo-
la ragione come strumento per l’esame delle parole
sitivi atti a memorizzare, apprendere, riconoscere
(Hobbes), delle idee (Locke), delle rappresentazioni
forme. Dagli analizzatori differenziali ai sistemi di
(Leibniz); b) l’affermarsi della nuova matematica e
tabulazione elettronica, dal calcolatore a relè per nu-
la ricerca di regole logiche che vengono espresse me-
A.C. Amato Mangiameli è professore ordinario di Filosofia del diritto, informatica giuridica e biogiuridica presso il Diparti-
mento di giurisprudenza dell’Università degli Studi di Roma “Tor Vergata”.
Questo contributo fa parte del numero speciale “La Internet governance e le sfide della trasformazione digitale” curato da
Laura Abba, Adriana Lazzaroni e Marina Pietrangelo.meri complessi ai calcolatori giganti e, inoltre, all’au- rappresentata altrettanto bene in qualche altro ele-
toma degli scacchi, dall’Univac I4 al Powerbook di mento, incorporata in qualche altra macchina fisica.
Negroponte5 , quel che più rileva è il passaggio dalla Oltrepassando, per un verso, l’idea secondo cui
semplice automazione «delle primordiali macchine solo l’intelligenza umana sarebbe capace di trovare
per tabelle alla sua attuale condizione di versatile metodi per superare gli errori, e per l’altro, l’idea se-
macchina informatica, [...] la potenza del computer condo cui l’intelligenza della macchina sarebbe nulla
[...] [viene] proiettata sull’ordito già elaborato dalla più che un riflesso dell’intelligenza del suo creatore,
ricerca operativa e dall’analisi dei sistemi»6 . è aperta la strada per la costruzione di macchine con
Quanto più lo sviluppo scientifico e tecnico av- risorse analoghe a quelle di un operatore umano. In
vicina la macchina al pensiero artificiale7 , tanto più primo luogo, la memoria: deposito di informazioni,
l’elaboratore si trasforma da calcolatrice in calcola- alla stregua della carta sulla quale l’operatore uma-
tore. La prima svolge funzioni aritmetiche, il secondo no scrive i suoi calcoli o alla quale si richiama quale
funzioni logiche di confronto. Nella prima è l’uomo libro delle regole. In secondo luogo, l’unità operativa:
a inserire i dati operandi, a determinare la sequen- parte dove sono compiute le varie operazioni singole
za delle operazioni, a valutarne il risultato; nel se- che un calcolo comporta (e quali siano queste sin-
condo è un’altra macchina, cioè l’unità di governo, gole operazioni dipende dalle diverse macchine). In
che durante lo svolgimento delle operazioni necessa- terzo luogo, il governo o controllo: nella macchina
rie e grazie alla memoria centrale di volta in volta il libro delle regole dell’operatore umano è sostitui-
controlla, archivia, trasforma. to dalla tavola delle istruzioni presente in una parte
E intanto che si costruiscono dispositivi sempre della memoria. È compito quindi del governo verifi-
più raffinati, si attiva un dibattito sull’intelligenza care che le istruzioni siano eseguite correttamente e
del calcolatore – si pensi al dialogo radiofonico tra nell’ordine giusto. Va da sé che il libro delle regole,
il filosofo della scienza Richard Braithwaite, il mate- appena accennato, è una comoda immagine, giacché
matico Max Newman, il neurochirurgo Geoffrey Jef- il calcolatore umano si ricorda di ciò che deve fare.
ferson e il logico Alan Turing8 –, e via via si modifi- E tuttavia, se si vuole che una macchina riproduca
ca l’immagine che noi abbiamo della macchina: dap- in modo fedele il comportamento di un calcolatore
prima “conduttore e trasmettitore di potenza”, ora umano nello svolgimento di una serie di operazio-
“trasformatore di informazione” 9 . ni, è necessario chiedere all’uomo come andrebbero
risolte quelle operazioni e la sua risposta deve esse-
re tradotta nella forma di una tavola di istruzioni.
2. ...alle moderne intuizioni Inserire tavole di istruzioni in una macchina signifi-
ca dunque programmare una macchina in modo che
Quella dell’intelligenza artificiale è la storia di gran- compia l’operazione x 13 .
di intuizioni. Nel saggio Computing machinery and La macchina di Turing costituisce un sistema for-
intelligence 10 , Turing si chiede se sia possibile per male automatico. In particolare, il sistema formale è
ciò che è meccanico manifestare un comportamento come un gioco nel quale i segni (i pezzi, le occorren-
intelligente. La risposta è nota: la macchina univer- ze14 ) sono manipolati in accordo con delle regole, al
sale, equivalente logico di una macchina a stati finiti, fine di vedere quali configurazioni possono essere ot-
è equiparabile al cervello e può dunque essere pro- tenute. E come in ogni gioco, bisogna specificare che
grammata in modo da imitare il funzionamento cere- cosa sono i segni, qual è la posizione iniziale e quali
brale11 . Ciò che infatti è rilevante, sia del cervello che mosse sono permesse in ogni posizione data. Vanno
della macchina universale, è soltanto lo schema logico subito notate tre caratteristiche (del gioco o sistema
degli stati discreti, lettura e scrittura. Non è invece formale): 1) il sistema è interamente auto-contenuto,
rilevante la chimica o la fisica, poiché qualsiasi cosa nel senso che solamente i pezzi con le loro mosse con-
faccia un cervello, esso lo fa in virtù della sua strut- tribuiscono a mutarlo; 2) è perfettamente definito,
tura in quanto sistema logico e non già perché posto ovvero non vi sono ambiguità, approssimazioni, casi
nella testa di una persona o perché tessuto spugnoso intermedi, per determinare una certa posizione o la
costituito da un tipo particolare di formazione biolo- correttezza della mossa; 3) è controllabile entro un
gica cellulare. E se questo è vero, se cioè la descrizio- lasso finito di tempo, ossia per valutare la validità
ne dei processi mentali è indipendente dal corpo: «ci della mossa in una posizione deve essere verificato
proponiamo [...] di vedere cosa possa essere fatto con solo un numero finito di cose15 . Il sistema formale
un “cervello” che sia, più o meno, senza un corpo, automatico, poi, non è altro che un congegno fisi-
provvisto al massimo di organi di vista, parola e udi- co, una macchina, «che manipola automaticamente
to»12 , allora la struttura logica del cervello può essere le occorrenze di un qualche sistema formale in accor-
Agata C. Amato Mangiamelido con le regole di quel sistema. È come una partita sofi e scienziati, farmacologi e fisici, neuro-scienziati
di scacchi che muove e gioca da sola [...], o come un e neuropsicologi, ecc.).
sistema assiomatico che scrive le proprie dimostra- Di qui l’attenzione per i tanti significati che l’e-
zioni e teoremi senza nessun aiuto da parte di un spressione coscienza comunica e per i diversi feno-
matematico»16 . meni che le scienze cognitive tentano di spiegare, dai
Pertanto nel costruire un sistema formale auto- più o meno semplici (ad esempio, le capacità di inte-
matico è necessario risolvere due problemi di fondo. grare le informazioni, di reagire agli stimoli, di con-
Da un lato, far sì che il congegno obbedisca alle rego- trollare i comportamenti) ai più complessi, quale può
le, dall’altro, automatizzare il meccanismo per deci- essere la spiegazione scientifica del perché sentiamo
dere tra diverse opzioni valide quale mossa eseguire. dolore, gioia, angoscia. Si tratta di un interrogativo
E la macchina di Turing17 , con un numero illimitato fondamentale, anche alla luce degli attuali sviluppi
di caselle di memoria, con un numero finito di unità tecnici e dei progressi nel campo delle neuroscienze,
di esecuzione e con un indicatore di unità, fa sì che i sempre più attente alla coscienza, ai suoi contenuti
due problemi (cioè quello dell’obbedienza alle regole e alla sua interazione con l’ambiente. C’è in gioco la
e del controllo) vengano risolti. grande questione della decisione (libera) che distin-
gue l’essere umano da ogni altro ente, ma che via via
3. ...e al dilemma: intelligenza e/o sembra poter essere spiegata da considerazioni che
sottolineano l’errore di Cartesio 19 , ovvero la separa-
coscienza artificiale? zione tra la razionalità e la regolazione biologica, tra
Non è detto che giocare contro una tale macchina la decisione e l’emozione.
dia la precisa sensazione di stare scontrandosi contro Quanto accennato ha delle particolari ricadute.
qualcosa di vivo18 , quel che però è certo è che la mac- L’attenzione verso i processi mentali, prima descritti
china diventerà sempre più intelligente. L’11 mag- indipendentemente dal corpo, si rivolge ora a tutte
gio 1997 è una data importante: il calcolatore Ibm quelle dimensioni che concorrono a prendere le deci-
Rs/6000, Deep Blue, batte Garry Kasparov, cam- sioni e a determinare i comportamenti. D’altra parte,
pione del mondo di scacchi. Nel febbraio del 2011 come nel caso della macchia nera il nostro cervello
Watson della Ibm batte alcuni campioni nel gioco te- integra l’informazione visiva a nostra insaputa e gra-
levisivo Jeopardy e nel 2015-2016 il sistema AlphaGo zie al combinarsi di altri dati20 , le nostre scelte e le
batte due dei giocatori di dama più forti al mondo; nostre azioni dipendono da una serie di circostan-
nel gennaio del 2019, i campioni di Starcraft sono ze e dai marcatori somatici, esempi questi di «sen-
stati battuti dall’intelligenza artificiale di DeepMind. timenti generati a partire dalle emozioni secondarie.
Queste sfide mettono in evidenza gli importan- Quelle emozioni e sentimenti sono stati connessi, tra-
ti livelli raggiunti dalle macchine, ormai in grado di mite l’apprendimento, a previsti esiti futuri di certi
gestire simboli e predisporre mosse, così da vincere. scenari. Quando un marcatore somatico negativo è
Non annullano però la diversità che esiste tra l’espe- giustapposto a un particolare esito futuro, la com-
rienza di giocare, attributo tipico dell’essere umano, binazione funziona come un campanello d’allarme;
e lo stesso comportamento intelligente, che l’uma- quando invece interviene un marcatore positivo, esso
no può condividere con diversi programmi e vari si- diviene un segnalatore di incentivo»21 .
stemi. Nonostante gli sviluppi resta perciò inattuata Se così, una svolta si rende necessaria: gli studi
quella storia della narrativa fantastica e della fanta- sull’IA devono potere essere integrati da tutte quel-
scienza popolata da esseri artificiali dotati di coscien- le ricerche per meglio comprendere il formarsi della
za: Frankenstein di Mary Shelley, i robot di Karel coscienza, ormai oggetto di studio scientifico visto
Čapek, Robbie di Isaac Asimov, come pure HAL di che essa può essere letta come quell’aspetto ausiliare
Stanley Kubrick che, diverso dagli altri citati, è privo della nostra dotazione biologica di adattamento al-
del corpo. Resta inattuata poiché è indubbio che il l’ambiente. Ancora una volta, altro approdo e altra
tema della coscienza è di approccio particolarmente riorganizzazione: non più la mente distinta dal cor-
complesso, poteva non suscitare immediato interesse po, bensì l’organismo che partecipa dell’esperienza
dal punto di vista ingegneristico, anche se ormai si cosciente. Il che vuol dire, dal punto di vista tecno-
assiste all’affermarsi della disciplina Artificial Con- logico, la previsione che si sia in grado di intervenire
sciousness (riecheggia l’altra: Artificial Intelligence) nei suoi meccanismi e che questi stessi possano essere
e al diffondersi di convegni sulla Scienza della co- riprodotti.
scienza (si pensi alle tante edizioni che hanno luogo a
Tucson in Arizona), convegni e centri che riuniscono
diversi studiosi con approcci e ragioni differenti (filo-
Intelligenza artificiale, big data e nuovi dirittiSeconda parte in presenza di modifiche ambientali. Com’è intuitivo,
le reti neurali artificiali presentano pure dei limiti,
4. A partire dalle reti neurali artificiali ad esempio la loro computazione non è analizzabi-
le in modo completo, gli output somministrati non
Il presente è il risultato di vecchie e nuove riorganiz- rappresentano assai spesso la soluzione perfetta, non
zazioni e intuizioni. Nel presente gli studi su algo- sono idonee per il momento a risolvere determinate
ritmi, software, app, si moltiplicano e si rafforzano. categorie di problemi.
Intanto mutano le velocità e si assiste a cambi di Al di là dei vantaggi e dei limiti delle reti neu-
paradigma. Pochi anni per fare quel che si è fatto in rali artificiali, le tre espressioni chiave ricordate pro-
secoli: è sufficiente qui considerare il tempo trascorso pongono una domanda fondamentale: l’attività svol-
tra la rivoluzione della stampa e quella informatica, ta dai sempre più sofisticati software può considerarsi
tra quest’ultima e la rivoluzione dei big data (cioè neutrale, ovvero, quell’insieme di algoritmi e di big
dati di varia natura, generati da algoritmi in tempo data, entro la cornice di una intelligenza artificiale
reale e il cui volume è impressionante). D’altra par- capace di riconoscere, classificare, ragionare, diagno-
te, anche le teorie dei 6-12 gradi di separazione per sticare, agire, può essere ritenuto di per sé in ogni
entrare in relazione sono oggi – nell’era della con- caso obiettivo?22
nessione – sostituite da quella secondo la quale ogni
persona sarebbe collegata a qualunque altra grazie a 5. Algoritmi e non-neutralità
soli 3-4 contatti. Inoltre, nell’era della crescita espo-
nenziale di dati, il paradigma logico-deduttivo cede il Gli esseri umani scrivono gli algoritmi, analizzan-
passo all’approccio statistico, che tra i vari scopi (ad do innanzitutto il problema, descrivendo la specifica
esempio: fare previsioni, verificare delle ipotesi e sug- funzionale, come pure i passi da eseguire per giun-
gerirne di nuove, facilitare l’analisi dei dati e ridurre gere al risultato, traducendo infine il diagramma di
la loro mole) ha quello fondamentale di raggruppa- flusso in programma. Ipotesi di partenza, parametri,
re gli oggetti in classi, il più possibile omogenee, e di dati, funzioni di un programma possono essere di vol-
determinare il numero e le caratteristiche delle classi. ta in volta diversi: non c’è quindi un unico modo di
Algoritmi, intelligenza artificiale, big data, tre produrre un algoritmo e d’altra parte una variazione
espressioni-chiave attorno alle quali ruota l’odierno anche semplice di un parametro o di un dato conduce
sviluppo tecno-scientifico che prosegue sulla via del- a risultati diversi. Alcune volte, poi, l’algoritmo può
l’evoluzione delle reti neurali, avendo come riferimen- persino muovere da pregiudizi: basti pensare a quello
to quelle biologiche, e che utilizza i c.d. algoritmi di Google Photo che ha catalogato sotto il termine
di apprendimento: ora algoritmi di apprendimento “gorilla” l’immagine di due persone di colore, altre
supervisionato (a partire da un insieme di input ai volte l’algoritmo serve a raccogliere dati sui (bra-
quali corrispondono output noti, la Rete apprende vi/cattivi) cittadini, come ad esempio il programma
il nesso che li unisce e impara a generalizzare, ossia Sesame Credit del governo cinese.
a calcolare nuove associazioni corrette input-output In Armi di distruzione matematica. Come i big
processando input esterni al training set), talaltra di data aumentano la disuguaglianza e minacciano la
apprendimento non supervisionato (a partire da un democrazia Cathy O’Neill23 mette in guardia dal-
insieme di variabili di input, la Rete crea dei cluster l’affidabilità e oggettività degli algoritmi, poiché que-
rappresentativi per categorizzarle), ora algoritmi di sti possono esprimere pregiudizi a causa di una pro-
apprendimento per rinforzo (è dall’interazione con grammazione che si presenta sotto il segno della su-
l’ambiente che i circuiti neurali imparano ed eseguo- perficialità, possono altresì essere ricondotti a previ-
no una serie di azioni, delle quali quelle che si avvici- sioni alquanto singolari (si pensi al software di pre-
nano al risultato sono considerate di rinforzo, mentre dizione della criminalità PredPol della polizia di Los
le altre sono eliminate perché foriere di errore). Le Angeles) o essere utili per vere e proprie truffe (si
reti neurali artificiali presentano diversi vantaggi, di pensi al software che ha consentito alla Volkswagen
qui la loro diffusione nei più disparati settori laddo- di alterare le rilevazioni delle emissioni inquinanti).
ve sono richiesti data mining, elaborazione di modelli Oltre a Cathy O’Neill, anche Dominique Car-
predittivi e simulativi, classificazione ecc. Con que- don24 , Wolfie Christl e Sarah Spiekermann25 , e molti
ste, infatti, si possono processare senza particolare altri ancora mettono in guardia dagli algoritmi. Die-
dispendio di tempo ed energie grandi moli di dati, si tro formule e modelli matematici, dietro diagrammi
può operare assai spesso in modo corretto nonostan- e procedimenti formali, si celano meccanismi di alte-
te input imprecisi o incompleti, e quando invece sono razione dell’informazione e di condizionamento del-
ben implementate sono in grado di auto-aggiornarsi l’azione. Ad esempio: il successo commerciale può
Agata C. Amato Mangiamelidipendere dall’ordine con cui Google posiziona i ri- dei sistemi di IA. Le informazioni ricavabili, anche
sultati delle ricerche; il like dipende dalla selezione dal c.d. rumore, sono certo interessanti per lo studio
predisposta dagli algoritmi del social network, per delle città e delle persone che le abitano.
cui solo alcuni messaggi possono essere marcati dal Significativa è stata la ricerca di un team della
“mi piace”; il prezzo di un biglietto aereo dipende dal Stanford University: a partire da più di 50 milioni
profilo del viaggiatore ricostruibile attraverso l’uso di immagini su 200 città mappate da Google Street
di un certo dispositivo, l’orario d’accesso, le ricerche View, immagini elaborate con una tecnica di ricono-
già effettuate; l’accesso al prestito e i tassi di rientro scimento degli oggetti così da permettere al software
dipendono da formule matematiche i cui parametri di individuare le auto (ben 22 milioni) e di clas-
non sono riconducibili soltanto alla capacità finan- sificarle (secondo la marca, il modello, l’anno), il
ziaria; anche il destino politico di un paese, o di più team è stato in grado di fornire alcune indicazioni
paesi, può dipendere dal software e da chi possiede i demoscopiche. Per la ricerca si è usato un algoritmo
dati sugli elettori. a rete neurale convoluzionale (convolutional neural
Già questi pochi esempi confermano gli aspet- network, ConvNet) in grado di processare 50 mi-
ti critici, ovvero: l’asimmetria informativa tra una lioni di immagine in due settimane, contro i circa
società che offre un servizio e l’utente, l’assenza di quindici anni dell’intelligenza umana, e con la ca-
trasparenza relativa ai princìpi e ai parametri alla ratteristica essenziale di ricavare dati reali, poiché
base del funzionamento dell’algoritmo, la creazione in due settimane i 22 milioni di veicoli individuati
di una sorta di filter bubble, così che siano mostrate restano indicativi del patrimonio di veicoli circolanti
all’utente soltanto quelle informazioni che l’algorit- in quelle città.
mo ha calcolato gli possano interessare, o al contra- Muovendo da questa grande mole di dati, i ricer-
rio, che ha ritenuto per varie ragioni di non dovere catori hanno utilizzato queste informazioni al fine
fornire. Di qui, l’inesistenza di algoritmi neutrali, di di capire le inclinazioni politiche, hanno così osser-
algoritmi che si limitano a riflettere la realtà, essi an- vato come con più pick-up l’area urbana aveva una
zi propongono una loro versione fatta dalle formule probabilità dell’82% di votare repubblicano, e inve-
classificanti, dal peso attribuito ai singoli parametri ce con più berline c’era l’88% di possibilità che il
inseriti, dalle procedure che determinano il risultato. quartiere votasse democratico. In questo caso, l’al-
E intanto aumentano in modo esponenziale i dati, goritmo usato è quello tipico del machine learning,
ogni soggetto è classificabile e ogni nuovo disposi- e cioè l’analisi della regressione con la quale si sti-
tivo raccoglie dati26 , dal like si risale con margini ma un’eventuale relazione funzionale tra la variabile
d’errore minimi al colore della pelle, all’orientamen- dipendente e le variabili indipendenti. Simile tecnica
to sessuale, all’appartenenza politica, come pure al fornisce delle informazioni parecchio accurate, non
quoziente intellettivo, alla religione e a tanto altro limitate naturalmente alle foto di auto e alle pre-
ancora, accade così che gli algoritmi generino sem- visioni di voto, di qui l’importanza di questi nuovi
pre più messaggi personalizzati e stratagemmi per strumenti (in questo caso, la rete neurale in grado
orientare la condotta. di gestire al meglio le immagini) per gli scienziati
sociali e per le loro previsioni.
6. Intelligenza artificiale e big data Intelligenza artificiale e big data, ovvero databa-
se che raccolgono enormi quantità di informazione di
Di grande rilievo, in quest’ambito, è l’ormai acquisita vario tipo (dalle immagini ai video, dai testi all’au-
capacità di auto-apprendimento delle macchine, gra- dio, dai like su Facebook alle transazioni monetarie)
zie all’applicazione delle citate reti neurali artificiali. e che richiedono l’utilizzo di calcolatori di grande po-
I computer capaci di apprendere in modo automatico tenza per la raccolta di questi dati eterogenei e ster-
costituiscono la vera grande svolta e con essa eviden- minati, come pure per l’individuazione di relazioni
ziano il possibile rischio di un sistema non controlla- (collegamenti, connessioni) e per l’estrapolazione di
to, tale da richiedere una sorta di Algorithm Libera- previsioni. Si tratta di una nuova era, nella quale il
tion Front per rendere trasparenti i criteri decisionali paradigma dei big data riporterebbe il discorso sul
alla base dei diversi strumenti. piano dell’oggettività, visto che sarebbero gli stessi
L’intelligenza artificiale opera in vario modo, quel dati, senza alcuna pregiudiziale e senza essere con-
che però va innanzitutto sottolineato è l’importanza dizionati dall’orizzonte di attese dell’osservatore, a
che essa riveste in tutte quelle attività che richiedono dirci del benchmark, del modello, e della correlazio-
decisioni a partire da enormi quantità di dati. A tal ne significativa fra un numero tendenzialmente in-
proposito si consideri Google Street View e in par- finito di variabili. Tutto ciò sarebbe reso possibile,
ticolare l’elaborazione dei dati qui raccolti da parte oltre che dalla straordinaria potenza di calcolo, dal
Intelligenza artificiale, big data e nuovi dirittitipo di apprendimento che in quanto statistico non in parte obbligata. Si tratta di garantire in senso pro-
richiederebbe una reale comprensione dei fenomeni. prio il consenso informato, che in molti casi manca,
Per il vero, i dati non sono oggettivi e i model- specie in quelli in cui, in cambio di contenuti o servizi
li statistici rappresentano la realtà modificandola, e gratuiti, si cedono dati personali; si tratta inoltre di
cioè orientando i comportamenti. Secondo Domini- rendere trasparenti gli algoritmi, così da capire come
que Cardon27 , le misurazioni statistiche servono a si formano le informazioni (e le disinformazioni), co-
fabbricare il futuro, poiché la società si orienta se- me si determinano al contempo gli orientamenti degli
condo le informazioni che le sono prospettate. D’al- attori sociali.
tra parte, è da sottolineare come i big data non siano L’odierna quantità di dati è realmente abnorme,
a disposizione di chiunque, bensì di pochi, che de- una raccolta questa che utilizza dispositivi di vario
tengono e organizzano i dati sulla spinta di interessi tipo e nei più diversi ambiti: dalla televisione ai te-
commerciali, e che le caratteristiche degli algoritmi lefoni e ai computer, dalle carte di credito alle smart
in uso (ad esempio, di Google, Facebook, Amazon) card, dai sensori delle case alle infrastrutture intelli-
restano per lo più ignote28 . genti delle città. Il flusso è continuo, l’ordine dei byte
segna record incredibili, ma quel che lascia per certi
versi stupiti è la capacità di usare ogni singola infor-
7. Ci vuole una regola! mazione di questa quantità indicibile per analizzare,
Una Carta dei diritti 4.0! elaborare, suggerire e orientare modelli di interpre-
tazione e di azione. La rivoluzione big data consiste
Tim Berners-Lee, inventore del World Wide Web, ri- proprio in ciò: trattare le tante variabili in poco tem-
tiene ormai necessaria una Costituzione che protegga po e con poche risorse computazionali, e questo è ov-
l’indipendenza di Internet e i diritti dei suoi utenti. viamente importante in ogni settore. Si pensi per il
Di qui la campagna The web we want, volta a sol- marketing ai c.d. metodi di raccomandazione (Net-
lecitare la redazione di una carta dei diritti digitale flix, Amazon) per indurre all’acquisto di un bene o un
in ciascun paese, dal momento che se non si ha «un servizio, metodi questi che muovono dai dati prove-
Internet libero [...] non possiamo avere un governo nienti dalla navigazione dell’utente (pagine visitate,
libero, una buona democrazia, un buon sistema sa- prodotti ricercati, acquisti) e ne individuano il pro-
nitario, comunità connesse e diversità di culture [...] filo, lo status, la condizione, l’attendibilità, ecc. Si
è ingenuo pensare di poter rimanere a braccia con- pensi inoltre per la sfera pubblica alle statistiche di
serte e ottenerlo [...] I nostri diritti vengono violati rilevanza penale, che muovono ormai da una enor-
sempre più da ogni parte e il pericolo è che ci si pos- me quantità di dati e connessioni anche inusuali e
sa abituare a tutto questo. Per questo voglio usare che possono essere usate per prevedere il verificarsi
il 25esimo compleanno perché ci si impegni tutti a dei reati e per dispiegare le forze di polizia. Si pensi
riportare nelle nostre mani il Web e a stabilire quale ancora al rilievo che i dati hanno in medicina e al-
rete vogliamo per i prossimi 25 anni». l’apporto dei big data che, se condivisi, potrebbero
Nonostante resti un ottimista29 , Berners-Lee sot- ad esempio realizzare sistemi in grado di analizzare
tolinea in molteplici occasioni come il Web sia ormai e combattere tempestivamente focolai epidemici, ma
popolato da guardiani digitali sempre più potenti, anche di predirli e prevenirli.
le cui armi sono algoritmi in grado di manipolare le
persone e di limitarne la libertà.
«The system is failing. The way ad revenue works 8. Dal Regolamento europeo sul
with clickbait is not fulfilling the goal of helping trattamento e la libera circolazione
humanity promote truth and democracy. So I am dei dati personali
concerned »30 .
Di qui la richiesta della regolamentazione del- Diventa allora necessario avere delle regole, una di-
la pubblicità politica online, così da evitare usi chiarazione di principi da osservare, al momento del-
impropri e eticamente non giustificati. la raccolta, della classificazione, dell’analisi, della
«We urgently need to close the “internet blind sintesi dei dati.
spot” in the regulation of political campaigning»31 . Nel 2016 il Parlamento europeo e il Consiglio han-
Riportare quindi il Web, quale spazio aperto e no adottato il regolamento 679 che si applica al trat-
luogo delle opportunità, lontano da quel che effetti- tamento interamente o parzialmente automatizzato
vamente lo minaccia, e cioè la perdita di controllo di dati personali, come pure al trattamento non au-
dei dati personali, la diffusione di disinformazione e tomatizzato di dati personali contenuti in archivi o
di fake news, la sinuosa pubblicità politica. La via è destinati a figurarvi (art. 2). Qui è l’art. 6 a preve-
Agata C. Amato Mangiamelidere la presenza di almeno una delle seguenti con- e limitati a quanto necessario rispetto alle finalità
dizioni quale fondamento di liceità del trattamento, per le quali sono trattati (“minimizzazione dei da-
e cioè che (a) l’interessato abbia espresso il consen- ti”); d) considerati esatti rispetto alle finalità per le
so al trattamento dei propri dati personali per una quali vengono trattati e, quindi, corretti se neces-
o più specifiche finalità; che (b) il trattamento sia sario (“esattezza”); e) conservati in una forma che
necessario all’esecuzione di un contratto di cui l’in- consenta l’identificazione degli interessati per un ar-
teressato è parte o all’esecuzione di misure precon- co di tempo non superiore al conseguimento delle
trattuali adottate su richiesta dello stesso; che (c) il finalità per le quali sono trattati (“limitazione della
trattamento sia necessario per adempiere un obbligo conservazione”); f) trattati in modo da garantire una
legale al quale è soggetto il titolare del trattamen- adeguata sicurezza dei dati personali, compresa la
to; che (d) il trattamento si renda necessario per la protezione da trattamenti non autorizzati o illeciti,
salvaguardia degli interessi vitali dell’interessato o di e dalla perdita, dalla distruzione o dal danno acci-
un’altra persona fisica; che (e) il trattamento sia ne- dentali (“integrità e riservatezza”). A questi diversi
cessario per l’esecuzione di un compito di interesse e importanti principi va aggiunto quello di “respon-
pubblico o connesso all’esercizio di pubblici poteri di sabilizzazione” del titolare del trattamento, proprio
cui è investito il titolare del trattamento; che (f) il in quanto competente e in grado di comprovare il
trattamento sia essenziale per il conseguimento del rispetto dei principi ricordati.
legittimo interesse del titolare del trattamento o di Quanto ai diritti, ai c.d. diritti tecnologici, l’inte-
terzi, ove non prevalgano gli interessi o i diritti e ressato ha il diritto (art. 7.3) di revocare il proprio
le libertà fondamentali dell’interessato che richiedo- consenso in qualsiasi momento e con la stessa facilità
no la protezione dei dati personali, in particolare se con la quale lo ha prestato. Ciò non pregiudica la
l’interessato è un minore. liceità del trattamento (basata sul consenso) prima
Il regolamento prevede innanzitutto una idonea della revoca stessa, e di questo l’interessato deve es-
richiesta del consenso, in particolare tale richiesta sere consapevole grazie a idonea informazione. L’in-
deve contenere le informazioni relative al titolare del teressato ha inoltre il diritto di ottenere dal titolare
trattamento, agli eventuali destinatari e alle finalità del trattamento la conferma che sia in corso un trat-
(natura e durata) che ci si propone con la raccolta tamento dei propri dati e, in caso positivo, il diritto
e l’uso dei dati. Per una raccolta e un uso dei dati di accedere (art. 15) ai dati personali e alle diverse
improntati alla correttezza e alla trasparenza, la ri- informazioni, ovvero il diritto di sapere per quali fini
chiesta dovrà inoltre contenere le informazioni circa sono stati adoperati i dati, quale categorie di dati
i diritti dell’interessato di intervenire sull’uso e sul sono state utilizzate, a chi sono stati comunicati, il
periodo di conservazione dei dati. Pur variando a se- periodo di tempo entro cui i dati saranno conservati
condo dell’utilizzo o meno di strumenti elettronici, e (di sicuro o anche presumibile), la logica utilizzata
a secondo del servizio che si intende offrire, formule nel processo decisionale automatizzato, e il diritto
e informazioni utilizzate per chiedere il consenso de- di proporre reclamo presso l’autorità di controllo.
vono essere espresse in modo comprensibile, semplice Di qui, la possibilità per l’interessato di esercitare
e chiaro, oltre che distinguibili da altre richieste ri- i diritti di rettifica (art. 16), di cancellazione (c.d.
volte all’interessato per ulteriori questioni (art. 7.2). “diritto all’oblio” art. 17), di limitazione (art. 18), di
All’idonea richiesta del consenso segue la volonta- portabilità dei dati (art. 20), come pure i diritti di
ria accettazione al trattamento dei dati. Il consenso opposizione al trattamento stesso (art. 21) o il dirit-
deve, infatti, essere espresso attraverso un atto posi- to di non essere sottoposto a una decisione basata
tivo libero, specifico, inequivocabile e informato, non unicamente sul trattamento automatizzato, compre-
è ammesso il consenso tacito o presunto, può essere sa la profilazione, che produca effetti giuridici che lo
comunicato sia per iscritto o oralmente, sia mediante riguardano o che incida significativamente sulla sua
mezzi elettronici. persona (art. 22). Com’è chiaro, perché siano ricono-
Poiché i dati personali rappresentano il cittadino, sciuti questi diritti, in modo da controllare sempre
prima, durante e dopo il trattamento, bisogna in base le conseguenze del proprio consenso, occorre che il
all’art. 5 che siano osservati i seguenti principi, ov- titolare del trattamento fornisca senza ingiustificato
vero: a) trattati in modo lecito, corretto e trasparen- ritardo le informazioni richieste. Si configurano così
te nei confronti dell’interessato (“liceità, correttezza veri e propri doveri (quali quelli di rettificare, di inte-
e trasparenza”); b) raccolti per finalità determinate, grare, di limitare, di sospendere, di cancellare, di non
esplicite e legittime, e trattati in maniera che non trattare) corrispondenti sia ai diritti dell’interessato,
sia incompatibile con tali finalità (“limitazione del- sia ai divieti di trattare alcune specifiche categorie
la finalità”); c) proposti perché adeguati, pertinenti di dati personali (art. 9), sia ai più generali obblighi
Intelligenza artificiale, big data e nuovi dirittiin capo al titolare e al responsabile del trattamento 14 «Le posizioni di un sistema formale possono funzionare
(artt. 24-31), in modo da garantire un adeguato livel- come occorrenze in un altro sistema (di “livello superiore”)
[...]. Ogni occorrenza del gioco dell’algebra è una posizione
lo di sicurezza dei dati (artt. 32-34) anche alla luce valida in un altro gioco, che potremmo chiamare il “gioco del-
di valutazioni dell’impatto dei trattamenti previsti le formule ben formate”» (così J. Haugeland, Introduzione,
sulla protezione dei dati personali (art. 35). in Id. (a cura di), “Progettare la mente. Filosofia, psicologia,
Da ultimo, si aggiunga che il 19 novembre 2021 il intelligenza artificiale”, (trad. it.), il Mulino, 1989, pp. 15-16).
15 Il che equivale a dire: «un gioco o un sistema che ha
Comitato Europeo per la Protezione dei Dati (ED- tutte e tre le proprietà è digitale. In questo senso tutti i si-
PB) ha adottato delle nuove linee guida32 , atte a stemi formali sono digitali. La proprietà di essere digitali ha,
fornire utili delucidazioni e preziose interpretazioni per ciò che riguarda i sistemi formali, le seguenti importanti
proprio in ordine al concetto di “trasferimento inter- conseguenze: due sistemi che sembrano essere assai differenti
possono, nonostante ciò, essere essenzialmente il medesimo
nazionale di dati personali” e in merito alla relativa sistema» (ivi, p. 13).
disciplina da applicarsi alla luce del GDPR. 16 Ivi, p. 17.
17 Nel 1936 lo scienziato dimostrò come costruire una mac-
china secondo i suoi principi: A.M. Turing, On computable
Note numbers, with an application to the Entscheidungsproblem,
in “Prooceedings of the London Mathematical Society”, series
1 Si veda P. McCorduck, Storia dell’intelligenza artifi- II, vol. 42, 1937, n. 1, p. 230 ss.
18 Come invece sosteneva A.M. Turing, Macchine intelli-
ciale, (trad. it.), Muzzio, 1987.
2 L’espressione è di R. Rorty, La filosofia e lo specchio genti, cit., spec. pp. 91 e 97.
19 V. A. Damasio, L’errore di Cartesio. Emozioni, ragione
della natura, (trad. it.), Bompiani, 1988.
3 Si vedano: H.H. Goldstine, Il computer da Pascal a e cervello umano, (trad. it.), Adelphi, 1995.
20 Si tratta della c.d. macchia cieca nel nostro campo vi-
Von Neumann. Le radici americane dell’elaboratore moder-
sivo, corrispondente all’innesto del nervo ottico nella retina.
no, (trad. it.), Etas, 1981; V. Pratt, Macchine pensanti.
In quella zona dovremmo vedere una macchia nera, eppure il
L’evoluzione dell’intelligenza artificiale, (trad. it.), il Mulino,
nostro campo visivo è privo di interruzioni.
1990. 21 Così A. Damasio, op. cit., pp. 245-246.
4 Si tratta del primo calcolatore elettronico messo in com-
22 Un interrogativo, questo, che fa da sfondo e al quale – a
mercio e acquistato nel 1951 dall’ufficio del censo degli Stati suo modo – cerca di dare risposta la recente Proposta di Rego-
Uniti, che rinnovò le tecniche di elaborazione dati e più in lamento del Parlamento europeo e del Consiglio europeo che
particolare automatizzò la produzione di tabelle che avveniva stabilisce regole armonizzate sull’intelligenza artificiale (Leg-
nelle cosiddette tab rooms. ge sull’intelligenza artificiale) e modifica alcuni atti legislativi
5 N. Negroponte, Essere digitali, (trad. it.), Sperling &
dell’Unione (COM/2021/206 final).
Kupfer, 1996, p. 1. 23 C. O’Neill, Armi di distruzione matematica. Come
6 Così J. Weizenbaum, Il potere del computer e la ragione
i big data aumentano la disuguaglianza e minacciano la
umana. I limiti dell’intelligenza artificiale, (trad. it.), Gruppo democrazia, (trad. it.), Bompiani, 2017.
Abele, 1987, p. 48. 24 D. Cardon, Che cosa sognano gli algoritmi, (trad. it.),
7 E oggi al pensiero tout court, a sentire le riflessioni sul
Mondadori, 2016.
futuro di Ray Kurzweil. Grazie ad una crescita esponenziale 25 W. Christl, S. Spiekermann, Networks of Control. A
esplosiva, molto presto i supercalcolatori di nuova generazio- Report on Corporate Surveillance, Digital Tracking, Big Data
ne, e cioè i cluster (insiemi di processori a basso costo, uguali & Privacy, Facultas, 2016
a quelli dei comuni PC, collegati tra loro per spartirsi il carico 26 V. in tal senso Michal Kosinski, esperto di psicometria,
di lavoro), saranno in grado di simulare il funzionamento del branca della psicologia fondata sull’analisi delle tracce digita-
cervello e le sue funzioni neuronali di apprendimento. Ed en- li, e in particolare studioso dei profili psico-demografici degli
tro qualche decennio, le tecnologie informatiche includeranno utenti di Facebook. È uno dei principali protagonisti della
tutte le conoscenze e competenze umane, comprese le tecni- vicenda Cambridge Analytica.
che di pattern recognition, come pure le capacità di risolvere 27 D. Cardon, op. cit.
problemi e di rispondere appropriatamente alle emozioni (la 28 Cfr. F. Pasquale, The black box society: The secret
cosiddetta intelligenza emotiva, tipica del cervello umano) (R. algorithms that control money and information, Harvard
Kurzweil, La singolarità è vicina, (trad. it.), Apogeo, 2008). University Press, 2015.
8 Alla BBC il 14 gennaio 1952, pubblicato in “Sistemi 29 «I’m still an optimist, but an optimist standing at the top
intelligenti”, aprile 1998. of the hill with a nasty storm blowing in my face, hanging on
9 J. Weizenbaum, op. cit., pp. 54-55.
to a fence» (T. Berners-Lee, Tim Berners-Lee on the futu-
10 A.M. Turing, Computing Machinery and Intelligence,
re of the web: ‘The system is failing’ , in “The Guardian”, 15
in “Mind”, vol. 59, 1950, n. 236, p. 433-460. November 2017).
11 Si veda in particolare A.M. Turing, Macchine intel- 30 Ibidem.
ligenti, in Id., Intelligenza meccanica, (trad. it.), Bollati 31 Così si legge in occasione del 28o anniversario della sua in-
Boringhieri, 1994, p. 88 ss. venzione (T. Berners-Lee, Three challenges for the web, ac-
12 Ivi, p. 103.
cording to its inventor , in “Web Foundation”, 12 March 2017).
13 V. A.M. Turing, Proposta per lo sviluppo nella divisio- 32 Si tratta delle Guidelines 05/2021 on the Interplay bet-
ne matematica di una macchina calcolatrice elettronica (Ace). ween the application of Article 3 and the provisions on inter-
Parte I: presentazione descrittiva e Id., Macchine calcolatrici national transfers as per Chapter V of the GDPR. Le Linee
e intelligenza, entrambi in Id., Intelligenza meccanica, cit., p. guida sono state aperte alla consultazione pubblica fino al 31
29 ss. e p. 125 ss. gennaio 2022.
Agata C. Amato MangiameliArtificial intelligence, big data and new rights
Abstract: The present is the result of old and new reorganizations and insights. As studies of algorithms,
neural networks, and artificial intelligence multiply, speeds change and paradigm shifts occur. With the
big data revolution, in fact, the logical-deductive paradigm gives way to the statistical approach which,
among various purposes, has the fundamental one to develop predictive and selective models, meanwhile
grouping objects into classes. Beyond the indisputable advantages linked to the possibility of processing
a large amount of data without a particular expenditure of time and energy, today’s technical-scientific
development raises many serious questions. These concern, above all, the sphere of rights, which are
enriched with new contours and meanings, to the point of protecting almost unprecedented instances.
Emblematic is what happens about the right to privacy, which today evolves into the right to protect
personal data. Precisely those data that are now the first engine of the contemporary economy.
Keywords: Artificial intelligence – Algorithms – Neural networks – Big data – Data protection
Intelligenza artificiale, big data e nuovi dirittiPuoi anche leggere
