BIG TECH E IL POTERE DEI DATI UNA QUESTIONE COSTITUZIONALE - Innovazione digitale valori fondamentali regole giuridiche Mario Midiri - Lumsa

Mario Midiri

 BIG TECH E IL POTERE DEI DATI
UNA QUESTIONE COSTITUZIONALE
      Innovazione digitale
       valori fondamentali
        regole giuridiche

IA: benefici sociali e rischi

■ Le applicazioni ad alto rischio: vietarle o scoraggiarle?
■ Prescrizioni giuridiche vincolanti o soft law?
■ La regolazione «made in Europe»: non basta il soft law
■ La diversa strada dell’UK: valorizzare innovazione e sperimentazione
■ Come conciliare l’apertura all’innovazione e la difesa dei valori
■ Possibile sinergia tra regolazione pubblica e responsabilità d’impresa: i Codici di
  etica nelle policy d’impresa
■ Tutela della dignità umana, principio di non discriminazione, tutela dei dati personali
  e della vita privata

Commissione UE: Libro bianco 2020,
progetto di regolamento aprile 2021
■ regolazione con tratti peculiari rispetto a quella tradizionale sui servizi di pubblica
  utilità
■ approccio proporzionato, basato sul rischio che i sistemi di IA possono porre alla
  salute, alla sicurezza, ai diritti fondamentali delle persone
■ rischi da valutare e circostanziare a seconda che si tratti di valutare l’elaborazione
  del sistema di IA prima dell’applicazione (“in the lab”) o in fase di uso e di
  evoluzione (“in the field”)

Il regolamento UE: armonizzazione del
mercato interno
EUROPEAN COMMISSION Brussels, 21.4.2021 - COM(2021) 206 final 2021/0106 (COD)
Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL
LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL
INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS
{SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}

Basterà il regolamento sulla IA?
Il problema della qualità dei dati
■ L’importanza dei dati per il training della IA
■ Parlamento Europeo, Commissione AIDA: «most of the non-personal data generated
  in the EU so far goes unutilised, while a single market for data is still in the making»
■ Dati «facili» da trovare sul web e dati di qualità: derogare al copyright?
■ Il bias

Uso dei dati e bene pubblico

■ Uso dei dati e finalità di pubblico interesse
■ Le piattaforme potrebbero rendere disponibili dati aggregati a fini di sicurezza, di
  tutela della salute e dell’ambiente, della gestione del traffico urbano
■ L’aggregazione di dati non è, di per sé, in conflitto con la protezione dei dati
  personali
■ I dati aggregati, ed anche l’uso di dati personali, se efficacemente anonimizzati,
  cadono al di fuori del GDPR (General Data Protection Regulation)
■ Garante europeo per la protezione dei dati R. Wiewiórowski, comunicazione alla
  Commissione UE sul monitoraggio della diffusione del COVID-19

La strada indicata dal GDPR
         REGOLAMENTO (UE) 2016/679 del 27 aprile 2016 - considerando 26

■ Principi di protezione dei dati applicabili a tutte le informazioni relative a una
  persona fisica identificata o identificabile.
■ I dati personali sottoposti a pseudonimizzazione: se attribuibili a una persona fisica
  mediante l'utilizzo di ulteriori informazioni, sono considerati informazioni su una
  persona fisica identificabile.
■ I principi di protezione dei dati non si applicano a informazioni anonime (=
  informazioni che non si riferiscono a una persona fisica identificata o identificabile)
  o a dati personali resi sufficientemente anonimi in modo da impedire
  l'identificazione dell'interessato.
■ Il GDPR si applica pertanto al trattamento delle informazioni anonime, anche per
  finalità statistiche o di ricerca.

Cosa offre il web? La «sfida di Alexa»

La qualità dei dati:
  il riutilizzo dei dati del settore pubblico come risorsa
                        positiva per la IA
■ La direttiva UE 2019/1024, Open Data, sul riutilizzo delle informazioni del settore
  pubblico: sostituisce la direttiva Public Sector Information 2003/98/CE del 17
  novembre 2003
■ l'informazione del settore pubblico (PSI) come risorsa per l'economia digitale
■ Utilizzare anche i dati personali in possesso delle amministrazioni?
■ Tecniche di anonimizzazione
■ Le tensioni restano
■ Commissione AIDA: «AI systems are at odds with the information duties laid down in
  the GDPR as well as certain of its principles, including purpose limitation, data
  minimisation and restrictions on secondary use”

L’estrazione dei dati a fini commerciali:
basta il GDPR?
■ I principi e la prassi
■ La difficile garanzia dei principi:
■ - principio di minimizzazione dei dati (art. 5.1., lett. c)
■ - garanzia della libertà del consenso: art. 7(4) GDPR
■ La libertà del consenso è pregiudicata nel caso in cui l'esecuzione del contratto sia
  condizionata al consenso al trattamento di dati, non necessario all'esecuzione di
  tale contratto

Che succede sul mercato?

■ I giganti del Tech e gli investimenti in IA: Google, Apple, Facebook, Microsoft,
  Amazon
■ Dal 2007, Alphabet (parent company di Google) compra 30 aziende di IA:
  riconoscimento delle immagini, human-sounding computer voices
■ 2014: acquisto di DeepMind
■ Dati 2016: Amazon ha speso 30 miliardi di dollari per la ricerca, lo sviluppo e le
  acquisizioni legate all'IA

Gli investimenti

■   1. Google – $3.9 billion
■   2. Amazon – $871 million
■   3. Apple – $786 million
■   4. Intel – $776 million
■   5. Microsoft – $690 million
■   6. Uber – $680 million
■   7. Twitter – $629 million
■   8. AOL – $191.7 million
■   9. Facebook – $60 million
■   10. Salesforce – $32.8 million

Le acquisizioni di start-up da parte di
Big Tech
■   1. Nest Labs – $3.2 billion
■ 2. Kiva Systems – $775 million
■ 3. Otto – $680 million
■ 4. Deep Mind – $500 million
■ 5. TellApart – $479 million
■ 6. Movidius – $400 million
■ 7. Nervana – $350 million
■ 8. SwiftKey – $250 million

Un passo indietro per capire:
innovazione tecnologica e disruption
■ Il successo e la forza delle piattaforme
■ Quasi monopolio dei dati
■ La sfida alla regolazione

Big tech: operano trasversalmente

■ Core abilities (Apple nell’hardware, Amazon nella vendita al dettaglio on line, Google
  nei motori di ricerca)
■ sfruttate per entrare in nuovi mercati
■ Google Shopping:
■ il potere sul mercato dei motori di ricerca utilizzato per un mercato vicino, i servizi di
  shopping comparativo

I gatekeeper: controllano l'accesso a servizi
online cruciali per raggiungere gli utenti.
■ Per distribuire le loro app agli utenti di dispositivi iOS, gli sviluppatori debbono
  passare per App Store: App Store “controlla” l'accesso agli utenti iOS (Apple non
  ammette sui dispositivi iOS altri app store).
■ Google: è difficile per le imprese competere senza il traffico di ricerca generato da
  Google.
■ Amazon: l'accesso alla sua piattaforma è vitale per molti rivenditori

Vincitori che prendono tutto

■ rendimenti di scala, esternalità di rete (più aumenta il numero degli utenti, più si
  accresce per questi ultimi il valore della piattaforma), pluralità dei servizi offerti
■ “ecosistemi digitali”:
■ l’efficienza del servizio spinge il singolo ad accettare le condizioni di uso senza
  considerare gli effetti del tracking condotto grazie allo sfruttamento dei dati
  generati.

Il “privacy paradox”

■ le grandi piattaforme elaborano i dati raccolti in più mercati → predizioni sempre
  più attendibili sulle preferenze dell’utente
■ mercato pubblicitario personalizzato
■ benefici per lo small business
■ Più l’ecosistema diventa esteso ed efficiente, sempre meno il consumatore ha
  motivo di cercare alternative.

E la concorrenza?

■ Rischio anticoncorrenziale:
■ riduzione della qualità dei servizi digitali offerti
■ esclusione dei concorrenti: effetto di blocco determinato dalle esternalità di rete.

Cosa ha fatto
               (e continua a fare) l’antitrust
■ Sanzioni pecuniarie inflitte a Google dalla Commissione UE
■ casi Google search (Shopping) 2017, Google Android 2018 e Google Search
  (AdSense) 2019
■ USA: indagini e azioni legali
■ contro Google, promosse dal Dipartimento federale della giustizia
■ contro Facebook, Federal Trade Commission e 48 procuratori generali statali per
  violazione della Section 2 dello Sherman Act.

Bastano le sanzioni pecuniarie?

■ le sanzioni pecuniarie non riescono a modificare la policy d’impresa
■ alti margini di profitto: i tech Giants occupano 7 delle prime 10 posizioni, per valore
  di mercato, delle imprese mondiali

Le riforme UE: DSA

■ DSA: piattaforme online obbligate:
■ a introdurre una procedura di esame dei reclami degli utenti il cui contenuto è stato
  rimosso, con possibile gravame dinanzi a un organismo imparziale per la risoluzione
  extragiudiziale delle controversie, certificato dal Coordinatore dei servizi digitali dello
  Stato membro (l’autorità designata per garantire l’applicazione del regolamento)
■ piattaforme di grandi dimensioni (quelle con oltre 45 milioni di utenti attivi mensili
  medi nell’UE): supervisione rafforzata.
■ Le grandi piattaforme valutano il rischio relativo ai contenuti illegali sui loro servizi;
■ attuano misure di mitigazione dei rischi individuati;
■ assicurano trasparenza sugli annunci che compaiono sui servizi

DMA: piattaforme gatekeeper

■ monitoraggio della Commissione:
■ rimedi comportamentali e strutturali (extrema ratio: test d’indispensabilità e dopo
  una systematic non-compliance).
■ obblighi puntuali all’art. 5 tra cui il divieto – che ha dietro il caso
  Facebook/BKartAmt – di combinare i dati personali di diversa provenienza (e cioè i
  dati generati usando i core platform services e gli altri servizi offerti dal gatekeeper
  e i dati da third-party services) .
■ Ulteriori vincoli specificati attraverso il “dialogo normativo” con il gatekeeper (art. 6):
■ Es.: divieto di auto-preferenza nelle classifiche: v. caso Google Shopping;
■ obbligo di garantire la portabilità/interoperabilità dei dati

L’antitrust tedesco contro Facebook

■ Ufficio federale cartelli: istruttoria iniziata nel 2016 e conclusasi nel 2019
■ contesta a Fb di usare e combinare senza il valido consenso dell’utente (artt. 6 e
  7(4) GDPR) i dati generati accedendo alla piattaforma con quelli off Facebook
■ Imposizione di condizioni generali di contratto: abuso di sfruttamento

Una battaglia giudiziaria in corso

■ La Corte di Düsseldorf
■ Il Tribunale supremo:
■ sfruttamento degli utenti:
■ il mix dei dati estensione del servizio imposta dall’impresa senza il valido consenso
  dell’utente
■ effetti orizzontali anticoncorrenziali di tipo escludente

I dubbi della dottrina

■ I critici del BundesKartA:
■ il danno si configura in termini specifici nei diversi settori normativi (antitrust, tutela
  del consumatore, protezione dei dati personali),
■ necessità di identificare il giusto approccio giuridico:
■ condotta che crea danni riducendo l'efficienza economica: leggi antitrust;
■ se il danno potenziale riguarda l’accordo particolare tra impresa e singolo
  consumatore, protezione del consumatore;
■ violazione delle norme per la protezione dei dati personali: GDPR

Facebook e vita sociale

■ Trib. Supremo tedesco:
■ «Il diritto costituzionalmente garantito all'autodeterminazione informativa richiede la
  protezione dell'utente contro lo sfruttamento, considerata l’importanza politica,
  sociale ed economica della comunicazione su Internet, e la portata e la profondità
  dei dati che ne derivano»
■ mittelbaren Drittwirkung dell’art. 3, comma 1, Grundgesetz
■ i diritti fondamentali devono essere considerati nell'interpretazione delle clausole
  generali di diritto civile, cui va ascritta la sez. 19 legge sulla concorrenza

La posta in gioco in BundesKartelAmt v.
Fb
■ Non più sanzioni pecuniarie
■ Si chiede di cambiare il business model: minaccia alla autonomia di Big Tech
■ Si pronunzierà la Corte di giustizia UE
■ Freddezza della Commissione UE sulla decisione del BKartA:
■ Il rischio di frammentazione della disciplina giuridica dei Big tech per effetto di
  iniziative nazionali
■ La Commissione punta alla regolazione ex ante

Conclusioni:
             le questioni che si intrecciano
■ Regolazione
■ Difesa dei valori fondamentali
■ Garanzia del mercato concorrenziale da spinte oligopolistiche
■ Verso un «modello europeo» distinto da quello USA e da quello cinese