ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS

Pagina creata da Laura Bucci
 
CONTINUA A LEGGERE
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
In che senso i miei dati sono esatti?
Riflessioni sull’esattezza dei dati e accuratezza nel diritto
della protezione dei dati personali

Elisabetta Biasin
Centre for IT & IP Law (CiTiP) – imec

Bicocca Privacy Day
26/01/2023
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Contents

                        In che senso i miei dati sono esatti?
    Riflessioni sull’esattezza dei dati e precisione nel diritto della protezione dei
                                     dati personali

                                                              Abstract

    Il principio della esattezza dei dati è relativamente poco studiato o trattato in maniera poco comprensiva nella letteratura europea in
    materia di protezione di dati personali. Questa presentazione mira a fornire una breve panoramica relativamente al progetto
    dottorale ‘Reconsidering the conceptualisation of accuracy as a principle of data processing’ (Biasin 2021-2024).La tematica verrà
    affrontata con un approccio divulgativo, finalizzato ad esporre le possibili problematiche relative al principio di esattezza dei dati
    tramite un caso d’uso (ad esempio, dati e profilazione su Spotify, app mestruali). Verranno esposte le criticità, i dubbi e le questioni
    aperte – che includono lo stesso concetto di ‘esattezza’ (anche alla luce della recente giurisprudenza UE), le possibili conseguenze
    negative legate ad essa (come la falsa rappresentazione dell’interessato) e le tensioni con il principio di auto-determinazione
    informazionale noto nell’ordinamento giuridico tedesco e fatto proprio dalla tradizione costituzionale europea.

2
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Ricerca
    Riconsiderazione la concettualizzazione
    dell’esattezza/precisione come principio della
    protezione dei dati

    Analisi del ruolo del principio dell’esattezza in
    relazione ad altri principi di trattamento dei
    dati e ai diritti degli interessati.

    Esame del ruolo del principio di esattezza
    rispetto ai potenziali rischi di falsa
    rappresentazione e discriminazione

3
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Introduzione

4
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Personalizzazione

                                  Inferenze
             Dati

                        Predizione

5
                          Photo by Shubham Dhage on Unsplash
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Esempio
Spotify Wrapped

6
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Personalizzazione   “I tuoi brani preferiti”

                      7
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Dati

       Ammontare degli ascolti

          Statisiche e percentuali

               8
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Inferenze

            Tag legati alla musica ascoltata

                9
ELISABETTA BIASIN CENTRE FOR IT & IP LAW (CITIP) - IMEC - IN CHE SENSO I MIEI DATI SONO ESATTI? - LIRIAS
Predizione
/ Presunzione

                Presunzione del mio “mood”

                       10
Osservazioni

11
(In che modo) queste inferenze riflettono la realtà?

12
Le inferenze

               “Da caffé francese”

                           Non sempre
                           sono precise
                    13
I dati
(e categorie)
                Categoria: “brani preferiti”
                Realtà: brani frequentemente ascoltati
                durante allenamenti di corsa

                             Non sempre
                             riflettono la
                                    realtà
                     14
I profili

               Possono non
                     essere
             rappresentativi
                della realtà
            15
I profili

            Categoria “avventura lover”
                                                E possono non
                                          corrispondere a ciò
                                           in cui le persone si
                                                    identificano
                                                             16
La prospettiva del diritto
Considerazioni

17
Data Accuracy

                                              AI Accuracy

                         Esattezza dei dati

          Data Quality

18
AI Accuracy

                            ≠
                        Accuratezza

     Medical devices’
     Accuracy

19
Cos’è?
                                                        Principio nella protezione dei dati

                                                        Perché?
                                                        Rilevanza scientifica
                                                        Poco esplorato in letteratura
                                        Focus:
                                   Esattezza dei dati

Può essere connesso ad aspetti importanti
Come discriminazione o falsa rappresentazione

                                                                       (Biasin, 2021; 2022)

  20
I dati personali sono
     esatti e, se necessario, aggiornati; devono essere
     adottate tutte le misure ragionevoli per cancellare o
     rettificare tempestivamente i dati inesatti rispetto alle
     finalità per le quali sono trattati

21
Is it a self-explanatory concept?

“Coccodrillo della protezione dei dati”
(Hallinan
   22     & Borgesius, 2018)
                                                                   Shelly Collins on Unsplash
Presente negli strumenti normativi
                            nazionali, internazionali ed europei
     23
Floriane Vita on Unsplash   dall'ultimo quarto del '900.
I dati personali sono
     esatti e, se necessario, aggiornati; devono essere
     adottate tutte le misure ragionevoli per cancellare o
     rettificare tempestivamente i dati inesatti rispetto alle
     finalità per le quali sono trattati

                                                                 (Dimitrova, 2020)

24
Se il Dato è inesatto
                              Rischi

     Discriminazione                    Falsa rappresentazione

25
(Nature, 2019)

                      (The Verge, 2020)

26
Accuracy
                                                            Fairness

(Finck & Biega, 2021; Hallinan & Borgesius, 2018; Hoeren, 2018; Clifford & Ausloos,272018)
Low
               Accuracy     High
                          Accuracy

                                     28
(Chen, 2018)
Se il Dato è inesatto
                              Rischi

     Discriminazione                     Falsa rappresentazione

29
Falsa rappresentazione
 (esempio: Wellness Apps
 /App mestruali)

                                                        (Orientamento sessuale)

                                                                  >< Auto-determinazione
(Hallinan & Borgesius, 2018; Van Alsenoy et al, 2014)                     informazionale
                                                                                      30
Falsa rappresentazione
(esempio: Wellness Apps
/App mestruali)

                                Genere (M/F)

                                      >< Controllo
                          >< Auto-determinazione
                                  informazionale
                                                31
Falsa rappresentazione
  (esempio: Wellness Apps
  /App mestruali)                                   Screenshot (mio test)

                                                    Genere (M/F)

                                                   Rischi per la salute
(Cirillo et al, 2022; Siapka & Biasin, 2020)   (v. Medicina di Genere)
                                                                            32
European Health Data Space

                             33
Secondary use of personal data
                      Electronic Health Record

                                Data Quality

(Slokenberga, 2022)

                                            34
Conclusioni e prospettive

35
Conclusioni
     - Esattezza: principio di protezione dei dati
     - Accuratezza: requisito legato alla performance delle
       tecnologie

     - Rappresentazione della realtà: dipendente da
       finalità e contesto e non è neutrale

     - Meccanismi legati all’inesattezza e inaccuratezza
       possono portare a
        - Discriminazione
        - Falsa Rappresentazione
        - Ulteriori rischi: es. salute
36
Prospettive

         - In vista degli sviluppi delle nuove normative in
           materia di dati: ulteriore rilevanza e evoluzione del
           concetto per come lo conosciamo

         - Consapevolezza della portata (anche relativamente
           a potere/politica): necessità di salvaguardare la
           facoltà di controllo dell’interessato dei dati

        - Precauzione (principio di): verso atteggiamenti di
          fiducia acritica nei processi automatizzati

     (Lalova-Spinks, 2021; Hildebrandt, 2023)

37
The computer’s image of infallibility often leads people to accept its output
unthinkingly.
This is unfortunate. Just because data is stored in a computer doesn’t make it
accurate.
a problem that always has inherited in the compilation of personal information – the danger of relying on
‘soft’ or subjective data for human evaluations or decision-making.

Example: (psychological tests) despite [their] apparently authoritative character, a substantial number
of people in the scientific community question their ability to reflect accurately the complexities of an
individual’s beliefs and attitudes.

The centralization of information from widely divergent sources also creates serious problems of
contextual accuracy. Information can be entirely accurate and sufficient in one context and wholly
complete and misleading in another.
38
1969
 (Miller)

39
Grazie per l’attenzione!

              PI: Prof. dr. Anton Vedder                    Elisabetta Biasin
          KU Leuven Centre for IT IP Law                    Doctoral Researcher KU Leuven Centre for IT IP Law
                                                            Stanford Law School TTLF Fellow
                                                            EMA External Collaborating Expert on Data Protection of
                                                            Big Data and Real-World Data

                                                            Elisabetta.biasin@kuleuven.be
                                                            @bisilisib
                                                             +32 16 37 77 73

                  These slides are released under the following Creative Commons Licence:Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA 4.0)

 40
References
Biasin, E. (2022). About Accuracy (And Its Meaning In Data Protection). KU Leuven CiTiP Blog.
Biasin, E. (2021). Why accuracy needs further exploration in data protection. In Proceedings of the 1st
International Conference on AI for People: Towards Sustainable AI. EAI. https://doi.org/10.4108/eai.20-11-
2021.2314205
Chen, J. (2018). The Dangers of Accuracy: Exploring the Other Side of the Data Quality Principle. European
Data Protection Law Review, 4(1), 36–52. https://doi.org/10.21552/edpl/2018/1/7
Clifford, D., & Ausloos, J. (2018). Data Protection and the Role of Fairness. Yearbook of European Law, 37(1),
130–187. https://doi.org/10.1093/yel/yey004
Dimitrova, D. (2021). The Rise of the Personal Data Quality Principle. Is it Legal and Does it Have an Impact
on the Right to Rectification? SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3790602
Finck, M., & Biega, A. (2021). Reviving Purpose Limitation and Data Minimisation in Personalisation, Profiling
and Decision-Making Systems. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3749078
Fuster, G. G. (2010). Inaccuracy as a privacy-enhancing tool. Ethics and Information Technology, 12(1), 87–
95. https://doi.org/10.1007/s10676-009-9212-z

41
References
Hallinan, D., & Borgesius, F. Z. (2020). Opinions can be incorrect (in our opinion)! On data protection law’s
accuracy principle. International Data Privacy Law, 10(1), 10. https://doi.org/doi.org/10.1093/idpl/ipz025
Hildebrandt, M. (2023). Ground-Truthing in the European Health Data Space [Preprint]. SocArXiv.
https://doi.org/10.31235/osf.io/uw4nq
Hoeren, T. (2018). Big Data and Data Quality. In T. Hoeren & B. Kolany-Raiser (Eds.), Big Data in Context:
Legal, Social and Technological Insights (pp. 1–12). Springer International Publishing.
https://doi.org/10.1007/978-3-319-62461-7_1
Sex and gender bias in technology and artificial intelligence : biomedicine and healthcare applications. (2022).
Academic Press.
Siapka, A., & Biasin, E. (2021). Bleeding data: The case of fertility and menstruation tracking apps. Internet
Policy Review, 10(4). https://doi.org/10.14763/2021.4.1599
Slokenberga, S. (2022). Scientific research regime 2.0? Transformations of the research regime and the
protection of the data subject that the proposed EHDS regulation promises to bring along. Technology and
Regulation, 135-147 Pages. https://doi.org/10.26116/TECHREG.2022.014

42
References
Van Alsenoy, B., Kosta, E., & Dumortier, J. (2014). Privacy notices versus informational self-determination:
Minding the gap. International Review of Law, Computers & Technology, 28(2), 185–203.
https://doi.org/10.1080/13600869.2013.812594

43
Puoi anche leggere