Una Riflessione Teoretica sull'Automazione della Scienza - Marta Bertolaso Università Campus Bio-Medico di Roma Prof.ssa di Filosofia della ...
←
→
Trascrizione del contenuto della pagina
Se il tuo browser non visualizza correttamente la pagina, ti preghiamo di leggere il contenuto della pagina quaggiù
Una Riflessione Teoretica sull’Automazione della Scienza Marta Bertolaso Università Campus Bio-Medico di Roma Prof.ssa di Filosofia della Scienza Unità di Ricerca: Philosophy of Science and Human Development
AUTOMAZIONI
AUTONOMIE
AUTONOMIE
ACCESSIBILITA''
Intelligenza Artificiale e Impresa Scientifica La costitutività delle tecnologia nella pratica umana, è qualcosa che in filosofia è stato ormai ampiamente sdoganato. Fenomenologia, Antropologia, Estetica, Filosofia del Linguaggio e Filosofia della Scienza, hanno riconosciuto il ruolo strutturale della tecnica per l’agire (e più in generale per l’esperienza) degli esseri umani.
Intelligenza Artificiale e Impresa Scientifica • Automated Scientific Method (metodo di automazione scientifica)à Qualsiasi tecnologia applicata alla ricerca le cui operazioni possono essere implementate senza l’intervento umano oltre il cominciamento e se necessario l’addestramento del processo. • Tecnologia à Un tipico esempio attuale è fornito dalle reti neurali profonde (Deep Neural Netrowks - DNNs) e Machine Learning (ML)
Intelligenza Artificiale e Impresa Scientifica Epistemologia & Pratica Scientifica Questione etiche e risvolti epistemologici. La tendenza ad automatizzare la scienza, finirà col danneggiare l’impresa scientifica e la ricerca?
Intelligenza Artificiale e Impresa Scientifica
Pregiudizio antropocentrico?
La scienza come attività primariamente umane.
Creatività e imprevedibilità della ricerca scientifica.
Dal progresso all’avanzamento scientificoIntelligenza Artificiale e Impresa Scientifica Automazione e mansioni pesanti e ripetitive In questi termini, il problema dell’automazione della scienza si risolverebbe in una questione di saggia applicazione delle tecnologie.
Intelligenza Artificiale e Impresa Scientifica I vantaggi dell’automazione Al di la dei compiti più ripetitivi, ci sono specifiche applicazioni in cui l’utilizzo di metodi automatici può quantitativamente essere dimostrato come migliore. Compiti di classificazione in ambito diagnostico. Già all’inizio degli anni 2000, metodi di machine learning come Naïve Bayes e le prime reti neurali, superavano in accuratezza i loro concorrenti medici nel classificare singoli casi di ischemia cardiaca. Anche nei compiti di predizione, le reti superano gli esseri umani. L’accuratezza nella stima del tasso di predisposizione, recidività e mortalità, supera quella umana del 15-20% (dati da Korou et al. 2015)
Intelligenza Artificiale e Impresa Scientifica Cosa (non) possono fare le machine? La cognizione umana, sviluppatasi in un lungo percorso culturale e sociale, anche con l’ausilio della tecnica, è molto duttile. L’essere umano può elaborare e adottare diversi metodi di ragionamento e rappresentazione (modello statistico, inferenza, dimostrazione matematica, metodo sperimentale, prova ed errore ecc.) Quella di estendere e adattare le proprie rappresentazioni (ad esempio i concetti di flessibilità, tensione e carico) ad ogni oggetto possibile, è probabilmente la caratteristica che forse più di ogni altra ha permesso il fiorire della civiltà e con essa delle scienze.
Intelligenza Artificiale e Impresa Scientifica Cosa (non) possono fare le machine? Due domande: • I sistemi automatici, gli algoritmi, le reti neurali, possiedono questa duttilità? • Dal momento che le reti neurali comportano rappresentazioni opache delle feature su cui vengono addestrate, è possibile per l’essere umano adattarsi a queste modalità rappresentative o ci troviamo di fronte ad una incompatibilità di principio?
Intelligenza Artificiale e Impresa Scientifica Due Concezioni di Scienza Concezione intellettualista Il principale scopo dell’attività scientifica è fornire conoscenza sul mondo e portare alla comprensione del suo funzionamento. Concezione pratica Il principale scopo dell’attività scientifica è fornire metodi e mezzi per prevedere i fenomeni e manipolarli.
Intelligenza Artificiale e Impresa Scientifica Obiezioni all’automazione della concezione intellettualista: Il problema della comprensione Allontanare l’essere umano dal centro dell’impresa scientifica potrebbe dar luogo a riduzioni della comprensione del mondo e dei fenomeni. L’incapacità di comprendere i prodotti dei processi di ricerca automatica escluderebbe i ricercatori da gran parte dell’attività scientifica. Il problema dell’errore La possibilità di rinvenire errori potrebbe drasticamente calare se i ricercatori non sono più integralmente coinvolti nel processo di ricerca. Il problema delle applicazioni Una mancanza di integrazione dei ricercatori e una comprensione carente dei processi automatizzati non può non intaccare la possibilità di applicazioni concrete della ricerca. Il problema della creatività Come detto all’inizio, un certo quantitativo di imprevedibilità, adattamento e creatività, è un componente essenziale del lavoro di ricerca scientifico, che andrebbe perso nell’automazione.
Intelligenza Artificiale e Impresa Scientifica Obiezioni all’automazione della concezione pratica: Irrilevanza del problema della comprensione e del problema delle applicazioni La mancanza di una piena comprensione della carcinogenesi di molti tipi di cancro, o dell’eziologia del colere, non ha impedito una effettiva predizione e gestione di questi fenomeni. Inoltre, la chimica ha mosso i suoi primi e più importanti passi prima che la natura del legame chimico fosse compresa. In breve, i sostenitori della concezione pratica non riconoscono il bisogno (tipicamente realista) di una piena comprensione intellettuale dei fenomeni. Il primo e il terzo tipo di obiezione all’automazione non costituiscono veri problemi in quest’ottica. Il problema dell’errore e il correlato problema della creatività rimangono tuttavia pertinenti in questa concezione della scienza.
Intelligenza Artificiale e Impresa Scientifica Opacità epistemica e delle Rappresentazioni 1. L’utilizzo di tecnologie come le reti neurali comporta problemi di opacità epistemica. Sotto questa etichetta generale possono essere collocate le prime tre obiezioni finora considerate. Un processo è epistemologicamente opaco, relativamente ad un soggetto X al tempo t, nel caso in cui X non conosce (o se è per X impossibile conoscere) tutti gli elementi episemicamente rilevanti del processo in oggetto. 2. Esiste sempre qualche funzione che possa connettere degli input dati, ad una distribuzione di probabilità sugli output. La molteplicità di approssimazioni possibili, unita alla complessità delle funzioni stesse e dei metodi per calcolarle, rendono le rappresentazioni delle reti opache e inintelligibili all’intelletto umano.
Intelligenza Artificiale e Impresa Scientifica Epistemologia post-empirista I problemi di rappresentazione ci portano a toccare un altro tema importante legato alla automated science. I metodi di trattamento dei dati. Il post-empirismo attuale ha messo da parte la fiducia nell'osservazione diretta (considerata non oggettiva), e promuove l’idea che i dati forniti dagli strumenti possano rivelarsi oggettivi, in misura non raggiungibile dall’osservazione umana. Speranza vana?
Intelligenza Artificiale e Impresa Scientifica Epistemologia post-empirista La manipolazione dei dati è un fatto comune quando si ha a che fare con grandi data-set. Sebbene il processamento sia automatizzato, le scelte operate dai ricercatori invalidano il ragionamento post-empirista, infrangendone le premesse. Non solo, oltre al fatto che nell’addestramento supervisionato il materiale di addestramento è redatto (etichettato) da esseri umani, bisogna osservare che l’alterazione dei dati, la loro accurata selezione, produce risultati migliori rispetto a dati grezzi.
Intelligenza Artificiale e Impresa Scientifica Approccio Data-Driven L’epistemologia finora denominata come post-empirista, ha due versanti. Uno che potrebbe essere definito di senso comune, ovvero una posizione non filosoficamente informata, ma basata sul semplice utilizzo delle tecnologie. È il caso di Chris Anderson e del suo famoso articolo apparso su Wired. Il post-empirismo di senso comune afferma, come Anderson nel suo articolo (2008), che le teorie scientifiche umane diventeranno presto obsolete, in particolare nelle scienze sociali: Who knows why people do what they do? The point is they do it, and we can track and measure it with unprecedented fidelity. With enough data, the numbers speak for themselves.
Intelligenza Artificiale e Impresa Scientifica DNN – Classificazione e Regressione Ricapitoliamo velocemente le due applicazioni principali delle reti neurali.
Intelligenza Artificiale e Impresa Scientifica DNN – Classificazione Partendo da un dataset di immagini di capi d’abbigliamento vogliamo distinguerne la tipologia (scarpa, maglietta, camicia ecc). In input entrano le immagini, praticamente delle matrici di numeri. Le etichette saranno le classi di appartenenza, il nome del capo. I parametri della rete saranno addestrati in modo tale che la rete possa predire a quale classe appartiene l’oggetto raffigurato.
Intelligenza Artificiale e Impresa Scientifica DNN – Regressione Nei compiti di regressione, la rete deve interpolare dati mancanti. Un tipico esempio: mettiamo di avere un dataset che raccoglie informazioni sulle case della nostra città. Ogni elemento avrà vari attributi (dimensioni, piano, distanza dal centro della città, classe energetica). Un altro attributo, che però utilizzeremo come label, è il prezzo. Immettendo gli attributi degli elementi come input e il prezzo come output, la rete sarà in grado di predire il prezzo di altre case della stessa città. In questo caso, è importante notare che il prezzo, a differenza delle classi del primo esempio, è una misura continua, non una classe. Dunque in questo caso il compito della rete è diverso.
Intelligenza Artificiale e Impresa Scientifica DNN – Clustering È possibile anche effettuare operazioni di clustering sui dati in modo da cercare di trovare regolarità finora non notate. È una operazione comune ma anche controversa perché non è sempre chiaro a quali tratti comuni, regolarità, strutture, l’algoritmo dia importanza nel processo di clusterizzazione. Tuttavia alcuni studiosi considerano questa operazione una possibile fonte di nuove scoperte.
Intelligenza Artificiale e Impresa Scientifica Assunzioni base dell’approccio data-driven Ciò che cercheremo di dimostrare è che, partendo da assunti empiristi si arriva necessariamente all’approccio data-drive, e una volta conclusosi questo passaggio, risulta davvero difficile argomentare contro l’idea che le macchine alla fine rimpiazzeranno l’essere umano nella pratica scientifica. L’assunto base dell’empirismo richiede che la conoscenza sia verificabile in via di principio. Questo assunto generale è un ottimo strumento contro le pretese metafisiche. Nello specifico, una formulazione più precisa di questi assunti è rintracciabile nel positivismo e nel positivismo logico (Suppe 1974). Secondo queste correnti di pensiero (cfr. Mach), l’oggetto principale delle teorie scientifiche è al regolarità dei fenomeni.
Intelligenza Artificiale e Impresa Scientifica Assunzioni base dell’approccio data-driven ü Regolarità ü Spiegazione ü Dati e fenomeni ü Teorie e Modelli
Intelligenza Artificiale e Impresa Scientifica Assunzioni base dell’approccio data-driven – Dati e fenomeni I fenomeni dunque possono occorrere fuori dal setting sperimentale, e possono essere identificati per mezzo di differenti procedure, basate su differenti tipi di dati. I dati dal canto loro, riflettono l’influenza di molti fattori causali, inclusi fattori non direttamente pertinenti per il fenomeno oggetto di studio (questi fattori dipendono dagli strumenti adottati e dall’impostazione dell’sperimento).
Intelligenza Artificiale e Impresa Scientifica Assunzioni base dell’approccio data-driven – Realismo vs empirismo Il punto è che i fenomeni consistono di una serie di aspetti eterogenei in relazione fra loro, generati da un numero di operazioni intellettive e sensibili da parte degli esseri umani. Non si tratta di meri modelli statistici. Inoltre, la stessa produzione dei dati si verifica in un processo triangolare, che comprende lo sviluppo del setting sperimentale insieme alle tecniche di misurazione e la costruzione di un apparato teorico per lo studio del fenomeno (per la sua costituzione in quanto tale, non si tratta di una appendice a parte).
Intelligenza Artificiale e Impresa Scientifica Assunzioni base dell’approccio data-driven – Realismo vs empirismo Conclusioni: Dunque i dati, il fenomeno e la teoria, come pure le interpretazioni delle misurazioni e quanto altro abbiamo elencato sono aspetti dell’impresa scientifica che si sviluppano in una relazione reciproca intrinseca. Non si può avere un aspetto senza l’altro. Chi dice il contrario effettua una operazione di rimozione, riuscendo senz’altro a occultare una parte di ciò che fa, come nell’epistemologia empirista, nientemeno quegli aspetti eterogenei rimangono al loro posto. Se l’utilizzo di tecnologie sempre più innovative anche in ambito scientifico non va scoraggiato, è importante, come esseri umani e come persone di scienza, mantenere vivo quel continuo dialogo e processo di chiarificazione dei presupposti epistemologici di ogni impresa scientifica. Una mancanza di chiarezza in tali presupposti può facilmente portare a conclusioni paradossali, come quella dell’identificazione fra dati e fenomeni o fra pattern/modello e spiegazione scientifica.
“Solo se abbiamo
ABITARE LA la capacità di abitare
COMPLESSITA’ possiamo costruire”
Heidegger, Costruire abitare pensareIntegrated vs Individualistic Frameworks
Social Persons - Relational Dependency Agency - Autonomy
Adequate technical interventions – Appropriate for Capabilities
relational and temporal human condition Empowerment – Human Rights
Empowering Presence - Proactive Participation
Techn
Interv
ic a l
ention
Institutional
Framework
Technical
Interventi
ons
tional
Institu ork
Frame
w Relevant
Subjects
Relevant
SubjectsLa provocazione … diversi?
Laurea Honoris Causa
per le scimmie?
+Versione raffinata di
“pensa prima di agire ….”
1911-2008References
• Anderson, C. 2005. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete.
https://www.wired.com/2008/06/pb-theory/
• Bogen, J., J. Woodward. 1988. Saving the Phenomena. The Philosophical Review 97(3): 303 – 352.
• Bertolaso, M., F. Sterpetti. 2020. A Critical Reflection on Automated Science: Will Science Remain Human? Springer.
• Cybenko, G. 1989. Approzimation by Superpositions of a Sigmoidal Function. Mathematics of Control, Signals and
Systems 2(4): 303-314.
• Duhem. 1954. The Aim and Structure of Physical Theory. Princeton University Press.
• Gylmour, B. 2002. Data and Phenomena: A Distinctions Reconsidered. Erkenntnis 52: 29 – 37.
• Hempel, C.G. 1962. Explanation in Science and Philosophy. Frontiers of Science and Philosophy.
• Korou, K., T.P. Exarchos, K.P. Exarchos, M.V. Karamouzis, and D.I. Fotiadis. 2015. Machine Learning Applications in
Cancer Prognosis and Prediction. Computational and Structural Biotechnology Journal 13: 8-17.
• McAllister, J.W. 2011. What Do Patterns in Empirical Data Tell Us About the Structure of the World? Synthese 182(1): 73
– 87.
• Suppe, F. 1974. The Structure of Scientific Theories.
• Van Fraassen, B.C. 1977. The Pragmatics of Explanation. American Philosophical Quarterly 14: 143 – 150.Puoi anche leggere
