Oltre l'etica: un approccio antropodecentrico all'intelligenza artificiale

Pagina creata da Gabriele La Rocca
 
CONTINUA A LEGGERE
RIVISTA INTERNAZIONALE DI FILOSOFIA E PSICOLOGIA                                                                       ISSN 2039-4667; E-ISSN 2239-2629
DOI: 10.4453/rifp.2020.0016                                                                                                Vol. 11 (2020), n. 2, pp. 251-258

  TEMI ED EVENTI

Oltre l’etica: un approccio antropodecentrico
all’intelligenza artificiale
Selenia Anastasi(α) & Alberto Giovanni Biuso(α)
Ricevuto: 9 ottobre 2019; accettato: 28 luglio 2020

█ Riassunto Sviluppandosi sul piano della “prevenzione del rischio”, dei “livelli di controllo” in fase di
programmazione e del possibile inserimento dei cosiddetti “algoritmi etici”, il dibattito sul presente e il
futuro dell’Intelligenza Artificiale, ha favorito nel corso degli anni la creazione di una sempre più profon-
da spaccatura tra discipline “tecniche” e saperi “umanistici”, tra il dominio del “fare” e il dominio del
“pensare”. Prendendo atto di questa sterile distanza, occorre mettere in questione i metodi dell’etica e in-
terrogarsi sull’efficacia e l’utilità della teoria e, più in generale, meglio definire la relazione che la filosofia
oggi intrattiene – e potrà ancora intrattenere – con le macchine progettate per pensare e con i loro proget-
tisti.
PAROLE CHIAVE: Filosofia; Etica; Intelligenza artificiale; Cibernetica; Controllo

█ Abstract Beyond ethics: An anthropodecentric approach to artificial intelligence – The ethical and philo-
sophical debate around the present and future of Artificial Intelligence has grown in intensity over the
years. Continual development within AI in terms of “prevention of risks”, “levels of control in program-
ming”, and the inclusion of so-called “ethical algorithms”, has encouraged an ever deeper split between
“technicians” and “humanists”, between the domains of “making” and “thinking”. Focusing on this un-
productive distance, we interrogate ethical approaches methods and the effectiveness and utility of ethical
theories. More generally, we attempt to better define the relationship that philosophy has today – and will
be able to maintain in the future tomorrow – with machines designed to think and with their designers.
KEYWORDS: Philosophy; Ethics; Artificial Intelligence; Cybernetics; Control

(α)
  Dipartimento di Scienze Umanistiche, Università degli Studi di Catania, Piazza Dante, 32 - 95124 Ca-
tania (I)
E-mail: seleniaanastasi@gmail.com (); agbiuso@unict.it

              Creative Commons - Attribuzione - 4.0 Internazionale - © Selenia Anastasi, Alberto Giovanni Biuso 2020
252                                                                                                Anastasi & Biuso

      Plaudiamo al progetto intelligente in tutti i settori e sin    leva su una visione tecno-progressista e fideisti-
   dall’infanzia aspiriamo a ottenere il riconoscimento per le
                                                                     ca, come il Transumanesimo Singolaritariano,
nostre creazioni. Una delle cose che abbiamo creato, a nostra
  immagine e somiglianza, è il concetto di Dio, il Progettista       l’Estropianesimo e l’Accelerazionismo, da alcu-
 Intelligente – tanto è il valore che attribuiamo ai progettisti     ni dipinti come veri e propri pericoli per il –
                                intelligenti nelle nostre società.   fin qui naturale – procedere inesorabile della
                         DANIEL DENNETT, Dai batteri a Bach          Storia.4
                                                                         Va evidenziato che queste perplessità so-
█ Il progetto                                                        no comuni non soltanto alle schiere dei pen-
                                                                     satori più conservatori, le cui personali affi-
     IL DESIDERIO PIÙ PROPRIO DI QUEL progetti-                      liazioni religiose e politiche minano spesso
sta naturale che chiamiamo Homo Sapiens di                           più obiettive capacità di giudizio, ma anche a
infondere la vita nella materia inanimata ha ra-                     figure di spicco del panorama tecnoscientifi-
dici remote e profonde – basti pensare ai miti                       co come Elon Musk, che ha spesso espresso la
ellenici di Dedalo, Prometeo, Efesto, al Golem                       sua apprensione nei riguardi delle possibili
della nota leggenda ebraica o ai primi tentativi                     conseguenze derivanti dalla diffusione di al-
quattrocenteschi di Leonardo da Vinci.1 Il fatto                     cune delle promettenti creature generate dalle
che alle soglie del XXI secolo questo traguardo                      tecnologie contemporanee. Automobili killer a
ci sia apparso così vicino, grazie all’accele-                       guida autonoma o intelligenze artificiali in
razione esponenziale della produzione di mac-                        grado di mettere a repentaglio interi settori
chine con prestazioni sempre più raffinate, ha                       economici ne sono alcuni esempi.
avuto e continua a esercitare un forte impatto
sulla nostra antropologia. Rimescola conti-                          █ La superintelligenza
nuamente le carte in gioco dei nostri sistemi
economici e delle nostre credenze, crea aspetta-                        In un recente scritto, anche il filosofo di
tive, timori e interrogativi inediti. È un mondo                     Oxford Nick Bostrom, un importante ex
nuovo, come già suggerì Aldous Huxley prima                          membro del movimento transumanista e
ancora che l’eco della domanda di Turing –                           fondatore del prestigioso Future of Humanity
«Che cosa accadrà se una macchina prenderà il                        Institute, mette in guardia molto chiaramente
posto di A nel gioco?»2 – riecheggiando di la-                       dai pericoli dell’imminente sviluppo di una
boratorio in laboratorio trovasse comoda di-                         Superintelligenza:
mora dentro i nostri immaginari già predisposti
all’accoglienza dalla Rivoluzione Digitale.                             If some day we build machine brains that
     Al contempo, la minaccia di hybris, intesa                         surpass human brains in general intelli-
nella sua accezione di tracotanza dell’essere                           gence, then this new superintelligence could
umano per aver assunto i pieni poteri che ap-                           become very powerful. And, as the fate of
partengono a quelle altre e più note divinità le                        the gorillas now depends more on us hu-
quali, per secoli, hanno contribuito a plasmare                         mans than on the gorillas themselves, so the
e nutrire le nostre paure, ammonisce i più ot-                          fate of our species would depend on the ac-
timisti e scoraggia dall’oltrepassare la fatale                         tions of the machine superintelligence.5
soglia di non ritorno apocalittica.
     Secondo Yuval Harari, di fronte a questi                            La sua tesi principale affonda in un co-
eventi «ci troviamo ancora nel momento della                         strutto teleologico molto discusso (Legge di
disillusione nichilista e della rabbia, quando la                    Moore), ma è interessante osservare come le
gente ha perso la fede nelle vecchie narrazioni,                     argomentazioni di Bostrom procedano for-
e prima che ne abbia abbracciata una nuova».3                        malmente impeccabili coadiuvate da moltis-
In effetti, uno dei segnali inequivocabili di tale                   simi esempi e giochi mentali, in equilibrio sul
passaggio di testimone è il diffondersi sempre                       filo sottile che separa l’entusiasmo speculativo
più capillare di ideali e sottoculture che fanno                     per queste macchine intelligenti dall’angoscia
Oltre l’etica                                                                                        253

di un ignoto avvenire in cui esse, ormai sfuggi-        forme di “umanesimo” si stiano diffondendo.
te a ogni controllo, riserveranno al genere                 A ciò si potrebbe facilmente obiettare che
umano lo stesso trattamento che per secoli egli         compito della filosofia è soprattutto quello di
ha rivolto agli altri animali. Il pericolo per Bo-      comprendere e, comprendendo, indirizzare
strom non risiede tanto nel fatto che queste            l’agire umano nella direzione più opportuna.
creature di circuiti e silicio possano, presto o        La questione risiede, non soltanto ma per lo
tardi, sviluppare un odio verso i loro creatori-        più, nel metodo di questa indagine e nella di-
padroni, ma nella possibilità più cogente che           sposizione adottata dall’esploratore nella terra
saremo per loro presenze del tutto indifferen-          di cui non possiede nozione. Se per Harari la
ti, entità innocue prive di qualsivoglia voce in        repulsione per lo “straniero artificiale” an-
capitolo, come per noi è del tutto irrilevante il       drebbe sostituita con un atteggiamento di
pensiero che una mucca sia separata dal pro-            perplessità,9 sono in molti a credere che sia in-
prio neonato, destinato a morte prematura e a           vece la curiosità l’unica disposizione di pensie-
diventare cibo per la nostra specie. E tuttavia         ro adatta a un approccio scientifico (esempla-
tali indicazioni costituirebbero per noi animali        re la posizione di Daniel Dennett).10
umani un non trascurabile vantaggio; sarebbe
cioè possibile aggirare le minacce derivanti da         █ Il problema del controllo
una abdicazione integrale in favore della
“nuova specie”, se e quando consideriamo tutte              Il cosiddetto “problema del controllo” è
le “virtualità”6 inscritte nella filigrana dell’agire   largamente affrontato sia da Bostrom, il quale
presente. Il futuro non è più da intendersi come        propone una serie di soluzioni pratiche per ar-
un domani imprevedibile e aperto, ma come il            ginare il problema, sia dalla cinquantina di
«risultato di azioni, svolte nell’oggi, che in          esperti provenienti da vari settori della Com-
qualche modo possono definire la direzione – e          missione Etica dell’Unione Europea che, come
la forma – dello spazio temporale e culturale           già accennato, ponendo al centro l’essere
multiplo dei futuri possibili».7                        umano, riflettono le sue esigenze di sicurezza
     Del medesimo avviso sono anche le Linee            stilando una serie di principi teorico-pratici
Guida Etiche sull’Intelligenza Artificiale              che ogni sviluppatore dovrebbe (in linea di
dell’Unione Europea, redatte nel 2018, forti di         principio, ma senza alcun obbligo legale) tene-
un approccio antropocentrico che pone, anco-            re presente nel momento in cui progetta un
ra una volta, l’uomo dell’Umanesimo classico            sistema intelligente. La Trustworthy IA, in de-
– razionale, morale, prudente – saldamente al           finitiva, mira soprattutto a mitigare le angosce
vertice della gerarchia ontologica ed etica.            collettive e a conquistare la fiducia degli inve-
Mentre il mondo accademico, religioso e intel-          stitori e dei semplici fruitori, secondo i cinque
lettuale cerca di comprendere se l’intera que-          principi ideali di “Fare del Bene”, “Non fare
stione e le sue possibilità possano essergli a          del male”, “Rispetto del libero arbitrio
lungo andare di qualche convenienza – e, a              dell’utente”, “Equità” e infine “Trasparenza”.11
tale scopo, cosa andrebbe concesso e cos’altro          Da qui il sorgere delle critiche, eredi anche di
vietato di questi sviluppi –, d’altra parte, nei        temi ormai classici della fantascienza come le
maggiori laboratori di tutto il mondo gruppi            controverse Tre leggi della robotica di Asimov,
molto ben finanziati di ingegneri, informatici,         che ci avevano già mostrato come, in questi
genetisti, biologi, e scienziati cognitivi, sono        casi, l’applicazione alla lettera di un Principio
già da tempo al lavoro, affinché tali immagi-           potrebbe avere come risultato (o come indi-
nari si concretizzino, spinti anche da interessi        spensabile pre-requisito) la violazione integra-
politici ed economici con obiettivi non sempre          le di un altro. Più in generale emerge qui la
trasparenti o persino posti al di fuori e al di         storica fragilità di concetti come Bene, Male e
sopra dei pur blandi controlli.8 Non sorprende          Giustizia. Ancora una volta l’Etica sembra
che il fastidio o l’indifferenza verso queste           trovarsi impreparata, non possedendo la dota-
254                                                                                 Anastasi & Biuso

zione concettuale sufficiente e necessaria ad       do di raggiungere o prevedere le mosse di una
affrontare con efficacia queste nuove sfide.12      «mature intergalactic superintelligence».14
    D’altro canto il filosofo di Oxford ha op-
tato per un approccio più pragmatico, che           █ Sull’approccio etico all’intelligenza artifi-
analizza molteplici orizzonti di molto ante-           ciale15
riori, sulla base dei quali sviluppa al contem-
po una serie di azioni in grado di funzionare           È quindi vano ragionare per ipotesi, per-
sul lungo termine – sempre a patto che le si        ché qualsiasi soluzione preventiva, persino
attui ben “prima” che il pericolo Superintelli-     frutto di una mente razionale e morale, si
genza si concretizzi.                               dimostra a conti fatti più vicina al genere del-
                                                    la Science-fiction che alla Science propriamen-
   Capability control methods seek to pre-          te detta. Inoltre, scenari simili alimentano
   vent undesirable outcomes by limiting            forme di paranoia e pregiudizio che inficiano
   what the superintelligence can do. This          la contaminazione fertile tra campi di ricerca
   might involve placing the superintelli-          e non facilitano di certo il corretto inserimen-
   gence in an environment in which it is           to di tali strumenti – quand’anche indubbia-
   unable to cause harm (boxing methods)            mente utili al nostro benessere – nel tessuto
   or in which there are strongly convergent        della società, con esiti talvolta traumatici per
   instrumental reasons not to engage in            la psiche degli utenti meno preparati e più
   harmful behavior (incentive methods). It         sensibili a tali messaggi (si pensi al caso Blue
   might also involve limiting the internal         Whale, che ha colpito una generazione di
   capacities of the superintelligence (stunt-      giovani dagli 11 ai 15 anni o alle dipendenze
   ing). In addition, capability control meth-      da Social Network riscontrabili in fasce d’età
   ods might involve the use of mechanisms          più mature).
   to automatically detect and react to vari-           Se, però, l’Etica adotta metodologie obsole-
   ous kinds of containment failure or at-          te e incapaci di tenere il passo con la contem-
   tempted transgression (tripwires).13             poraneità veloce che ci attraversa e le letture
                                                    critiche, guidate da virtù come profondità e
    E, tuttavia, anche alla luce della precisione   prudenza, devono fare i conti con una pratica
con cui Bostrom descrive le sue possibili solu-     che le ignora o che supera (persino in positivo)
zioni, non è chiaro né se né come queste forme      le più fervide immaginazioni, qual è il ruolo e
di prevenzione possano essere applicate alla        il posto adatto per la filosofia oggi?
realtà. Resta infatti sempre aperto un margine          Una risposta a questa domanda può e deve
di probabilità che la Superintelligenza superi      prendere le mosse dallo statuto dell’umano nel
facilmente questi ostacoli, sviluppando forme       tempo della molteplicità macchinica, che è
di apprendimento adattivo, tipiche di tutti gli     sempre radicata nella molteplicità ontologica.
organismi intelligenti, i cui primi accenni         Stiamo infatti imparando che l’umano ha le-
scorgiamo già nelle reti neurali artificiali. Il    gami di identità e differenza con ogni altro en-
futuro dell’A-life pare risiedere, inoltre,         te; stiamo imparando che, con le sue proprie
nell’ibridazione sempre più profonda, grazie al     caratteristiche, limiti e potenza, egli rappre-
tramite della simulazione, tra organismi biolo-     senta soltanto una delle molte strutture – vi-
gici ed elementi macchinici, nanotecnologie,        venti e non viventi – che abitano il mondo.
algoritmi capaci di manipolare geni e molecole      Quella umana è una struttura né superiore né
in profondità, ambendo a eguagliare i mecca-        inferiore alle altre identità ma in relazione co-
nismi di omeostasi tipici dei viventi. È da te-     stante con tutto ciò che è diverso da sé e la cui
nere in considerazione, infine, che se il futuro-   esistenza la rende possibile e contribuisce a
logo ha ragione, non è detto che le nostre ca-      qualificarla.
pacità di calcolo strategico, oggi, siano in gra-       Per la filosofia e per le altre scienze si tratta
Oltre l’etica                                                                                      255

dunque di comprendere la costitutiva apertura         legame tra l’umano e ciò che egli produce
dell’essere umano all’alterità, senza la quale        come il ragno fila la propria tela, vale a dire le
l’umanità diventa un enigma, spiegabile solo          macchine, comprese le macchine che pensa-
con un qualche atto di fede. L’altro è l’animale,     no o che potrebbero pensare. Un nucleo che
l’altro è la macchina, l’altro è il sacro. Gli ani-   si sostanzia della complessità dell’umano e
mali, le macchine e il divino sono le dimensio-       della sua irriducibilità sia all’identità assoluta
ni dalle quali è emersa l’antroposfera. Il corpo      con il resto del mondo sia alla differenza al-
umano condivide la quasi totalità dei propri          trettanto assoluta, portatrice di dominio e
geni con altre specie della famiglia dei primati,     distruzione della comune casa che tutti i vi-
vive da sempre in una complessa e assai ricca         venti ospita.
relazione con gli strumenti da lui stesso pro-            Il paradigma postumano va coniugato con
dotti, affonda le radici nella terra dei simboli      la fondamentale asimmetria di un’umanità
che pervadono tutte le culture. Rispetto alla         plurale, che vive della e nella differenza, che
pretesa isolazionista della nostra specie, ab-        si muove non verso una qualche meta defini-
biamo pertanto bisogno di «una nuova erme-            ta, stabilita e voluta, ma in un costitutivo
neutica dell’alterità»16 che sappia confrontarsi      transitare che è anche il costante rischio del
nello stesso tempo e a fondo con la dimensio-         non pervenire. E quindi «se qualcosa siamo,
ne animale e con quella artificiale poiché la na-     siamo un passaggio in via di passarsi»,20 sia-
tura umana non è solitaria e autosufficiente,         mo cioè tempo incarnato, sia come individui
tanto meno padrona e signora del mondo.17             sia come specie, tempo consapevole di se
     Se dunque il paradigma postumano si può          stesso, nel quale il corpo individuale e collet-
certo declinare come iperumanismo antropo-            tivo si protende verso il futuro sulla base del-
centrico, esso risulta assai più fecondo quando       la memoria personale, filogenetica, ontogene-
si esplica come postumanismo antropodecen-            tica, storica.
trico.18 La prospettiva nella quale la teoresi va         Anche per la sua struttura temporale, un
collocata è comunque l’oltre dell’umano. È in-        cervello – naturale o artificiale che sia – non
fatti sterile porre barriere pregiudiziali – che      può limitarsi a eseguire programmi (sintassi)
siano di tipo religioso, etico o teoretico – a        ma deve essere poi in grado di individuare si-
eventi e processi che sono in atto e che costi-       gnificati (semantica) sulla base dei quali agire
tuiscono la realtà. Eventi e processi che non         nello spaziotempo (pragmatica). È anche que-
sono apparsi dal nulla e nel vuoto del presente       sto il fondamento della struttura aperta, stori-
ma che affondano nella continuità che la cul-         ca, evolutiva e infine “ibrida” della nostra spe-
tura greca ha riconosciuto e posto tra ciò che        cie. Un’ibridazione con l’alterità anche mac-
chiamiamo umano e tutto il resto del vivente.         chinica che nasce da una incompletezza che
Per i Greci, anche per Platone, l’umano è Ζῷον        non è un difetto da colmare (Gehlen) ma è
come ogni altra cosa viva. Come tutti, è corpo        una possibilità da vivere. L’antropo-poiesi, la
vivente.19 È quindi necessario coniugare anche        continua auto-costruzione di sé da parte
a livello epistemologico ciò che è ontologica-        dell’umano è una delle condizioni del progetto
mente unitario: il corpomente umano in con-           ibridativo, dello scambio continuo che
tinuità con ogni altro elemento della materia,        l’umano intrattiene con gli enti naturali e arti-
della natura, del mondo.                              ficiali, di quel congiungimento fra animali, og-
                                                      getti, protesi, simboli che costituisce sin
█ Per un approccio teoretico                          dall’inizio uno dei caratteri della specie. La
                                                      pratica ibridativa pone in crisi il paradigma
    Il nucleo teoretico, e non semplicemente          antropocentrico come ogni altra visione che
etico, del paradigma postumano abita nel ri-          separa ingenuamente uomo e natura, pensan-
conoscimento di questa reale, concreta, fatti-        do di poter conservare quest’ultima nella sua
zia continuità tra i viventi e quindi anche nel       purezza originaria. È la reciproca e incessante
256                                                                                    Anastasi & Biuso

contaminazione, piuttosto, a caratterizzare i         ci, delle somiglianze e delle differenze con al-
rapporti tra la specie che siamo e l’alterità che     tre analoghe fasi utopiche della storia collet-
ci costituisce.                                       tiva e a mantenere quindi il legame con il
    Nulla sarebbe stato possibile per la nostra       tempo che è stato, con un’umanità che “di-
specie senza questa sua natura poietica, capa-        venta ciò che è”. La formula di Pindaro vale
ce di approntare all’umano gli strumenti, la          infatti anche e ancora per il postumano.
trasformazione e gli scopi. La macchina è
strumento ma non è certo solo uno strumen-
                                                      █ Note
to. La macchina costituisce infatti anche una
tessitura metabolica che assume e trasforma           1
                                                        In questo saggio la nozione di intelligenza artifi-
ogni “datità” statico-materiale in un processo        ciale è utilizzata indistintamente per indicare tutti
guidato da intenzioni. In questo senso la             gli agenti artificiali che possono, sotto qualche
macchina è votata agli scopi, possiede un suo         aspetto o abilità, essere considerati autonomi, sia
intrinseco finalismo. È tale complessità e con-       quando integrati in una struttura fisica che inte-
sustanzialità della macchina all’umano a ren-         ragisce con l’ambiente (robot), sia quando sinte-
dere insufficiente ogni visione “soltanto”            tizzabili in una sequenza di stringhe di codice del
strumentale o antropocentrata della tecnica, la       tutto o quasi indipendente da un supporto hard-
quale è anche la prova che l’umano è un dispo-        ware. Per approfondimenti su storia ed evoluzio-
sitivo sin dalle origini immerso sia nella natura     ne della robotica si rimanda a L. DAMIANO, P. DU-
                                                      MOUCHEL, Vivre avec les robots. Essai sur l’empathie
che è e nella quale vive sia nell’artificio che è e
                                                      artificielle, Èditions du Seuil, Paris 2016 (trad. it.
con il quale sopravvive.                              Vivere con i robot. Saggio sull’empatia artificiale,
    L’oltre dell’umano sarà, perché l’umano è         traduzione di L. DAMIANO, Raffaello Cortina, Mi-
da sempre questo andare. L’osso utilizzato dal-       lano 2019). Per approfondimenti su caratteristiche,
la scimmia e poi scagliato fra le stelle a diven-     storia ed evoluzione dell’intelligenza artificiale si
tare astronave che solca gli spazi – celebre          veda M. MITCHELL, Artificial intelligence. A guide
scena kubrickiana – è la rappresentazione for-        for thinking humans, Farrar Straus & Giroux, New
se più chiara della “arcaicità” filogenetica e in-    York 2019.
                                                      2
sieme storica delle protesi, della loro natura          A.M. TURING, Macchine calcolatrici e intelligen-
consustanziale rispetto a quella del corpo,           za (1950), in: A.M. TURING, Intelligenza meccani-
dell’essere fin dall’inizio la corporeità umana       ca, a cura di G. LOLLI, traduzione di N. DAZZI,
un insieme inseparabile di natura, cultura e          Bollati Boringhieri, Torino 1994, pp. 121-157, qui
                                                      p. 122.
tecnica.                                              4
                                                        Y.N. HARARI, 21 Lessons for the 21st Century, Jo-
    Un approccio teoretico e non soltanto eti-        nathan Cape, London 2018, p. 41 (trad. it. 21 Le-
co, tecnico o sociologico alle tendenze po-           zioni per il XXI secolo, traduzione di M. PIANI,
stumane presenti nella vita collettiva, nelle         Bompiani 2019, p. 40).
accademie, nei social network può essere              5
                                                         F. FUKUYAMA, Our posthuman future: Conse-
espressione di una vera e propria cura verso          quences of the biotechnology revolution, Farrar,
l’umano che non lo separi dalla complessità           Straus & Giroux, New York 2002. Special report
dell’ambiente fisico e storico nel quale ogni         del 2009 su Foreign Policy sul Transumanesimo,
presente è immerso e a partire dal quale              cfr. URL: https://foreignpolicy.com/2009/10/23/
sgorga la possibilità del futuro.                     transhumanism/
                                                      6
    Il Transumanesimo può aiutare la filoso-             N. BOSTROM, Superintelligence. Paths, dangers
                                                      and strategies, Oxford University Press, Oxford
fia a essere ancora il proprio tempo appreso          2014, p. VII.
nel pensiero, senza alcuna illusione sul futuro       6
                                                        Il concetto di virtualità va qui inteso così com’è
ma anche senza alcuna nostalgia verso ciò             proposto in R. MARCHESINI, Post-human. Verso
che è stato. E la filosofia può aiutare i movi-       nuovi modelli di esistenza, Bollati Boringhieri, To-
menti postumani che si muovono nelle socie-           rino 2002.
tà digitali a essere consapevoli delle loro radi-     7
                                                        I. CORAZZIARI, C. FACIONI, F. MAGGINO, R. PAU-
Oltre l’etica                                                                                                 257

RA, Costruire futuri oggi: una sfida etica, in: M. DI    Even without any designated knowledge base at all,
BERARDO (a cura di), Il futuro delle organizzazioni.     a sufficiently superior mind might be able to learn
Lavoro e creatività, report del III incontro dei Futu-   much by simply introspecting on the workings of
risti italiani, Roma 23-24 Maggio 2019, p. 16.           its own psyche – the design choices reflected in its
8
   Cfr. URL: https://www.technologyreview.com/           source code, the physical characteristics of its cir-
s/612458/exclusive-chinese-scientists-are-creating-      cuitry. Perhaps a superintelligence could even de-
crispr-babies/                                           duce much about the likely properties of the world
9
  Cfr. Y.N. HARARI, 21 Lessons for the 21st Centu-       a priori» (ivi, p. 136).
                                                         15
ry, cit.                                                    La prospettiva che emerge in questo paragrafo è
10
   D.C. DENNETT, From bacteria to Bach and back.         stata più ampiamente argomentata in S. ANASTASI,
The evolution of minds, W.W. Norton & Company,           Verificare di essere umani, Per una teoresi del Tran-
New York/London 2017, p. 14 (trad. it. Dai batteri       sumanesimo, Lekton Edizioni, Catania 2019.
                                                         16
a Bach. Come evolve la mente, traduzione di S. FRE-         R. MARCHESINI, Post-human, cit., p. 515.
                                                         17
DIANI, Raffaello Cortina, Milano 2018, p. XIII).              Una riflessione sistematica sullo statuto
11
   Per ulteriori specifiche: https://www.agendadigi      dell’animalità – compresa quella umana – si può
tale.eu/cultura-digitale/intelligenza-artificiale-le-    trovare in A.G. BIUSO, Animalia, Villaggio Maori,
linee-guida-europee-pro-e-contro-dellapproccio-ue        Catania 2020.
12                                                       18
   Zygmunt Baumann aveva già messo in guar-                  Sull’ibridazione umano/animalità/macchine si
dia da questi pericoli in Z. BAUMAN, Postmodern          vedano R. MARCHESINI, Contro i diritti degli anima-
ethics, Blackwell Publishers, Oxford/Cambridge           li? Proposta per un antispecismo postumanista, Edi-
(MA) 1993 (trad. it. Le sfide dell’etica, traduzio-      zioni Sonda, Casale Monferrato 2014; R. MARCHE-
ne di G. BETTINI, Feltrinelli, Milano 2010). Una         SINI, Etologia filosofica. Alla ricerca della soggettività
discussione di questa e di altre questioni relative      animale, Mimesis, Milano 2016.
                                                         19
ai comportamenti animali e macchinici si trova              Un volume recente e fondamentale per com-
in A.G. BIUSO, Cyborgsofia. Introduzione alla fi-        prendere a fondo queste categorie e le dinamiche
losofia del computer, Il Pozzo di Giacobbe, Tra-         nelle quali si esprimono è G. MORMINO, R. CO-
pani 2004.                                               LOMBO, B. PIAZZESI, Dalla predazione al dominio.
13
   N. BOSTROM, Superintelligence, cit., p. 129.          La guerra contro gli animali, Edizioni Libreria
14
   Un paradosso che, come rileva lo stesso Bostrom:      Cortina, Milano 2017.
                                                         20
«It might be that a superintelligence could correct-        M.T. CATENA, Introduzione, in: M.T. CATENA (a
ly surmise a great deal from what seem, to dull-         cura di), Artefatti. Dal postumano all’umanologia,
witted human minds, meager scraps of evidence.           Milano 2012, pp. 9-15, qui p. 13.
258                                                                                       Anastasi & Biuso

█ Riferimenti bibliografici                                traduzione di L. DAMIANO, Raffaello Cortina,
                                                           Milano.
ANASTASI, S. (2019). Verificare di essere umani,        DENNETT, D.C. (2018). Dai batteri a Bach. Come
   Per una teoresi del Transumanesimo, Lekton              evolve la mente (2017), traduzione di S. FRE-
   Edizioni, Catania.                                      DIANI, Raffaello Cortina, Milano.
BAUMAN, Z. (2010). Le sfide dell’etica (1993), tra-     FUKUYAMA, F. (2002). Our posthuman future: Con-
   duzione di G. BETTINI, Feltrinelli, Milano.             sequences of the biotechnology revolution, Farrar,
BIUSO, A.G. (2004). Cyborgsofia. Introduzione alla         Straus & Giroux, New York.
   filosofia del computer, Il Pozzo di Giacobbe,        HARARI, Y.N. (2019). 21 Lezioni per il XXI secolo
   Trapani.                                                (2018), traduzione di M. PIANI, Bompiani.
BIUSO, A.G. (2020). Animalia, Villaggio Maori,          MARCHESINI, R. (2002). Post-human. Verso nuovi
   Catania.                                                modelli di esistenza, Bollati Boringhieri, Torino.
BOSTROM, N. (2014). Superintelligence. Paths,           MARCHESINI, R. (2014). Contro i diritti degli ani-
   dangers and strategies, Oxford University               mali? Proposta per un antispecismo postumani-
   Press, Oxford.                                          sta, Edizioni Sonda, Casale Monferrato.
CATENA, M.T. (2012). Introduzione. In: M.T. CA-         MARCHESINI, R. (2016). Etologia filosofica. Alla ricer-
   TENA (a cura di), Artefatti. Dal postumano              ca della soggettività animale, Mimesis, Milano.
   all’umanologia, Mimesis, Milano, pp. 9-15.           MITCHELL, M. (2019). Artificial intelligence. A
CORAZZIARI, I., FACIONI, C., MAGGINO, F., PAURA,           guide for thinking humans, Farrar Straus &
   R. (2019). Costruire futuri oggi: una sfida etica.      Giroux, New York.
   In: M. DI BERARDO (a cura di), Il futuro delle       MORMINO, G., COLOMBO, R., PIAZZESI, B. (2017).
   organizzazioni. Lavoro e creatività – URL:              Dalla predazione al dominio. La guerra contro
   https://www.instituteforthefuture.it/wp-                gli animali, Edizioni Libreria Cortina, Milano.
   content/uploads/2019/09/report-futuro-               TURING, A.M. (1994). Macchine calcolatrici e intelli-
   organizzazioni-2019-v4.pdf.                             genza (1950). In: A.M. TURING, Intelligenza mec-
DAMIANO, L., DUMOUCHEL, P. (2019). Vivere con              canica, a cura di G. LOLLI, traduzione di N. DAZ-
   i robot. Saggio sull’empatia artificiale (2016),        ZI, Bollati Boringhieri, Torino, pp. 121-157.
Puoi anche leggere