Trustworthy AI @ Scale - Il governo dell'AI, dai prototipi alle soluzioni in produzione - ABI Lab
←
→
Trascrizione del contenuto della pagina
Se il tuo browser non visualizza correttamente la pagina, ti preghiamo di leggere il contenuto della pagina quaggiù
Trustworthy AI @ Scale Il governo dell’AI, dai prototipi alle soluzioni in produzione Filippo Finocchiaro, Regulatory & Risk Technology Solutions Leader, Partner Deloitte 22 Marzo 2022 Diego Piovan, Regulatory & Risk Technology Solutions, Partner Deloitte Deloitte Risk Advisory 2021
Intelligenza Artificiale: dalla fase di ‘hype’ ad ‘utilizzo enterprise’
Il mercato dell’Intelligenza Artificiale (AI) sta crescendo anno dopo anno, tuttavia solo poche aziende sono riuscite a
sfruttare appieno il potenziale della tecnologia, integrandola all’interno del proprio modello operativo.
Trend di mercato globale Principali sfide sul mercato italiano (3) Il mercato italiano del banking (4)
Le imprese di tutto il mondo credono In Italia il 61% delle grandi imprese ha L’Intelligenza Artificiale è una priorità ICT
nell’intelligenza artificiale. avviato almeno un progetto di AI. per il 55% delle banche, percentuale che
sale all’83% se consideriamo le banche di
Le principali sfide sono: maggiori dimensioni.
30.6 Stima dei ricavi prodotti
dall’AI entro il 2024 (1) La gestione del ciclo di vita delle
B$ soluzioni di AI
TOP 5 AREE DI LAVORO
▪ Assistenza (interna e al cliente)
▪ Antiriciclaggio
▪ Sviluppo commerciale
Leader del settore che Le recenti proposte di ▪ Operations
regolamento dell’AI (es. AI Act)
93% considerano l’AI la chiave ▪ Credito
per essere competitivi (2)
La trasformazione culturale, in PRINCIPALI ESIGENZE
termini di competenze e mindset Monitorare il mercato per Sperimentare per
Leader del settore che identificare possibili aree di comprendere come trarne
prevedono di aumentare i applicazione effettivo valore
85% propri investimenti nell’IA La quantificazione dei benefici Presidiare l’evoluzione Dotarsi di un metodo per
nel prossimo anno fiscale (2) ottenibili dall’utilizzo dell’AI normativa con impatto sulle passare ad un approccio
soluzioni AI “industriale”
(1) Forbes – Roundup of Machine Learning forecasts and market estimates, 2020
(2) Deloitte AI Institute – State of AI in the Enterprise 4th Edition, 2021
(3) Osservatorio Artificial Intelligence Politecnico di Milano - IL MERCATO 2020 DELL’ARTIFICIAL INTELLIGENCE IN ITALIA: APPLICAZIONI E TREND DI SVILUPPO
(4) Rilevazione sulle priorità ICT delle banche italiane, ABI Lab, 2021
Copyright © 2022 Deloitte Risk Advisory 2La roadmap di governo dell’Intelligenza Artificiale
Definire una strategia di AI allineata alla strategia di business, sperimentare use case e scalare in produzione in modo
rapido, efficace e affidabile.
I LEADER DI MERCATO E LE FINTECH HANNO BEN COMPRESO I BENEFICI … SFRUTTANDO LA TECNOLOGIA COME ELEMENTO DISTINTIVO DELLA LORO
OTTENIBILI DALL’ADOZIONE DELL’AI… VALUE PROPOSITION SUI CLIENTI
Come evidenziato dalle ricerche di mercato, i market leader e le FinTech stanno Per sostenere la propria posizione all’interno di un contesto competitivo in
utilizzando e faranno sempre più uso dell’Intelligenza Artificiale per offrire ai continua evoluzione, e puntare a migliorarla, risulta cruciale definire quanto
propri clienti prodotti e servizi iper-specializzati, in real-time e in modo prima una strategia di adozione dell’AI in modo efficace e mirata alla creazione di
proattivo, anticipando i loro bisogni. valore per la banca e per i propri clienti.
Si consiglia quindi di adottare un approccio che consente di avviare sin da subito attività di sperimentazione dell’AI mirate alla generazione rapida del valore.
L’APPROCCIO TRUSTWORTHY AI @ SCALE VANTAGGI PER LE BANCHE
THINK BIG START SMALL SCALE FAST • Generazione di valore sin da subito, grazie alla
definizione degli use case AI insieme alla
definizione della strategia
• Identificazione e mappatura dei principali use
case AI nelle varie funzioni aziendali con relativo
SVILUPPO DEFINIZIONE SPERIMENTAZIONE IMPLEMENTAZIONE ENTERPRISE valore aggiunto e macro-valutazione della
STRATEGIA AI USE CASE AI USE CASE AI AFFIDABILE DEPLOYMENT complessità di realizzazione
Definizione di una Definizione dei Sperimentazione Sviluppo Implementazione • Definizione delle priorità di implementazione sul
visione dell’AI e di principali use case, rapida ed efficace responsabile di delle soluzioni AI su proprio Data Lake rispetto al valore generato
una roadmap dei potenziali degli use case ad soluzioni AI larga scala con dall’implementazione degli use case AI
implementativa benefici e delle alto valore e attraverso l’utilizzo metodologie e • Definizione di una Strategia e una Governance
allineata con la priorità di misurazione dei di un framework di strumenti di AI dell’AI, allineata con l’Information Governance,
strategia di business sperimentazione benefici ottenuti Trustworthy AITM Governance per garantire uno sviluppo efficace, responsabile
e su larga scala
FOCUS PROSSIME SLIDE
Copyright © 2022 Deloitte Risk Advisory 3Trustworthy AI @ Scale: sfide e opportunità di crescita
Per crescere all’interno di un contesto competitivo in rapida evoluzione, è fondamentale affrontare tre sfide attraverso un
approccio strutturato all’AI Governance.
Per scalare in modo efficace ed offrire servizi sempre più innovativi ai propri clienti,
le banche devono adottare metodologie, processi e strumenti evoluti per governare l’AI…
… affrontando tre principali sfide…
Implementare l’AI su Implementare un’AI Misurare e monitorare i
01 grande scala 02 affidabile 03 risultati nel tempo
Essendo l’AI parte integrante del Per rispondere ai futuri requisiti Per continuare ad avere successo,
core business dell’azienda, è normativi, minimizzare i rischi e è cruciale definire metodologie e
fondamentale che essa possa conquistare la fiducia dei clienti, processi di misurazione delle
essere progettata, sviluppata e è necessario adottare un performance durante tutto il ciclo
gestita con rapidità, agilità e framework per la gestione di vita dei prodotti che utilizzano
robustezza. responsabile dell’AI. l’intelligenza artificiale.
Performance
MLOps AI Ethics
Management
… tramite un approccio integrato
Copyright © 2022 Deloitte Risk Advisory 4Il percorso di adozione del MLOps
Le aziende tipicamente iniziano a sperimentare l’AI in modo destrutturato, utilizzando diversi strumenti e svolgendo
diverse attività manuali. Per poter scalare con diverse soluzioni in produzione è necessario adottare best practice e
strumenti che consentono di automatizzare le attività di gestione del ciclo di vita dei sistemi di AI.
Nei progetti di Machine Learning
tipicamente ci sono diverse fasi che
riguardano la progettazione, lo sviluppo, la
messa in produzione e la gestione delle Orchestrazione
operations: Esperimenti di Automated
Pipeline di ML
ML Triggering
• Data extraction Repo CT CI/CD
• Data analysis
• Data preprocessing
• Model training
• Model evaluation
• Model validation
• Model serving Processo di sviluppo manuale Pipeline di CT/CI/CD per il Machine Learning
• Model monitoring
Questo approccio è sperimentale e iterativo, e le Approccio robusto e automatizzato di CT/CI/CD che consente una
attività di addestramento e test del modello sono distribuzione rapida ed affidabile delle soluzioni di ML in produzione.
Queste fasi possono essere affrontate con
eseguite manualmente. Aggiornamenti e nuove funzionalità del modello vengono costruiti,
un processo manuale, tipicamente utilizzato
testati, implementati e convalidati automaticamente.
presso aziende che sono alle prese con le
prime sperimentazioni, oppure con un
approccio di MLOps. CI = Continuous Integration, CD = Continuous Delivery, CT = Continuous Training
Copyright © 2022 Deloitte Risk Advisory 5Il contesto etico-normativo di riferimento
In un contesto di rapido cambiamento senza precedenti…
… gli enti istituzionali Obblighi di Legge
• GDPR
di tutto il mondo • AI Act
stanno definendo • ePrivacy Regulation
• MiFID II
nuove normative, • Solvency II
linee guida e
Linee Guida e Pubblicazioni
pubblicazioni per
• G20: AI Principles
normare un utilizzo • Empowering AI Leadership
efficace ed affidabile • A Global AI in Financial Services Survey 2020
• AI HLEG: Ethics guidelines for Trustworthy AI
degli algoritmi e • AI in the banking industry: EBF position paper
fornire potere e • Council of Europe (CAHAI): A Legal Framework for AI
Systems
consapevolezza ai • OECD: TOOLS FOR TRUSTWORTHY AI • Model Artificial Intelligence Framework
cittadini. • MISE - Proposte per una Strategia italiana per l'Intelligenza • Artificial intelligence - Australia's Ethics Framework
Artificiale • IEEE: Ethically Aligned Design “EAD”
• Rome Call for AI Ethics • US Leadership in AI: A Plan for Federal Engagement in Developing
• Rapporto ABI Lab 2021 e AI Governance Framework Technical Standards and Related Tools
• AI in Financial Services • Deloitte's Trustworthy AI Framework e Report Survey
• Harvard: Principled Artificial Intelligence: Mapping • Google: AI Principles
Consensus in Ethical and Rights based Approaches to • IBM: Everyday Ethics for Artificial Intelligence
Principles for AI • UNESCO - Draft text of the Recommendation on the ethics of Artificial
• Principles to Promote Fairness, Ethics, Accountability and intelligence
Transparency (FEAT) in the Use of Artificial Intelligence and • BCBS 239
Data Analytics in Singapore’s Financial Sector • Microsoft: Responsible AI
Copyright © 2022 Deloitte Risk Advisory 6Il framework di Trustworthy AI
Il framework Deloitte Trustworthy AITM consente di valutare gli impatti etici dell’AI a 360°, gestendo aspetti come la
privacy dei dati, la trasparenza verso i clienti e il rispetto delle normative.
Fair / Impartial Robust / Reliable
Le applicazioni AI comprendono controlli I sistemi di AI hanno la capacità di imparare
interni ed esterni per contribuire a garantire dagli esseri umani e da altri sistemi,
un’applicazione equa tra tutti i partecipanti Fair / Impartial producendo output coerenti e affidabili
Transparent / Robust /
Explainable Reliable
Transparent / Explainable Privacy
Tutti i partecipanti sono in grado di capire Trustworthy La vita privata dei consumatori è rispettata
come vengono utilizzati i loro dati e come i AITM e i dati dei clienti non vengono utilizzati
sistemi di AI prendono decisioni; algoritmi, oltre l’uso previsto e dichiarato; i
attributi e correlazioni sono ispezionabili consumatori possono scegliere di
condividere i loro dati
Responsible/
Privacy
Accountable
Safe / Secure
Responsible/Accountable Safe / Secure
Sono in atto delle policy per determinare I sistemi di AI possono essere protetti dai
chi è ritenuto responsabile dell'output delle rischi (inclusi i Cyber) che possono causare
decisioni del sistema di AI danni fisici e/o digitali
Copyright © 2022 Deloitte Risk Advisory 7Monitorare le performance del sistema a 360°
Deloitte e ABI Lab hanno definito tre ambiti di misurazione delle performance delle soluzioni di AI
KPI di Business KPI di Modello KPI di Etica e Governo
OBIETTIVO: misurare l’efficacia della soluzione di OBIETTIVO: identificare indicatori tecnici per la OBIETTIVO: identificare indicatori utili a misurare
AI e a quantificare i benefici apportati. misurazione delle performance dei modelli di AI dal punto di vista etico e di governo l’efficacia
della soluzione di AI.
METODO: condivisione di esperienze per METODO: E’ stato realizzato un albero METODO: Anche relativamente a questo tipo di
identificare una long-list di KPI di business decisionale composto da 8 domande da porsi in KPI, partendo dal confronto di esperienze, sono
(definizione di KPI con formule condivise), su 4 sequenza le quali, tramite un sistema di filtri, state sviluppate delle proposte sulle modalità di
ambiti di applicazione: guidano nella selezione del set di KPI coerente rilevazione. La checklist comprende le seguenti
alle specifiche caratteristiche dello use case. classi di indicatori:
Use case con focus sulla Customer
Gestione relazione cliente Journey dei clienti a 360° (esclusi i
Data
chatbot e voicebot) Cyber Security Transparency
Governance
Focus sugli algoritmi conversazionali,
Chatbot e voicebot con impatto sia sull’efficienza sia
sull’engagement
Privacy Fairness Sustainability
Comprende i KPI relativi all'efficienza
Efficienza operativa e all'ottimizzazione dei sistemi, dei
processi e degli applicativi aziendali
Trustworthy AI Infrastruttura
Explainability
Governance tecnologica
Comprende i KPI relativi al governo
Controllo dei rischi
delle diverse tipologie di rischio … … …
Copyright © 2022 Deloitte Risk Advisory 8Il percorso di implementazione di una Trustworthy AI @ Scale
Dopo aver dimostrato il successo delle prime sperimentazioni, è necessario avviare un percorso aziendale mirato ad una
gestione affidabile ed enterprise dell’Intelligenza Artificiale.
Trustworthy AI Managed Services
High Esternalizzare il monitoraggio periodico
e la robustezza dei sistemi e dei modelli
AI Governance & Risk Model di AI
Definire il modello di ruoli e
responsabilità, i rischi, i controlli e gli
indicatori da utilizzare per garantire
l’affidabilità dell’AI, nel rispetto delle
normative vigenti e in uscita (es. AI Act)
AI Ethics Maturity
AI Ethics by Design
Selezionare e adottare metodologie e tecnologie
per lo sviluppo secondo un approccio di AI Ethics
by Design and by Default, come ad esempio:
AI Ethics Point of View strumenti per la spiegabilità, crittografia
Definizione dei principi di AI omomorfa, strumenti di equità e affidabilità
Ethics allineati con la strategia
aziendale
AI Ethics Maturity Assessment
Valutare lo stato di maturità dell’AI Ethics
rispetto a tutti i principi (es. robustezza,
privacy, sicurezza, equità, trasparenza,
responsabilità dell’AI)
Low
Timeline
Copyright © 2022 Deloitte Risk Advisory 9Important notice This document has been prepared by Deloitte Risk Advisory S.r.l. for the sole purpose of enabling the parties to whom it is addressed to evaluate the capabilities of Deloitte Risk Advisory S.r.l. to supply the proposed services. The information contained in this document has been compiled by Deloitte Risk Advisory S.r.l. and may include material obtained from various sources which have not been verified or audited. This document also contains material proprietary to Deloitte Risk Advisory S.r.l.. Except in the general context of evaluating the capabilities of Deloitte Risk Advisory S.r.l., no reliance may be placed for any purposes whatsoever on the contents of this document. No representation or warranty , express or implied, is given and no responsibility or liability is or will be accepted by or on behalf of Deloitte Risk Advisory S.r.l. or by any of its partners, members, employees, agents or any other person as to the accuracy, completeness or correctness of the information contained in this document. Other than stated below, this document and its contents are confidential and prepared solely for your information, and may not be reproduced, redistributed or passed on to any other person in whole or in part. If this document contains details of an arrangement that could result in a tax or insurance saving, no such conditions of confidentiality applies to the details of that arrangement (for example, for the purpose of discussion with tax authorities). No other party is entitled to rely on this document for any purpose whatsoever and we accept no liability to any other party who is shown or obtains access to this document. This document is not an offer and is not intended to be contractually binding. Should this proposal be acceptable to you, and following the conclusion of our internal acceptance procedures, we would be pleased to discuss terms and conditions with you prior to our appointment. Deloitte Risk Advisory S.r.l., a company, registered in Italy with registered number 05059250158 and its registered office at Via Tortona no. 25, 20144, Milan, Italy, is an affiliate of Deloitte Central Mediterranean S.r.l., a company limited by guarantee registered in Italy with registered number 09599600963 and its registered office at Via Tortona no. 25, 20144, Milan, Italy. Deloitte Central Mediterranean S.r.l. is the affiliate for the territories of Italy, Greece and Malta of Deloitte NSE LLP, a UK limited liability partnership and a member firm of Deloitte Touche Tohmatsu Limited, a UK private company limited by guarantee (“DTTL”). DTTL and each of its member firms are legally separate and independent entities. DTTL, Deloitte NSE LLP and Deloitte Central Mediterranean S.r.l. do not provide services to clients. Please see www.deloitte.com/about to learn more about our global network of member firms. Copyright © 2022 Deloitte Risk Advisory
Puoi anche leggere
