Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto - SIEV
←
→
Trascrizione del contenuto della pagina
Se il tuo browser non visualizza correttamente la pagina, ti preghiamo di leggere il contenuto della pagina quaggiù
Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto Elena Fregonara*, Cristina Coscia** parole chiave: Multicriteria Decision Analysis, Analythic Hierarchy Process, Delphi Method, Life Cycle Costing e Life Cycle Assessment Abstract Nelle scelte fra progetti di intervento nel settore immobilia- proposta metodologica basata sull’uso integrato di Analisi re emergono i diversi aspetti della sostenibilità, nella forma Multicrieria, approcci partecipativi (Delphi Method) e approc- di impatti – economici, energetici, ambientali, sociali, este- ci Life Cycle (Life Cycle Costing-LCC, ISO 15686-5:2008 e Life tici – sovente associati ad incertezza e conflittualità. L’incer- Cycle Assessment - LCA, ISO 14040:2006). In particolare, si pro- tezza è legata spesso alla misurazione degli impatti, svilup- pone una modalità operativa incentrata sul metodo Analy- pata anche attraverso l’applicazione di tecniche specifiche. tic Hierarchy Process - (AHP), alla quale si innestano: da un La conflittualità è invece legata alle difficoltà nel raggiungi- lato gli approcci LCC e LCA (anche congiunti) per supporta- mento del consenso dei giudizi o di soluzioni condivise. re la individuazione/selezione dei criteri e la quantificazio- Ciò è evidente nel caso degli interventi di retrofit energeti- ne, tramite indicatori misurabili, di parametri di sostenibi- co del patrimonio esistente o di interventi di nuova costru- lità energetico-economico-ambientale; dall’altro, il Delphi zione per edifici ad alto rendimento energetico: in questo Method, per supportare l’individuazione degli scenari pre- caso, i principi della sostenibilità devono confrontarsi con i feribili sui quali vi possa essere convergenza e rispondenza in termini di ampio consenso sociale, a partire da giudizi requisiti di performance globale richiesti, implementati in sce- espressi da panel di esperti. nari tecnologico-economici (Directive 2010/31/EU; Directi- ve 2018/844/EU). Pensata per il patrimonio immobiliare residenziale, larga- mente diffuso nel nostro Paese, non sono esclusi dal ragio- Gli approcci Multicriteria, consolidati nel caso di decisioni in namento i grandi interventi sui patrimoni pubblici, o le gran- contesti complessi e conflittuali dunque adatti a trattare le di opere infrastrutturali che coinvolgono soggetti e finalità molte dimensioni della sostenibilità, dimostrano punti di differenziati, cui anche la recente normativa sulle OO.PP. fragilità che possono essere compensati con l’integrazione presta speciale attenzione (artt. 95 e 96 del Dlgs 50/2016 e di altri approcci. successivi aggiornamenti in DL “Semplificazioni” 135/2018 e Su queste premesse, obiettivo del lavoro è presentare una Legge di Bilancio 145/2018). rivista valori e valutazioni n. 23 - 2019 107
1. INTRODUZIONE ribilità e, quindi, di supportare i processi decisionali sulla base di aspetti di ordine economico-energetico, nonché I metodi Multicriteria sono in grado di combinarsi con stru- della molteplicità dei possibili impatti sulla società e sul- menti ad oggi esistenti per la valutazione della sostenibilità l’ambiente. economica, ambientale, energetica, sociale e per la valuta- I nodi deboli degli approcci Multicriteria sono già stati zione della qualità estetica e prestazionale dei progetti. Le oggetto di studi da parte delle Autrici, confluiti in un con- potenzialità della Multi Criteria Decision Analysis (MCDA) tributo teorico (Coscia e Fregonara, 2007) e in un altro di emergono, infatti, nelle fasi di strutturazione di problemi carattere applicativo pubblicato in questa rivista (Brigato complessi, supportando le fasi preliminari e di avvio dei pro- et al., 2010). Negli scritti si proponeva l’uso congiunto del- cessi decisionali. Inoltre, sono centrali nelle successive fasi di l’Analytic Hierarchy Process (AHP) e del Delphi Method, a confronto fra opzioni di intevento che coinvolgono molteplici partire dai limiti dell’AHP e focalizzando sull’apporto del aspetti e soggetti, agevolando l’individuazione di potenziali Delphi. conflitti e la convergenza verso soluzioni condivise. Assumendo le premesse teoriche ed i risultati dei prece- Assumendo le diverse dimensioni della sostenibilità, attra- denti lavori, in questo scritto si propone un avanzamento verso opportune tecniche è possibile definirne i criteri rap- metodologico basato nuovamente sul contributo del Dephi presentativi, selezionati per numero e tipologia in base agli Method associato, questa volta, agli approcci Life Cycle (in interventi oggetto dell’analisi. Questi, a loro volta, sono particolare Life Cycle Costing - LCC e Life Cycle Analysis - rappresentati da un’ampia casistica, al cui interno merita- LCA, anche in modalità congiunta), a supporto delle anali- no particolare attenzione gli interventi di adeguamento si Multicriteria. energetico/retrofit di edifici esistenti, o di nuova costru- Fra i numerosi approcci Multicriteria ad oggi utilizzati (Bot- zione di edifici ad alta prestazione energetica. tero et al., 2008), si assume nuovamente il metodo Analythic In coerenza con gli indirizzi internazionali in materia di Hierarchy Process - AHP (Saaty, 1987). Particolarmente fles- politiche energetiche e con il quadro normativo diretto a sibile, l’approccio AHP si rivela adatto alla valutazione di renderne concreta l’attuazione (Directive 2010/31/EU; Direc- progetti di intervento per l’adeguamento energetico del tive 2018/844/EU), questa categoria di interventi è infatti patrimonio esistente, oppure di progetti di nuova costru- particolarmente rappresentativa rispetto alla totalità degli zione di edifici energetico-efficienti. interventi nel settore immobiliare. Gli investimenti in riqua- Il metodo – come la generalità delle tecniche Multicriteria lificazione del patrimonio abitativo italiano, infatti, rap- – permette l’aggregazione e il confronto di parametri con presentano al momento attuale il 37% del valore degli inve- differenti unità di misura, prevedendone la pesatura, anche stimenti nel settore delle costruzioni. Rispetto per esempio nel caso in cui i criteri siano l’esito dell’applicazione di altre all’anno 2017, per gli investimenti in tale comparto è sti- tecniche e anche quando questi esiti non siano conver- mabile una crescita del 0,5% in termini reali, tenendo con- genti. Rispetto al primo punto nello scritto si propone l’in- to (Legge di Bilancio 2019) del potenziamento al 50% della clusione di parametri di carattere energetico, economico detrazione per le ristrutturazioni edilizie e della detrazio- eambientale calcolati attraverso l’applicazione di modelli ne del 65% per gli interventi di riqualificazione energetica Life Cycle. Rispetto al secondo punto si propone il contri- degli edifici. Inoltre, gli interventi di adeguamento ener- buto di metodi di rilevazione di “giudizi esperti” del setto- getico di edifici esistenti o di nuova costruzione di edifici re, finalizzati al raggiungimento del consenso, mediante il ad alta prestazione energetica sono adatti per ragionare su ricorso al metodo Delphi, soprattutto nelle forme innova- come concialire obiettivi di ordine energetico-ambientale tive del “participatory Delphi” (come illustrato ad esempio con obiettivi finanziari. Ancora, da un punto di vista ope- in Glenn, 1994; Zimmermann et al, 2012; Fletcher & Mar- rativo, per ragionare su come integrare elementi tecnolo- childon, 2014; Kezar & Maxey, 2016; Ashok et al, 2017). gici con manufatti che talvolta presentano vincoli tecnici Lo scritto - che rappresenta la prima fase di una ricerca cui o normativi. seguirà un’applicazione pratica - si articola secondo i Le normative – non solo in riferimento agli interventi privati, seguenti punti: in sezione 1 si presenta una proposta meto- ma anche nel campo delle opere pubbliche e degli inter- dologica che intende rappresentare un avanzamento ope- venti in partenariato pubblico-privato – forniscono indi- rativo; in sezione 2 si riflette rispetto al nodo della indivi- cazioni metodologiche, le quali sul piano della ricerca stan- duazione/selezione dei criteri di giudizio e della misura- no richiamando un vivace interesse. Particolare rilievo assu- zione dei relativi indicatori misurabili, attraverso l’utilizzo mono le ricerche e sperimentazioni in ambito Multicriteria di approcci Life Cycle; in sezione 3 si riflette rispetto al quando si entra nel contesto delle opere pubbliche, in virtù nodo dell’attribuzione dei pesi ai criteri e al raggiungi- della recente normativa (D lgs 50/2016; DL “Semplificazio- mento del consenso attraverso modelli partecipativi (Delphi ni” 135/2018; Legge di Bilancio 145/2018) e dei grandi inter- Method); la sezione 4 conclude il lavoro. venti infrastrutturali che coinvolgono soggetti con finalità spesso difficili da conciliare (Ponti et al, 2011; Novara, 2015; Fiorini, 2016). 2. PROPOSTA METODOLOGICA In molti casi ciò si traduce nella valutazione di scenari eco- Assumendo i risultati di precedenti studi, prima richiama- nomico-tecnologici al fine di ottenerne i ranking di prefe- ti, si illustra una proposta metodologica di avanzamento. In 108 rivista valori e valutazioni n. 23 - 2019
Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto premessa si recepisce il significato di valutazione quale un giudizio di valore; processo applicato simultaneamente ad un set di alterna- • calcolo degli ordinamenti di priorità (sulla base del prin- tive; tale processo si presentadi carattere ciclico, stretta- cipio della sintesi delle priorità). Vengono prodotte sca- mente dipendente dai problemi trattati, dal tempo, dal con- le delle priorità o pesi (attraverso il calcolo dell’auto- testo organizzativo, dalle conoscenze a disposizione e che vettore principale di ogni matrice di confronto a coppie può essere retroattivo. Inoltre, si assume che il problema precedentemente prodotta), sino ad evincere l’ordina- decisionale possa riguardare la scelta fra un numero finito mento finale (ranking di preferibilità delle opzioni). di progetti alternativi. Come evidenziato negli studi pregressi, il metodo AHP Cuore della metodologia è l’Analisi Multicriteria, risolta dimostra alcune fragilità. Fra queste: nella fase di indivi- mediante la tecnica Analythic Hierarchy Process – AHP, ela- duazione dei soggetti decisori, la modellistica MCA non borata da R. W. Saaty (Saaty, 1987). Per le ragioni eviden- prevede indicazioni formali esplicite, demandando la veri- ziate in precedenza, l’AHP è un approccio adatto a trattare fica dell’effettiva presenza delle parti coinvolte al confronto problemi di tipo complesso, non lineari, adeguato per multidisciplinare dei decision-makers e alla fase istrutto- “gestire la complessità” in quanto capace di strutturare le ria del processo di decisione (Bottero, 2014; Bentivegna, variabili del problema in forma di gerarchia. In particolare, 2016); la definizione del problema e definizione dell’o- la tecnica permette di produrre valutazioni sia qualitative sia biettivo (o del sistema di obiettivi) vede a volte una scarsa quantitative, a partire dalla costruzione di una gerarchia partecipazione dei soggetti coinvolti, così come per la suc- dalla quale si evincono ordinamenti di preferenza, tramite cessiva fase di individuazione del set di alternative pro- il confronto a coppie tra criteri (o parametri), nei confron- gettuali e per la definizione del set di criteri; la fase crucia- ti di un obiettivo specifico. Inoltre, l’approccio AHP è qui le di attribuzione dei pesi ai criteri, che permette di perve- proposto e selezionato fra la molteplicità delle tecniche nire alla gerarchizzazione delle priorità relative degli stes- Multicriteria ad oggi disponibili principalmente per con- si, prevede una debole considerazione delle scale dei valo- tinuità con precedenti ricerche (Coscia e Fregonara, 2007). ri della collettività, demandando al momento tecnico la Il processo è strutturato secondo i seguenti passaggi logi- sintesi delle priorità fra le opzioni; l’analisi delle alternati- ci: ve, che attraverso il confronto fra unità di misura differen- • identificazione del/i problema/i, delle necessità, dell’o- ti deve pervenire alla individuazione ed eliminazione di biettivo; eventuali alternative dominate, è demandato al momento • identificazione delle opzioni; tecnico della normalizzazione degli elementi; ancora e più in generale, l’attribuzione dei punteggi avviene sulla base • identificazione dei criteri (o parametri, o attributi), cal- del principio dei giudizi comparati con scarsa partecipa- colo dei relativi indicatori misurabili e assegnazione dei zione dei soggetti ed in assenza di scale di valori assegna- pesi; te dalla collettività. Infine, la fase finale di ordinamento del- • analisi delle opzioni; le alternative è esplicata più in termini di raggiungimento • determinazione dei punteggi e ranking delle opzioni; del compromesso tecnico che non di “compromesso socia- • interpretazione dei risultati e decisione. le”, come sarebbe al contrario auspicabile. Rimandando alla letteratura fondativa sul metodo AHP per Assumendo i punti deboli del metodo AHP testè richia- gli aspetti teorici e formali e per esempi applicativi (Figuei- mati, l’avanzamento proposto riguarda due aspetti: ra et al., 2005; Saaty, 1980; Saaty, 1986; Saaty, 2000; Saaty e • l’uso di approcci al ciclo di vita per supportare le fasi di Vargas, 2006), si ricorda che il metodo si snoda attraverso tre individuazione/selezione delle opzioni di progetto da fasi operative successive fondate su altrettanti principi fon- sottoporre a valutazione sulla base di una preliminare damentali: fase di valutazione economica e ambientale. I risultati • scomposizione dei dati del problema nelle loro com- di queste ultime possono, al contempo, confluire nel ponenti fondamentali (sulla base del principio della set dei criteri supportando la misurazione degli impatti scomposizione). Il passaggio consiste nell’individua- economici ed ambientali, anche in forma congiunta e zione di una serie di criteri, eventuali sub-criteri ed alter- considerando l’intero ciclo di vita “from cradle to gra- native, strutturate in modo gerarchico; ve”; • confronto a coppie, per ottenere, ad ogni livello di scom- • l’uso del Delphi Method, ottimale per la prefigurazione posizione, una scala di priorità tra le alternative (sulla di scenari alternativi e per la delicata fase della valuta- base del principio dei giudizi comparati). Questa fase zione del loro grado di preferibilità, per supportare le consiste nell’individuazione delle priorità degli elementi valutazioni (giudizi) individuali e il raggiungimento del di ciascun elemento della gerarchia; gli elementi di ogni consenso avvalendosi di gruppi di soggetti esperti, la livello vengono confrontati a coppie con ogni elemen- cui expertise su temi specifici è riconosciuta unanime- to del livello superiore considerato come criterio di con- mente come autorevole, pur costruita e consolidata su fronto. Il confronto avviene tramite il principio dei giu- differenti background (consulenti esperti, ricercatori dizi comparati, secondo cui viene assegnato ad ogni puri, decisori, ecc.). relazione binaria un numero reale positivo (sulla base Lo schema presentato in Figura 1 riassume il workflow del- della “scala fondamentale” di Saaty) che corrisponde ad l’analisi. Tenuto conto, in particolare, dell’apporto di model- rivista valori e valutazioni n. 23 - 2019 109
Figura 1 - Proposta metodologica: workflow con evidenza sul contributo potenziale degli approcci Life Cycle e del Delphi Method. li partecipativi, i passaggi logici dell’AHP sono preceduti razione di progetti di retrofit di edifici i quali coinvolgo- da una fase dedicata all’individuazione dei soggetti decisori. no molteplici aspetti nei processi di decisione, in parti- Il primo step del flusso di lavoro è dedicato all’individua- colare questioni gestionali, energetiche, economiche e zione dell’obiettivo dell’analisi. Nel caso in oggetto – inter- sociali (Mondini, 2016; Re Cecconi et al., 2017; Fattinnan- venti di efficientamento energetico di edifici esistenti/nuo- zi, 2018). va costruzione di edifici ad alta efficienza energetica – obiet- Gli approcci LCC (Langdon 2007; DOE 2014) e LCA (Basba- tivo è l’ottenimento del ranking di preferibilità fra alterna- gill, 2013) sono solitamente utilizzati nella scelta della tive progettuali. Si assume l’ipotesi di mettere a confronto configurazione tecnologica/prestazionale degli edifici, alternative che si differenziano sul piano delle tecnologie per valutarne rispettivamente la sostenibilità economi- utilizzate (o scenari tecnologici), in grado di garantire livel- ca e quella ambientale. Vasta è la letteratura che propo- li di performance energetica compatibili con i requisiti ne applicazioni di approcci Life Cycle sia rispetto a pro- richiesti dalla normativa, ma differenziate sul piano dei getti di nuova costruzione, sia di efficientamento di edi- costi necessari per l’intero ciclo di vita e sul piano dei rela- fici esistenti assumendo, in questo secondo caso, le spe- tivi impatti ambientali. Il secondo step è destinato all’indi- cifiche problematiche del retrofit (Ma et al., 2012). viduazione/selezione delle alternative con il supporto ana- Studi rivelano come l’incertezza dei dati di input utilizzati litico che verrà di seguito illustrato (sezione 2) e, conte- nelle analisi sia in grado di condizionare i risultati delle stualmente, sulla base di un set di criteri individuati allo stesse, tanto da richiedere l’apporto di analisi di rischio in step 3. L’attribuzione dei pesi ai criteri, cuore dello step 3, forma deterministica (Sensitivity Analysis) o probabilisti- è supportato dal Delphi Method secondo le modalità ca (Probability Analysis) (Boussabaine e Kirkham, 2004). descritte in sezione 3. Lo step 4 prevede lo sviluppo dell’a- A partire dai documenti internazionali – Standard e Diret- nalisi Multicriteria, i cui risultati sono ottenuti nuovamen- tive Europee - si è recentemente sviluppato un filone di te con l’apporto del Delphi nelle fasi di valutazione dei studio diretto ad esplorare l’utilizzo congiunto delle due risultati e decisione finale. tecniche, partendo dal presupposto che, come già ricor- dato, i risultati delle applicazioni possono non essere convergenti. Estrapolando dalla letteratura alcuni punti 3. CONTRIBUTO DEGLI APPROCCI LIFE CYCLE utili, rimarchiamo qui alcune possibili sinergie fra i due L’uso di approcci al ciclo di vita combinati con l’Analisi approcci (Langdon, 2007). In Figura 2 si propone una sin- Multicriteria non è nuovo, ma ancora poco esplorato (Fal- tesi delle modalità con cui LCC e LCA, applicate singo- cone et al., 2016). Recenti ricerche rivelano le potenzialità larmente o in modalità congiunta, possono: che ne possono derivare, in specifico nei casi di compa- • costituire criteri di valutazione delle performances 110 rivista valori e valutazioni n. 23 - 2019
Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto Figura 2 - Approcci Life Cycle: sinergie e modalità per supportare l’identificazione/selezione/valutazione delle option ambientali ed economiche dei progetti, in particola- Discounted Pay-back Period (SPB, DPB), Adjusted Inter- re quando gli impatti ambientali possono con diffi- nal Rate of Return (AIRR); coltà essere valutati in termini monetari, confluendo • attraverso l’applicazione LCA da indicatori di perfor- nel set dei criteri di valutazione di ordine finanziario, mance ambientale quali (più frequentemente) Embo- funzionale, sociale, estetico, etc.; died Energy (EE), Embodied Carbon (EC); • supportare l’iniziale identificazione e/o selezione del- • attraverso l’applicazione congiunta degli approcci LCC le opzioni da sottoporre ai successivi step del proces- + LCA da un “indice composto di sostenibilità” eco- so di valutazione. Il set di alternative può essere pre- nomico-ambientale. cedentemente individuato/selezionato attraverso l’ap- Rispetto all’ultimo criterio, “Sostenibilità economico- plicazione dell’analisi LCA, sottoponendo a valutazio- ne economica mediante LCC tutte le opzioni indivi- ambientale“, si recepiscono i risultati di precedenti stu- duate per l’analisi o solamente le opzioni che rag- di nei quali si è sperimentata una metodologia finalizza- giungono un buon livello di performance ambientale ta ad armonizzare l’analisi economica ed ambientale attra- (in tal caso, si fa notare, l’analisi LCA può essere appli- verso il calcolo di indicatori quantitativi (Fregonara et al. cata unicamente in presenza di impatti ambientali 2017). La metodologia, applicata per calcolare le perfor- misurabili in termini monetari); viceversa, il set di alter- mances di soluzioni progettuali alternative, prevedeva native pre-sezionate mediante un’applicazione LCC, un approccio a tre fasi: in quanto opzioni economicamente efficienti, può 1. calcolo di indicatori ambientali mediante LCA e secon- essere sottoposto alla valutazione ambientale median- do i principi Life Cycle Thinking, in termini di Embodied te analisi LCA. Energy, Embodied Carbon, livello di disassemblabilità Rispetto al caso a), consideriamo i risultati calcolabili dei sistemi dell’edificio, quantità di materiale riciclato attraverso i modelli LCC, LCA, LCC+LCA quali indicatori e produzione di rifiuti; misurabili rispettivamente dei criteri “Sostenibilità eco- 2. calcolo di indicatori economici mediante LCC, in ter- nomica”, “Sostenibilità ambientale”, “Sostenibilità eco- mini di Global Cost (EN 15459:2007); nomico-ambientale”. Più in dettaglio, tali criteri “posso- 3. calcolo di un indicatore economico-ambientale sinte- no rispettivamente essere supportati: tico, monetario, implementabile in presenza di diffe- • attraverso l’applicazione LCC da indicatori di perfor- renti set di alternative e a diverse scale (materiali, com- mance economica, quali il Net Present Value (NPV, o ponenti, tecnologie, sistemi), considerando che soli- NPC quando solo i costi sono considerati), Net Savings tamente le scale considerate sono l’intero edifico, i (NS), Savings to Investment Ratio (SIR), Simple o sistemi dell’edificio e i materiali da costruzione. rivista valori e valutazioni n. 23 - 2019 111
4. CONTRIBUTO DEL DELPHI METHOD con le tecniche Multicriteria – oggetto di attenzione in que- sto scritto – emergono alcuni nodi di grande potenzialità del Delphi. Con riferimento al workflow in Figura 1 e in rela- Il tema della previsione e dell’analisi di scenario abbraccia zione anche al processo Delphi di Figura 3, le investiga- un ventaglio significativo di tecniche sia quantitative, sia zioni ed aperture di ricerca possono essere intercettate in qualitative, sia quali-quantitative (Murry Jr & Hammons, particolare rispetto alle fasi: 1995; Stagi, 2000). L’utilizzo di tecniche basate sugli esper- di individuazione dei soggetti decisori, che nel processo ti in letteratura ha rappresentato una risposta “alternativa” Delphi si pone nel momento istruttorio post raccolta dati in contesti caratterizzati da tempi e risorse a disposizione e ante costruzione del dossier Delphi (Fase Istruttoria, step limitati oppure da particolare incertezza. Il “giudizio infor- 2, Fig. 3); mato” a supporto della scelta costituisce un esito finalizzato di individuazione/selezione dei criteri di giudizio e, in par- al raggiungimento di un accordo, che possa riflettere un ticolare, attribuzione dei relativi ordinamenti di pesi, che nel ampio consenso sociale. La scelta viene assunta grazie ad Metodo Delphi si colloca nella fase istruttoria di prepara- un processo iterato di convergenza dei giudizi con round zione del Dossier (Fase Istruttoria, step 2, Fig. 3); di interviste. E’ noto che le analisi di scenario – alveo meto- dologico del Delphi Method- siano state introdotte da di interpretazione dei risultati dell’applicazione Multicriteria Dalkey e Helmer (Dalkey e Helmer 1963; Dalkey, 1969) e i suoi collaboratori alla RAND Corporation negli anni 50 sui temi di difesa nazionale e delle analisi e previsioni militari. Di recente la tecnica si è cimentata anche su studi tecno- logici e delle scienze sociali (Landeta, 2005). Il metodo, fin dalle sue sperimentazioni iniziali, presuppone la rileva- zione di dati statistici e informazioni qualitative, al fine di analizzare e prevedere fenomeni complessi e perfeziona- re analisi quantitative con valutazioni qualitative (Gaspari- ni, 2017), talvolta in sostituzione delle indagini statistiche tra- dizionali. Operativamente, la tecnica si avvale di assunti generali, che istruiscono alcuni step del processo decisionale della tec- nica (Brigato et al. 2010; Tintori, 2012). In letteratura i pas- saggi fondamentali, evidenziati in uno dei testi più noti sul Metodo (Linstone e Turoff, 1975), presuppongono: indivi- duazione di un panel di esperti (expertise e numero in rela- zione al campo applicativo), chiamati a rappresentare, a nome della collettività, realtà che conoscono meglio d’ogni altro, grazie al ruolo sociale o professionale che rivestono o che hanno rivestito (Sackman, 1974; Fabbris e Martini, 2008); rilevazione iterata di informazioni tramite questionari on line o interviste (in relazione al problema e al campo di appli- cazione), somministrate da rilevatori, garantendo l’indi- pendenza delle opinioni e l’anonimato dei componenti del panel, che devono esprimere pesi e giudizi esperti; fase di analisi dei dati e di reporting delle elaborazioni statistiche in un documento di feed-back controllato da parte del ricer- catore/intervistatore tra un rilevazione e l’altra; analisi stati- stica conclusiva delle risposte ottenute dall’insieme degli esperti, con attenzione ai livelli di convergenza dei giudizi e delle graduatorie di merito. In Figura 3 si riporta il processo Delphi, evidenziandone gli step più significativi e comuni a tutte le esperienze condotte dagli anni Cinquanta ad oggi (Gupta, Clarke, 1996; Okoli e Pawlowski, 2004) Recentemente, anche grazie al dibattito innescato già in passato da alcune letture critiche (Goldschmidt, 1975) sono stati generati interessanti sviluppi del Metodo, in partico- lare attraverso ibridazioni con altri approcci: per esempio con le analisi Multicriteria (Bottero et al., 2008) con la SWOT Figura 3 - Il processo Delphi: step significativi della procedura Analysis (Tintori, 2012), ed altri. Rispetto all’integrazione (Fonte: Coscia et al., 2019) 112 rivista valori e valutazioni n. 23 - 2019
Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto e decisione finale, che coinvolge le fasi di elaborazione saggi cruciali del processo si sta sviluppando una vivace finale dei dati del processo Delphi (Fase 2° questionario, letteratura. Per esempio, se classicamente il metodo cer- step 2, Fig. 3). ca di suscitare consenso sull’argomento in studio, recenti In particolare, il primo nodo testè richiamato, collocando- sperimentazioni Delphi analizzano il dissenso o mirano si nella Fase istruttoria del Metodo Delphi, si presenta qua- (Policy Delphi) a cercare una vasta gamma di opinioni sen- le ulteriore elemento del processo di costruzione degli za raggiungimento del consenso (Rieger, 1986; Plaisant, scenari e di individuazione degli obiettivi da perseguire. 2009; Castellani e Valente, 2012). Inoltre, sul tema del livel- Questi due momenti “tecnici” costituiscono la base per le lo di convergenza dei giudizi e del consenso sono stati con- interviste, iterate fino al raggiungimento dei valori attesi dotti studi (Fink e al., 1984; Diamond et al., 2014; Amendo- di convergenza delle opinioni e di consenso sul ranking la, 2016; Latif et al., 2016) che investigano la definizione di ciò degli scenari. La selezione degli esperti è indicato come che costituisce il consenso. Si adottano approcci diversi uno dei momenti più dibattuti dell’intero processo Delphi per definire il consenso, attraverso le misure formali di e su cui la comunità scientifica si è interrogata sovente. Tale accordo, considerando il grado di incertezza attorno a una apporto al metodo AHP trasferisce anche il ricco back- stima puntuale, in relazione alle risposte di gruppo o in ground, che Delphi ha affrontato e in parte risolto. Le que- proporzione al numero di partecipanti che hanno concor- stioni centrali indagate: dato su un punto di vista particolare. Interessante anche il dibattito (Skulmoski e al., 2007, Castellani e Valente, 2012) 1. il numero ideale di panelist da coinvolgere; sul ruolo dell’intervistatore/valutatore e le sue scelte nella 2. le modalità con cui pesare il loro giudizio, in base alle costruzione del panel di esperti. competenze peculiari di ciascun membro. La selezione Assumendo l’approccio Delphi più consolidato e speri- dei membri del panel avviene enfatizzando l’expertise mentato, al fine di rendere più chiaro l’apporto di questo dei singoli membri, visti non come portatori di interes- strumento rispetto al workflow in Figura 3, si presenta la si di parte, ma considerati quali esperti puri su tematiche Tabella 1. In questa sono posti in evidenza gli step della strategiche che gli scenari dovrebbero perseguire. proposta metodologica in cui il processo Delphi può offri- Il secondo nodo coinvolge il processo di ideazione del re elementi rafforzanti (con un sintetico riferimento agli questionario, che nel processo Delphi è strettamente lega- aspetti operativi sottesi). to al brainstorming di costruzione del dossier Delphi, che Ulteriori temi possono generare sviluppi di ricerca futuri. contiene gli scenari alternativi su cui effettuare la scelta e Fra questi, è da segnalare l’ulteriore messa a punto di ricercare il consenso. Il Metodo vede affrontare in modo approcci previsivi che coniughino le potenzialità “qualita- approfondito e articolato da parte del valutatore/anali- tive” delle analisi degli scenari, con quelle “quantitative” sta/intervistatore la fase istruttoria di identificazione dei della ricerca operativa. Ancora, lo sviluppo dell’applica- concept di intervento. E’ in questo step metodologico che zione del metodo rispetto allo sviluppo delle proposte pro- il valutatore (poi intervistatore) definisce i tre scenari meta- gettuali: il Delphi supporta efficacemente la scala prelimi- progettuali. Gli esperti – selezionati sulla base della loro nare degli interventi, mentre altre tecniche entrano in gio- autorevolezza in merito agli obiettivi strategici da perse- co nel processo di scelta alle scale progettuali più di det- guire – esprimono il loro giudizio “informato” sia con una taglio (definitiva ed esecutiva). scala di valutazione proposta dagli intervistati sugli scena- ri per obiettivi, sia con una scala di giudizi qualitativi sul grado di “attendibilità” del proprio giudizio e di quello dei 5. CONCLUSIONI componenti del panel. Nello scritto è stato illustrato il risultato di una prima fase La terza questione evidenzia la natura partecipativa e di di ricerca, cui seguirà un’applicazione pratica ad un caso stu- ricerca di “consenso competente” del processo Delphi, in dio reale, sulla base delle modalità operative definite. L’u- cui la strutturazione della interazione tra esperti in forma so congiunto dei metodi Multicriteria con il Delphi Method, anonima valida gli ordinamenti finali e restituisce output che come sottolineato anche in recenti dibattiti,non è nuovo, tengono conto sia del giudizio di soggetti portatori di infor- ma è stato qui riproposto poiché offre interessanti aper- mazioni esperte, sia del processo di “avvicinamento delle ture, che si possono sintetizzare: opinioni” (Jeste et al., 2010; Rodríguez-Mañas et al., 2012). Inoltre, recenti studi (Hsu e Sanford, 2007; Yousuf, 2007; 1. nella fase istruttoria, grazie all’apporto esperto del meto- Coscia et al., 2019) sottolineano che la fase di elaborazione do Delphi nella valutazione e attribuzione di pesi ai cri- statistica alla fine dei round di interviste è l’esito di giudizi teri dell’AHP e relativi ordinamenti, dopo aver analizza- di soggetti che non hanno avuto alcuna pressione, reale o to con cura il delicato momento di selezione e compo- percepita, per conformarsi alle risposte di un altro parte- sizione del panel; cipante e non sono stati influenzati da norme sociali, abi- 2. nel selezionare gli indicatori da valutare e misurare tudini, o dalla posizione “dominante” all’interno di una secondo l’approccio LCC+LCA; organizzazione. Con Delphi il valutatore elabora i risulta- 3. nel momento cruciale di validazione e di interpretazio- ti a partire dalle interviste e fornisce maggiore robustezza ne dei risultati, laddove questi ultimi sono stati raggiunti alla validazione degli ordinamenti finali dell’AHP. perseguendo anche l’obiettivo di minimizzare le aree E’ interessante notare che proprio in relazione a questi pas- di conflitto e gli elementi di aleatorietà. rivista valori e valutazioni n. 23 - 2019 113
Tabella 1 - Contributo del Delphi Method alla proposta metodologica Step metodologia Contributo Delphi Elementi rafforzanti Individuazione soggetti decisori Il metodo Delphi si basa su testimo- Strutturazione delle expertise nella nianze di esperti chiamati a rappre- fase di scelta sentare, a nome della collettività, realtà che conoscono meglio d’ogni altro, Minimizzazione della componente di grazie al ruolo sociale o professiona- arbitrarietà nei giudizi e nei pesi le che rivestono o che hanno rivestito. Essi sono leader nei loro settori di com- petenza Individuazione/selezione dei criteri di Le rilevazioni sono condotte iterando Criteri di giudizio che tengono conto giudizio e attribuzione dei relativi ordi- le domande fino al raggiungimento di del grado di expertise degli intervista- namenti di pesi un certo grado di convergenza, o di ti (proprio e degli altri esperti) consenso, tra gli esperti in merito alle stime Minimizzazione dell’incertezza La rilevazione iterata di informazioni Trasparenza nella attribuzione dei giu- avviene tramite questionari da auto- dizi e degli ordinamenti compilare o interviste somministrate da rilevatori, garantendo l’indipen- Diminuzione dell’”influenza incrocia- denza delle opinioni e l’anonimato ta dei giudizi” degli esperti Conoscenza incrementale nei criteri di giudizio Interpretazione dei risultati e decisio- I risultati esplicitano i livelli di diver- Momento di congiunzione tra gli ne finale genza su scenari e obiettivi e gli step approcci previsivi di tipo quantitativo di ricerca e miglioramento della con- e quelli di tipo qualitativo vergenza Analisi dei conflitti e confronto tra giu- L’analisi statistica può garantire che le dizi di valore di natura tecnica, econo- opinioni generate da ciascun esperto mica, sociale, ambientale e politica siano ben rappresentate nell’iterazio- ne finale perché, “(…) at the end of the Conflitti/divergenze risolti attraverso exercise there may still be a significant l’individuazione di soluzioni di com- spread in individual opinions” (Dalkey, promesso accettabile 1972, p. 21) Gli strumenti di analisi statistica con- sentono un’analisi obiettiva e impar- ziale e un riepilogo dei dati raccolti Come detto, l’uso congiunto di metodi Multicriteria e In particolare, è stata proposta una lettura specifica che Delphi è già stato oggetto di studi; al contrario, l’uso richiama e assume i principi del Life Cycle Thinking, con congiunto di approcci LCC e LCA per la misurazione in l’obiettivo di sperimentare nuove sinergie fra metodi mul- termini quantitativi di criteri di sostenibilità è ancora tiricriteria e approcci al ciclo di vita. Alcuni affondi di ordi- scarsamente trattata in letteratura. Considerando i risul- ne operativo sono stati proposti, in specifico per il calcolo tati di precedenti ricerche finalizzate ad esplorare l’uso di indicatori misurabili, semplici o composti, in relazione a di approcci al ciclo di vita nelle applicazioni di Problem criteri economico-ambientali. Contestualmente, sono sta- Structuring Methods (Fregonara, 2009; Fregonara et. al, ti messi a fuoco i potenziali contributi dei metodi di prefi- 2013; Norese et al., 2015, Fregonara et al., 2016) in que- gurazione di scenari e di processi e metodi per raggiunge- sto contributo è stata proposta la congiunzione fra re la convergenza delle opinioni e dei giudizi su problemi approcci al ciclo di vita e metodi Multicriteriali, in spe- complessi per rafforzare alcuni passaggi fragili dei processi cifico l’approccio AHP. multicriteria. 114 rivista valori e valutazioni n. 23 - 2019
Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto * Elena Fregonara, Dipartimento di Architettura e Design, Politecnico di Torino e-mail: elena.fregonara@polito.it ** Cristina Coscia, Dipartimento di Architettura e Design, Politecnico di Torino e-mail: cristina.coscia@polito.it Bibliografia DEPARTMENT OF ENERGY (DOE), Life Cycle Cost Handbook Guidance for Life Cycle Cost Estimate and Life Cycle Cost ASHOK S., TEWARI H. R., BEHERA M. D., & MAJUMDAR A., Devel- Analysis, Washington, D.C., USA, 2014. opment of ecotourism sustainability assessment frame- DIAMOND I. R., GRANT R. C., FELDMAN B. M., PENCHARZ P. B., LING work employing Delphi, C&I and participatory methods: A S. C., MOORE A. M., WALES P. W., Defining consensus: a sys- case study of KBR, West Sikkim, India., Tourism Manage- ment Perspectives, n. 21, 2017, pp. 24-41. tematic review recommends methodologic criteria for reporting of Delphi studies, Journal of clinical epidemio- AMENDOLA G., La Città Giusta, Valori e Valutazioni, Vol. 17, logy, Vol. 67, n. 4, 2014, pp. 401-409. 2016, pp. 13-14. Directive 2018/844/EU of the European Parliament and of BASBAGILL F., FLAGER M., LEPECH M., FISCHER M., Application of the Council of 30 May 2018 amending Directive 2010/31/EU Life-cycle Assessment to Early Stage Building Design for on the energy performance of buildings and Directive Reduced Embodied Environmental Impacts, Building and 2012/27/EU on energy efficiency Environment, Vol. 60, 2013, pp. 81-92. Dlgs 50/2016 - Il nuovo Codice dei contratti pubblici Decre- BENTIVEGNA V., Dialogo e trasparenza nei processi decisionali, to legislativo 18 aprile 2016, n. 50. Valori e Valutazioni, Vol. 17, 2016, pp. 25-28. Decreto-legge 14 dicembre 2018 n. 135 in materia di sem- BOTTERO M., LAMI I. M., LOMBARDI P., Analytic network process: plificazioni. la valutazione di scenari di trasformazione urbana e terri- toriale, Alinea Editrice, 2008. EUROPEAN COMMITTEE FOR STANDARDIZATION (CEN), Standard EN ISO 15459:2007, Energy performance of buildings - Eco- BOTTERO M., L’Analisi Multicriteri. Intervista a Bernard Roy, nomic evaluation procedure for energy systems in buil- Valori e Valutazioni, Vol. 13, 2014, pp. 7-24. dings, Brussels, 2007. BOUSSABAINE A., KIRKHAM R., Whole Life-Cycle Costing: Risk EUROPEAN PARLIAMENT, Directive 2010/31/EU of the European and Risk Responses, Blackwell Publishing, Oxford, UK, 2004. Parliament and of Council of 19 May 2010 on the energy BRIGATO M. V., COSCIA C., FREGONARA E., Il processo Delphi- performance of buildings (recast). Official Journal of the Multicriteria: proposta metodologica ed esempio di appli- European Union, Brussels, 2010. cazione nell’ambito degli interventi di valorizzazione, Val- ori e Valutazioni, Vol. 4/5, 2010, pp. 127-150. FABBRIS L., MARTINI M. C., I differenziali semantico ed espe- rienziale degli esperti e la rappresentazione di professioni CASTELLANI T., VALENTE A., Democrazia e partecipazione: la mediante il metodo Delphi, Definire figure professionali metodologia Delphi, IRPPS Working papers, Vol. 46, 2012. tramite testimoni privilegiati, Cleup, Padova, 2008. COSCIA C., FREGONARA E., Delphi Method e Multi-Criteria Eva- FATTINNANZI E., La qualità della città. Il ruolo della valutazio- luation a supporto delle scelte strategiche fra “metapro- ne nelle metodologie di redazione di piani e progetti, Valo- getti”, Estimo e valutazione. Metodologie e casi studio, R. ri e Valutazioni, Vol. 20, 2018, pp. 3-12. Curto, G. Stellin (a cura di), DEI, Roma, 2007, pp. 187-196. FINK A., KOSECOFF J., CHASSIN M., BROOK R. H., Consensus COSCIA C., DALPIAZ P. E., GIACOPELLI E., INFORTUNA G. M., Il caso methods: characteristics and guidelines for use, Ameri- dell’Unità Residenziale Est – Ex Hotel La Serra. Il Delphi can journal of public health, Vol. 74, n. 9, 1984, pp. 979- Method a support di scenari di interventi per “ri-scrivere” la 983. città di Ivrea, Valori e Valutazioni, Vol. 22, 2019, pp. 47-65. FIORINI R., L’appalto pubblico visto come un problema mul- DALKEY N., HELMER O., An experimental application of the Delphi method to the use of experts, Management science, ticriteria, tesi di LAurea, Università di Pisa, a.a. 2015-2016. Vol. 9, n. 3, 1963, pp. 458-467. FREGONARA E., Il Risk Management nei progetti di investi- DALKEY N. C., The Delphi method: An experimental study mento attraverso la Multi-Criteria Decision Analysis, Aesti- of group opinion, (No. RM-5888-PR). RAND CORP SANTA mum, Vol. 54, 2009, pag. 26. MONICA CALIF., 1969. FREGONARA E., CURTO R., GROSSO M., MELLANO P., ROLANDO D., DAVIS LANGDON MANAGEMENT CONSULTING, Life Cycle Costing TULLIANI J.M., Environmental Technology, Materials Science, (LCC) as a Contribution to Sustainable Construction: A Architectural Design, and Real Estate Market Evaluation: A Common Methodology—Final Methodology, 2007. Availa- Multidisciplinary Approach for Energy-Efficient Buildings, ble online: http://ec.europa.eu/enterprise/sectors/con- The Journal of Urban Technology, Vol. 20, 2013, pag. 24. struction/studies/life-cycle-costing_en.htm (accessed on FREGONARA E., GIORDANO R., ROLANDO D, TULLIANI J.M., Inte- 15 January 2019) grating Environmental and Economic Sustainability in New rivista valori e valutazioni n. 23 - 2019 115
Building Construction and Retrofits, The Journal of Urban LEGGE 30 dicembre 2018, n. 145, Bilancio di previsione del- Technology, Vol. 23, 2016, pag. 26. lo Stato per l’anno finanziario 2019 e bilancio pluriennale per FREGONARA E., GIORDANO R., FERRANDO D. G., PATTONO S., Eco- il triennio 2019-2021. (18G00172) (GU Serie Generale n.302 nomic-Environmental Indicators to Support Investment del 31-12-2018 - Suppl. Ordinario n. 62). Decisions: A Focus on the Buildings’ End-of-Life Stage, Build- LINSTONE H. A., TUROF M., The delphi method, Reading, MA: ings, Vol. 7 , n. 3, 2017a, pp. 1-20. Addison-Wesley, 1975, pp. 3-12. FALCONE G., DE LUCA A.I., STILLITANO T., STRANO A., ROMEO G., MA Z., COOPER P., DALY D., LEDO L., Existing building retro- GULISANO G., Assessment of Environmental and Economic fits: Methodology and state-of-the-art, Energy and Build- Impacts of Vine-Growing Combining Life Cycle Assess- ings, Vol. 55, 2012, pp. 889–902. ment, Life Cycle Costing and Multicriterial Analysis, Sus- MONDINI G., Valutazioni integrate per la gestione delle nuo- tainability, Vol. 8, n. 793, 2016. ve sfide sociali, Valori e Valutazioni, Vol. 17, 2016, pp. 15-17. FIGUEIRA J., GRECO S., EHRGOTT M., Multiple Criteria Decision MURRY JR J. W., HAMMONS J. O., Delphi: A versatile method- Analysis. State of the Art Survey, Springer, New York, 2005. ology for conducting qualitative research, The Review of FLETCHER, A. J., & MARCHILDON, G. P., Using the Delphi method Higher Education, Vol. 18, n. 4, 1995, pp. 423-436. for qualitative, participatory action research in health lead- NORESE M.F., ROLANDO D., FREGONARA E., Integration of Prob- ership, International Journal of Qualitative Methods, Vol. 13, lem Structuring Methods: A Methodological Proposal for n. 1, 2014, pp. 1-18. Complex Regional Decision-Making Processes, Interna- GASPARINI A., Previsione e Futures studies, Futuribili, Rivista tional Journal Of Decision Support System Technology, di studi sul futuro e di previsione sociale, Vol. 22, n. 1, EUT Vol. 7, 2015, pag. 26. Edizioni Università di Trieste, 2017, pp. 245-263. NOVARA, A., La valorizzazione dei beni pubblici: nuove for- GLENN, J. C., Participatory methods, Washington, DC: Unit- me di concessione e strumenti per la valorizzazione, Doc- ed Nations University (Part of Glenn 1994a), 1994. toral dissertation Politecnico di Torino, 2015. GOLDSCHMIDT P.G., Scientific inquiry or political critique? OKOLI C., PAWLOWSKI S. D., The Delphi method as a research Remarks on Delphi assessment, expert opinion, forecasting, tool: an example, design considerations and applications, and group process, by H. Sackman, Technological Fore- Information & management, Vol. 42, n. 1, 2014, pp. 15-29. casting and Social Change, Vol. 7, n. 2, 1975, pp. 195-213. PLAISANT A., La partecipazione nel governo delle trasforma- GUPTA U. G., CLARKE R. E., Theory and applications of the Del- zioni del territorio. Strumenti innovativi per costruire la città phi technique: A bibliography (1975–1994), Technological dei diritti, Franco Angeli, Milano, 2009. forecasting and social change, Vol. 53, n. 2, 1996, pp.185-211. PONTI M., BERIA P., Alcune note sulla valutazione dei pro- HSU C.C., SANDFORD B. A., The Delphi technique: making getti infrastrutturali in Italia, TRASPOL Working Paper, 2011. sense of consensus, Practical assessment, research & eval- RE CECCONI F., TAGLIABUE L. C., MALTESE S., ZUCCARO M., A mul- uation, Vol. 12, n. 10, 2007, pp. 1-8. ti-criteria framework for decision process in retrofit option- International Organization for Standardization. ISO eering through interactive data flow, Procedia Engineer- 15686:2008; Buildings and Constructed Assets—Service- ing, n. 180, 2017, pp. 859-869. Life Planning—Part 5: Life Cycle Costing; ISO/TC 59/CS 14; RIEGER W. G., Directions in Delphi developments: Disserta- International Organization for Standardization, Geneva, tions and their quality, Technological Forecasting and Social 2008. Change, Vol. 29, n. 2, pp. 195-204. ISO 14040:2006. Environmental Management – Life Cycle RODRÍGUEZ-MAÑAS L., FÉART C., MANN G., VIÑA J., CHATTERJI S., Assessment – Principles and Framework, July 2006. CHODZKO-ZAJKO W., SCUTERI A., Searching for an operational JESTE D. V., ARDELT M., BLAZER D., KRAEMER H. C., VAILLANT G., definition of frailty: a Delphi method based consensus state- MEEKS T. W., Expert consensus on characteristics of wisdom: ment. The frailty operative definition-consensus conference a delphi method study, The gerontologist, Vol. 50, n. 5, 2010, project, Journals of Gerontology Series A: Biomedical Sci- pp. 668-680. ences and Medical Sciences, Vol. 68, n. 1, 2012, pp. 62-67. KEZAR A., MAXEY D., The Delphi technique: An untapped SAATY R. W., The Analythic Hieracy Process – What it is and approach of participatory research, International journal how it is used, Math Modelling, Vol. 9, 1987, pp.161 – 176. of social research methodology, Vol. 19, n. 2, 2016, pp. 143- SAATY T. L., The Analytic Hierarchy Process, New York, 160. McGraw Hill, 1980. LANDETA J., Current validity of the Delphi method in social sci- SAATY T. L., Axiomatic Foundation of the Analytic Hierarchy ences, Technological forecasting and social change, Vol. Process, Management Sciences, Vol. 32, n. 7, 1986. 73, n. 5, 2006, pp. 467-482. SAATY T. L., Fundamentals of decision making and priority LATIF R. A., MOHAMED R., DAHLAN A. H., NOR H., MAT M. Z., Using theory with the Analytic Hierarchy Process, Pittsburg, RWS Delphi Technique: Making Sense of Consensus in Concept Publications, 2000. Mapping Structure and Multiple Choice Questions (MCQ), SAATY T. L., VARGAS L. G., Decision making with the Analytic Education in Medicine Journal, Vol. 8, n. 3, 2016. Network Process, New York, Springer Science, 2006. 116 rivista valori e valutazioni n. 23 - 2019
Analisi Multi Criteria, approcci Life Cycle e Delphi Method: una proposta metodologica per valutare scenari di progetto SACKMAN H., Delphi assessment: Expert opinion, forecasting, TINTORI A., Il Metodo Delphi E Politiche Per Lo Sport, and group process, (No. RAND-R-1283-PR) RAND CORP SDS–Scuola dello Sport, 2012, pp. 3-13. SANTA MONICA CA, 1974. YOUSUF M. I., Using experts’ opinions through Delphi tech- STAGI L., Il focus group come tecnica di valutazione. Pregi, nique. Practical assessment, Research & evaluation, Vol. 12, n. 4, 2007, pp.1-8. difetti, potenzialità., Rassegna italiana di valutazione, n. 20, 2000, pp. 61-82. ZIMMERMANN, M., DARKOW, I. L., HEIKO, A., Integrating Delphi and participatory backcasting in pursuit of trustworthiness SKULMOSKI G. J., HARTMAN F. T., KRAHN J., The Delphi method - the case of electric mobility in Germany, Technological for graduate research, Journal of Information Technology Forecasting and Social Change, Vol. 79, n. 9, 2012, pp. 1605- Education: Research, Vol. 6, 2007, pp. 1-21. 1621. rivista valori e valutazioni n. 23 - 2019 117
Puoi anche leggere