Cosa sarebbe successo se..

Le previsioni scientifiche sono considerate il tratto caratteristico della scienza moderna. In particolare, la scienza avanza inventando ed introducendo nuovi concetti (per esempio la statistica) e gli strumenti per testare le previsioni da essi derivate.

La rivoluzione informatica iniziata nella metà dello scorso secolo è stata alimentata da un potere computazionale enormemente accresciuto e dai metodi di apprendimento automatico che sono decollati nel ventunesimo secolo. Assieme all’accesso a una quantità senza precedenti e ancora in crescita di dati, questi sviluppi hanno esteso il potere della predizione e la sua applicabilità a quasi tutti i settori, dalla sanità al trading finanziario, dal controllo qualità industriale alla prevenzione di frodi.

Le previsioni scientifiche non sono più confinate alla scienza. 
Le analisi predittive sono diventate altamente redditizie per l’economia andando a pervadere anche l’intero tessuto sociale. Le analisi predittive hanno convinto noi consumatori, elettori e cittadini attenti alla salute che questi potenti strumenti digitali fossero qui per servire i nostri bisogni e desideri più nascosti. 

Esiste un teorema sociale che afferma: “Se gli uomini definiscono certe situazioni come reali, esse sono reali nelle loro conseguenze”.

Questo enunciato lo dobbiamo al sociologo William Thomas, che nel 1928 intendeva spiegare come gli uomini, a partire dall’interpretazione che danno di una situazione, la fanno diventare “reale” e mettono in atto azioni e comportamenti che si adeguano alla situazione così codificata, in modo da dare supporto al significato dato alla situazione.

In questo senso, ci possiamo riferire alla “profezia che si autorealizza”, che prende origine da una definizione falsa della situazione ma che provoca un comportamento che rende reale tale concezione d’origine, adeguandosi all’interpretazione data.

L’esempio più celebre è quello di un gruppo di risparmiatori che temendo il crollo finanziario di una banca, ritira tutti i risparmi dalla banca stessa. Quest’ultima, che fino al giorno prima era solida e garantita, vede il tracollo immediato: i risparmiatori si comportano come se il fallimento fosse alle porte e ritirando tutti i propri averi, fanno in modo che le loro aspettative si concretizzano, ovvero la banca fallisce.

La propensione delle persone a orientarsi in relazione a ciò che fanno gli altri, specialmente in circostanze inattese, aumenta il potere predittivo degli algoritmi. Questa propensione ingigantisce l’illusione di avere il controllo, ma nel momento in cui tali strumenti prendono il sopravvento sul nostro discernimento ciò che perdiamo è la capacità di pensiero critico.

Di fatto finiamo col fidarci del pilota automatico mentre guidiamo alla cieca nella nebbia. Ci sono però situazioni in cui è cruciale disattivare il pilota automatico ed esercitare la nostra capacità di giudizio per decidere il da farsi. 

Gli algoritmi predittivi sono strumenti altamente efficienti che ci permettono di seguire e prevedere le dinamiche di una vasta gamma di attività, fallendo però miseramente nel comprendere i meccanismi causali che stanno alla loro base.

Da un lato ci affidiamo sempre di più a ciò che gli algoritmi predittivi ci dicono, spesso senza avere consapevolezza delle conseguenze inattese. Ci fidiamo del fatto che essi sappiano quali opzioni siano le migliori per noi, anche in questo caso senza considerare che ci possano essere altre opzioni per noi ugualmente degne di considerazione.
 
D’altro canto, si insinua una sfiducia nei confronti di queste tecnologie quando pensiamo al tema del futuro del lavoro o a quello relativo alla sorveglianza, sebbene siano argomenti ben noti e ampiamente discussi.

Questa ambivalenza è destinata a durare, perché, per quanto siano intelligenti gli algoritmi a cui ci affidiamo mentre procediamo nell’epoca digitale, non fanno che scovare correlazioni.

Quando le profezie che si autoavverano iniziano a proliferare, rischiamo di tornare a una visione del mondo deterministica in cui il futuro appare predeterminato e, di conseguenza, chiuso.

Lo spazio fondamentale all’interno del quale immaginare come diversamente potrebbero andare le cose inizia a restringersi. Vengono ridimensionate sia la motivazione sia la capacità di espandere i confini dell’immaginazione. Affidarsi esclusivamente all’efficacia predittiva offusca il bisogno di comprendere il perché e il come. Il rischio è che tutto ciò a cui attribuiamo importanza (i diritti umani, la cultura, i nostri valori eccetera) si atrofizzi. 

L’abilità umana di insegnare agli altri ciò che sappiamo e di cui abbiamo fatto esperienza inizia ad assomigliare a quella di una macchina che può insegnare a sé stessa e inventare le proprie regole. Tuttavia le macchine non hanno né empatia né senso di responsabilità. Solo gli esseri umani possono rispondere delle loro azioni e solo gli stessi hanno la libertà di assumersi le proprie responsabilità. 

Vogliamo davvero vivere in un mondo del tutto prevedibile, in cui le analisi predittive invadono e guidano i nostri più intimi pensieri e desideri? Ciò significherebbe rinunciare all’intrinseca incertezza del futuro, rimpiazzandola con la pericolosa illusione di avere il controllo su ogni cosa.

La verità è che un mondo interamente prevedibile non sarà mai raggiungibile. In questo caso dovremmo trovare il coraggio necessario ad affrontare le sfide ed i pericoli propri di un mondo falsamente percepito come deterministico.

La scienza, a partire dai teoremi di Godel e del principio di indeterminazione di Eisenberg, ha comprovato l’illusione che il mondo possa essere del tutto prevedibile, ed è a sostegno di un modello che abbracci l’incertezza. 

Ci siamo imbarcati in un viaggio per vivere in avanti assieme ad algoritmi predittivi che ci permettono di vedere ancora più in là. Fortunatamente, siamo sempre più consapevoli di quanto sia cruciale avere accesso a dati di qualità e del giusto tipo.

Perfino le reti neurali più sofisticate, modellate su una versione semplificata del cervello, sono in grado soltanto di calcolare coefficienti e di identificare schemi sulla base di dati che provengono dal passato. Non è coinvolto alcun ragionamento causale.

Alcuni scienziati informatici, come Judea Pearl, deplorano l’assenza di ogni forma di ricerca sulle relazioni di causa-effetto. La “vera intelligenza”, sostengono, coinvolge la comprensione causale. Se si vuole che la AI raggiunga questo livello, dev’essere in grado di ragionare in maniera controfattuale. Non è sufficiente che si limiti ad adattarsi a una curva lungo la linea temporale. È necessario che si apra al ragionamento per comprendere una frase come: “Che cosa sarebbe successo se..”.

La comprensione di ciò che abbiamo fatto in passato, al fine di predire il futuro, deve sempre coinvolgere l’elemento condizionale, ovvero la consapevolezza che avremmo potuto agire anche diversamente. Dobbiamo dunque assicurarci che l’intelligenza artificiale abbia la capacità di “conoscere”. Gli algoritmi di deep learning continueranno a fornire ai computer una “comprensione statistica” delle cose.

La comprensione riguarda anche la speranza di apprendere perché le cose funzionano. Se un sistema intelligente afferma di risolvere i problemi almeno altrettanto bene quanto gli esseri umani, non c’è ragione per non aspettarsi e non pretendere trasparenza e responsabilità da esso.

In definitiva, la capacità dell’algoritmo di produrre delle previsioni pratiche e misurabili che sono utili nelle nostre vite quotidiane — nella gestione dei sistemi sanitari, nel rendere gli affari più profittevoli— è così notevole che mettiamo facilmente da parte, o dimentichiamo, l’importanza della disparità tra comprensione e previsione. Non dobbiamo dunque cedere alla comodità dell’efficienza abbandonando il desiderio della comprensione.

La previsione non può limitarsi a mappare le traiettorie degli eventi in avanti, ma deve diventare una parte integrante della comprensione di come potremmo meglio vivere in avanti. Invece di prevedere cosa accadrà, ci dovrebbe aiutare a comprendere perché le cose accadono.

Dopo tutto, a renderci umani è la nostra ineguagliabile abilità di porre una domanda precisa: Perché (e come) avvengono le cose?