Il paradosso dell’automazione

Nelle prime ore del 1° giugno 2009, il volo Air France 447 stava andando da Rio de Janeiro a Parigi. Tutto procedeva come al solito: i passeggeri dormivano, sonnecchiavano, leggevano o guardavano video. L’itinerario attraversava la zona di convergenza intertropicale passando al di sopra di un potente temporale. Alle 02.00, dopo un rapido aggiornamento, il capitano si prese una pausa e gli subentrarono i due copiloti. Dodici minuti più tardi, l’aereo sprofondò nell’Oceano Atlantico, uccidendo le 228 persone a bordo.

Che cos’era successo? Quattro minuti prima dello schianto, il pilota automatico si era disattivato. La disconnessione era dovuta ai rilevatori della velocità dell’aria che si erano ghiacciati non rilevando più dati attendibili. I due copiloti furono costretti a guidare l’aereo manualmente senza indicatori affidabili della velocità relativa. Nel giro di qualche secondo l’equipaggio si ritrovò in uno dei più pericolosi scenari di volo. Nessuno di loro aveva mai ricevuto istruzioni su come far condurre l’aereo in questa situazione ad altitudine di crociera. Quel che è peggio, nel momento in cui il pilota automatico si disattivò e l’aereo virò a destra, il pilota che guidava reagì effettuando una correzione a sinistra che era eccessiva per quella altitudine elevata e destabilizzò l’aereo.

Ad alte quote l’aria è rarefatta e sono necessarie piccole correzioni manuali rispetto alle basse quote. Il pilota cercò anche di indirizzare l’aereo in salita, cosa che gli fece perdere velocità. Ciò innescò due avvisi sonori di stallo nella cabina di pilotaggio. “Stallo” significa che non c’è più la velocità minima necessaria per far continuare a volare l’aereo, e che l’aereo precipita.

Ai piloti viene insegnato a dirigere il naso dell’aereo verso il basso in una situazione del genere, per riguadagnare velocità. Ma la registrazione della scatola nera mostrò che i piloti erano confusi riguardo a quel che stava accadendo. Il velivolo cadde come una pietra dal cielo. Si può solo immaginare quel che sperimentarono i passeggeri e l’equipaggio terrorizzati in quegli ultimi istanti. L’ultima velocità registrata prima dell’impatto era di sole 200 km/h.

Il rapporto finale dell’indagine mise in luce la mancanza di addestramento nel volo a quote elevate come un fattore che contribuì al disastro. Nel corso della crescente automazione degli aeroplani, le abilità di volo di base non erano insegnate a sufficienza. Il disastro del volo 447 aveva molte cause, alcune delle quali restano incerte, ma una cosa è chiara: l’incidente si sarebbe assolutamente potuto evitare.

L’automazione per gli eventi ordinari, gli umani per gli eventi inaspettati.

Le compagnie aeree e i costruttori di aeroplani furono tra i primi a rivolgere la loro attenzione ai piloti automatici. L’automazione può aumentare la sicurezza in situazioni che sono stabili e prevedibili, per esempio in una navigazione regolare ad alta quota, ma farvi affidamento in modo sistematico può dare come risultato piloti con scarsa esperienza sul da farsi se il pilota automatico viene meno. L’incidente del volo Air France 447 e altri disastri simili mostrano che i piloti sono diventati troppo dipendenti dai sistemi computerizzati e potrebbero non sapere che cosa fare se succede qualcosa di inatteso.

In risposta, la US Federal Aviation Administration pubblicò una “allerta di sicurezza per gli operatori” nel 2013, in cui si raccomandava che le compagnie aeree dessero istruzioni ai loro piloti di volare per meno tempo con il pilota automatico e più spesso usando le mani e la vista.

Al pari dell’Aviation Administration, la US Navy si accorse che la crescente dipendenza dall’automazione può essere fatale. Attorno al 2000, la marina militare aveva iniziato a eliminare gradualmente i vecchi modelli di addestramento basati sulla navigazione mediante l’osservazione delle stelle e l’uso di sestanti a favore di sistemi di navigazione elettronica come il gps.

Dopo l’entusiasmo iniziale suscitato dal fatto che una tecnologia informatica perfetta potesse rimpiazzare il giudizio umano imperfetto, la marina militare si rese conto che in una guerra è facile che i segnali satellitari vengano hackerati o bloccati, e che i satelliti possono anche essere abbattuti. Nel frattempo, l’accademia navale è tornata alle origini e insegna ai suoi membri a usare il proprio cervello.

A ben vedere, le automobili automatiche condividono lo stesso problema. I computer possono sostituirsi nello svolgimento di un numero sempre più alto di compiti ordinari, come parcheggiare o sorpassare in autostrada; Tuttavia se accade qualcosa di inaspettato, è necessario che subentri un conducente umano. A differenza dei piloti dell’Air France 447, i conducenti umani hanno ancora meno tempo per reagire, solo pochi secondi o frazioni di secondo, ecco perché c’è bisogno di automobilisti vigili nel traffico regolare.

Delegare le abilità di guida a computer di bordo e sensori non fa venir meno questa necessità. Una soluzione sarebbe quella di costruire autostrade o città chiuse e controllate che siano adattate alle capacità limitate dell’automazione.

Un’opzione del genere non sembra così facile da realizzare per l’aviazione. Il dilemma generale deriva dal principio del mondo stabile. Esternalizzare le abilità di navigazione funziona finché tutto procede secondo i piani, ma sono necessari umani vigili e addestrati per le situazioni che si verificano di punto in bianco. Il dilemma è noto come il paradosso dell’automazione.

Più è avanzato il sistema automatizzato, più è cruciale un controllore umano attento e dotato di esperienza.

Un dilemma simile esiste con i sistemi Gps. Questi sono immensamente utili per guidare e camminare. Ma basarsi abitualmente su di essi nella vita di tutti i giorni riduce lo sviluppo del ragionamento spaziale, comprese la capacità di navigazione e quella di formarsi una mappa mentale dell’ambiente. Quando usiamo sempre il Gps, al nostro cervello non importa costruire una mappa cognitiva di ciò che ci circonda. A malapena sappiamo dove sia il lago o il fiume, o dove siano il nord o il sud.

Se la batteria telefonica improvvisamente si esaurisce, non sapremmo dove si trovi il ristorante in cui ci aspettano i nostri amici, e poiché non abbiamo neppure memorizzato il loro numero di telefono, saremmo perduti. Potremmo non sapere come tornare a casa.

In un mondo di certezza, in cui il Gps funziona senza intoppi, il nostro senso dello spazio e della memoria potrebbe essere esternalizzato e ai quali si potrebbe rinunciare. Nel mondo reale, il Gps può fallire. Accadde già nel 2015 per oltre dodici ore a causa di guasti alla rete satellitare. Il Gps potrebbe avere un bug, avere le batterie scariche o essere vittima di un attacco internazionale di hackeraggio.

L’uso del navigatore satellitare iniziò come un’opzione. Aiutava a navigare in nuovi territori sconosciuti. Fare un uso eccessivo di questa opzione porta a un circolo vizioso. Le abilità precedenti — leggere una mappa, sapere dov’è il nord, memorizzare i cartelli stradali, notare i punti di riferimento — diventano sottoutilizzate o vanno interamente perse. Ciò, a sua volta, rende la gente più dipendente dal sistema. Quando accade qualcosa di inatteso, non c’è più alcuna opzione disponibile. Per rompere questo circolo vizioso, può servire sviluppare abitudini che consentano di valersi dei vantaggi della tecnologia Gps senza perdere tutte le proprie abilità di navigazione.

Alcuni usano il gps solo per trovare i posti nuovi, ma esercitano la propria memoria spaziale per raggiungere quelli vecchi. Altri usano il Gps mentre camminano ma tolgono l’audio.

Cercare di trovare i luoghi dove si è già stati con il proprio senso dello spazio fa sentire impegnati e vivi. Seguire senza prestare attenzione a comandi audio del tipo “svoltare a sinitra al prossimo incrocio” e fare esattamente quel che vi viene detto è la cosa peggiore per sviluppare il senso dello spazio.

Come ha mostrato un famoso studio condotto con tassisti londinesi, sviluppare un senso di navigazione modifica il vostro cervello. Questi tassisti che non avevano il Gps sviluppavano alterazioni nelle loro funzioni cerebrali a mano a mano che imparavano a navigare. Il cervello è come un muscolo: ha bisogno di essere esercitato, o lo usi o lo perdi.