Gli algoritmi di machine learning hanno imparato a risolvere problemi molto complessi, dai vistemi di visione ai chatbot capaci di partecipare alla comunicazione, e riescono a farlo perché non hanno bisogno di capire che cosa hanno in mente le persone. Per lo stesso motivo, le persone stesse possono apprendere nelle loro interazioni con gli algoritmi, anche se non li comprendono.
Un esempio è la leggendaria mossa 37 nella partita del marzo 2016 tra Lee Sedol, uno dei migliori giocatori di Go al mondo, e l’algoritmo AlphaGo, ideato da DeepMind (spin-off di Google), addestrato su milioni di partite tramite il reinforcement learning.
Il Go è un gioco da tavolo originario dell'Oriente, consiste nell'inserimento di pietre nere e bianche con l’obiettivo di circondare e conquistare il maggior territorio possibile, rendendolo un gioco di grande complessità e profondità strategica.
La mossa 37 è stata descritta dagli osservatori come assolutamente sorprendente e imprevedibile. Non era una mossa umana e non poteva provenire da nessuna mente umana. In effetti era stata prodotta da un algoritmo che non ha una mente, eppure ha consentito ad AlphaGo di vincere la partita e poi l’incontro. In seguito, questa mossa incomprensibile ha innescato un processo di apprendimento da parte dei giocatori umani, che ha trasformato profondamente la pratica del gioco. Rivedendo la mossa 37, i giocatori di Go l’hanno trovata geniale e ne hanno trovato spunto per ripensare le proprie strategie di gioco, migliorandole nettamente - cioè hanno imparato da AlphaGo. In seguito a questa revisione, lo stesso Lee Sedol ha prodotto la celebre e altamente improbabile (1 su 10 mila) mossa 78 (la mossa miracolosa) nella sua quarta partita con AlphaGo, la sola che è riuscito a vincere.
Sedol ha sconfitto l’algoritmo reinterpretando con abilità umane una mossa che nessun essere umano avrebbe potuto escogitare. Il comportamento incomprensibile di AlphaGo ha messo in luce delle possibilità che hanno potuto essere elaborate a modo loro dai giocatori umani per produrre dei risultati significativi. È probabile che l’algoritmo abbia successivamente incorporato la mossa 78 nelle sue procedure e abbia imparato a gestire le sue conseguenze; tuttavia, non sarebbe stato in grado di farlo senza l’essere umano che l’ha ideata. Nessun algoritmo può generare autonomamente delle contingenze, ma gli algoritmi possono elaborare in modi inediti le contingenze generate dagli esseri umani.
A tal proposito, per chi fosse interessato ad approfondire questo affascinante capitolo della storia del Go e dell’intelligenza artificiale, consiglio vivamente il documentario gratuito "AlphaGo – The Movie", disponibile su YouTube. Con una durata di circa un'ora e mezza, il film offre uno sguardo avvincente e dettagliato sulla sfida tra Lee Sedol e AlphaGo, esplorando l’impatto di questa competizione sulla comunità del Go e sulla nostra comprensione dell'AI.
Anche se gli algoritmi non sono degli alter ego, non seguono una strategia e non comprendono i nostri ragionamenti, nell’interazione con gli algoritmi gli utenti umani possono apprendere come sviluppare le proprie strategie. Non lo fanno attraverso una comprensione approfondita dei processi, ma sfruttando indizi e pattern che nessuno avrebbe potuto immaginare. Questo processo consente loro di cambiare il modo di osservare e migliorare le proprie pratiche.
La forza dell’AI risiede nella sua capacità di fornire spiegazioni basate su dati e pattern riconosciuti durante il training. Queste spiegazioni statistiche, pur non rappresentando una comprensione profonda delle contingenze o del significato intrinseco delle situazioni, sono sufficienti per produrre risultati significativi e innovativi. Gli algoritmi non "comprendendo" nel senso umano del termine, operano attraverso un sofisticato riconoscimento dei pattern che consente loro di adattarsi e rispondere in modi che spesso superano le aspettative umane.
Tale mancanza di comprensione non impedisce loro di funzionare efficacemente; al contrario, è proprio grazie a questa capacità di fornire spiegazioni basate su dati che l’AI può essere un partner utile e innovativo nella comunicazione e nella risoluzione dei problemi. La progettazione di algoritmi avanzati, quindi, si concentra su come rendere queste spiegazioni statistiche più comprensibili e utili per gli utenti umani, senza la necessità di una comprensione profonda da parte della macchina.
Il fatto che le persone usino la loro intelligenza per imparare da macchine non intelligenti è un’opportunità che consente di aumentare la propria capacità di esplorare nuovi orizzonti e soluzioni assolutamente innovative. Nel caso di Go si tratta della strategia di gioco, ma gli stessi meccanismi possono essere adottati dai professionisti nella progettazione di algoritmi sociali, industriali, finanziari eccetera.
In conclusione, l’approccio alla “spiegazione” (pattern recognition) non equivale a quello della “comprensione” delle relazioni di causa-effetto. Tuttavia, questa ipotesi rimane solo un’intuizione umana e non ha delle spiegazioni scientifiche in quanto disponiamo di pochissima conoscenza su come funzioni il nostro cervello.
Una domanda apertamente filosofica è: in fondo gli esseri umani fanno esattamente la stessa cosa oppure c’è di più nel modo in cui impariamo e interagiamo con il mondo? E se alla fine il risultato è lo stesso, tale distinzione avrebbe ancora senso?