L'AI non ha obiettivi. E noi sì?

Qualche settimana fa ho letto una vecchia intervista a un chirurgo di fama internazionale. Gli chiedevano come era arrivato a scegliere quella professione. Lui rispose con una precisione quasi imbarazzante: a sette anni suo padre lo aveva portato in ospedale a trovare un amico. Nell'atrio c'era un medico in camice bianco che parlava con una famiglia. Il bambino non capì le parole ma rimase colpito dal modo in cui quelle persone lo ascoltavano. Dal peso che sembrava avere la sua presenza.

Da quel giorno, disse, aveva sempre voluto fare il medico.

Questa storia è importante non per quello che racconta di lui, ma per quello che rivela di tutti noi.

1. LA CERTEZZA CHE CI RASSICURA

C'è una frase che si sente ripetere spesso nei convegni sull'intelligenza artificiale, nei podcast, negli editoriali: "Le macchine non hanno obiettivi propri. Fanno quello per cui sono state programmate."

È una di quelle affermazioni che sembrano ovvie. Quasi banali. E proprio per questo meritano di essere guardate da vicino.

L'idea che le macchine non abbiano scopi propri è, per molti, una forma di conforto. Significa che il controllo resta in mano nostra. Che l'AI sia uno strumento — sofisticato quanto si vuole, ma pur sempre uno strumento — e che gli obiettivi vengono sempre da fuori, da noi, dagli esseri umani che decidono cosa ottimizzare, cosa costruire, cosa perseguire.

Un martello non vuole piantare chiodi. Un motore non vuole muoversi. E un modello linguistico non vuole risponderti: esegue una funzione che qualcuno ha definito come "rispondere".

Questa distinzione — tra ciò che vuole e ciò che esegue — è alla base di quasi tutta la riflessione contemporanea sull'AI. È il confine che separa lo strumento dall'agente, la macchina dall'essere vivente.

Ma prima di essere soddisfatti di questa risposta, vale la pena tornare al chirurgo di sette anni davanti a quell'atrio.

2. DA DOVE VENGONO I TUOI OBIETTIVI

Pensa all'ultima volta che hai fatto una scelta importante. Un lavoro accettato o rifiutato. Una città in cui sei rimasto o da cui sei andato via. Una relazione che hai scelto di costruire o di lasciare andare.

Se provi a risalire a ritroso, a cercare il momento in cui quella scelta ha cominciato a formarsi, difficilmente troverai un istante preciso in cui hai deliberato a mente fredda. Troverai invece qualcosa di più somigliante a una sedimentazione: un'immagine vista da bambino, una frase sentita da un insegnante, un'estate in cui hai capito che certe cose ti pesavano e altre no. Una serie di esperienze che non hai scelto, che hanno lavorato in silenzio, e che a un certo punto hanno prodotto qualcosa che hai chiamato "la tua scelta".

Il chirurgo non ha scelto di rimanere colpito da quella scena. È successo. E quella scena lo ha definito, almeno in parte, prima che lui avesse gli strumenti per valutarla.

Non è un caso isolato. Nel 2009 Malcolm Gladwell, nel suo libro Outliers, analizzò le date di nascita dei migliori hockeisti canadesi e scoprì qualcosa di sorprendente: la maggior parte era nata tra gennaio e marzo.

Non era una coincidenza. In Canada, il limite di età per le squadre giovanili è il 1° gennaio. Questo significa che un bambino nato a gennaio e uno nato a dicembre dello stesso anno finiscono nella stessa categoria — ma il primo ha quasi dodici mesi in più.

A sei, sette anni, dodici mesi sono un abisso: più coordinazione, più forza, più maturità. Gli allenatori li notano di più, li selezionano, li mettono nelle squadre migliori. Lì ricevono più allenamento, più attenzione, più ore di pratica. E col tempo, quella che era solo un vantaggio anagrafico casuale diventa un vantaggio reale, costruito anno dopo anno.

Nessuno di quegli atleti aveva scelto il mese in cui nascere. Eppure quella variabile — del tutto fuori dal loro controllo — aveva influenzato in modo misurabile chi sarebbero diventati. E soprattutto: chi avrebbero voluto diventare.

Nessuno di noi ha scelto la famiglia. Nessuno ha scelto la lingua madre, che è il filtro attraverso cui pensa il mondo prima ancora di sapere di farlo.

Non hai scelto i valori trasmessi durante l'infanzia, quando il cervello è ancora una spugna che assorbe tutto senza distinguere il fondamentale dal casuale.

Quello che chiami "il tuo obiettivo" è, in larga parte, il risultato di un addestramento che ha avuto inizio molto prima che tu fossi in grado di valutarlo.

3. UN ADDESTRAMENTO CHE NON ABBIAMO RICHIESTO

C'è una parola che nella letteratura tecnica sull'intelligenza artificiale ricorre in continuazione: training. Addestramento. Un modello viene esposto a enormi quantità di dati, e da quell'esposizione emergono comportamenti, preferenze, risposte. Il modello non ha scelto i dati. Non ha scelto la funzione obiettivo. Non ha deciso cosa ottimizzare.

È difficile non notare la somiglianza.

Anche noi siamo stati esposti, sin dalla nascita, a quantità enormi di "dati": conversazioni, premi, punizioni, storie, modelli di comportamento. Anche noi, da quell'esposizione, abbiamo sviluppato preferenze, valori, obiettivi. Anche noi non abbiamo scelto il “dataset”.

Pensa a quante persone conosci che hanno inseguito per anni una carriera perché "era quello che volevano" — e che a quarant'anni si sono accorte che in realtà era quello che la loro famiglia si aspettava. Non perché fossero state ingannate. Ma perché quella aspettativa era entrata così presto e così in profondità da diventare indistinguibile da un desiderio autentico.

La differenza con una macchina è che noi siamo consapevoli. Che possiamo riflettere sui nostri condizionamenti, prenderne le distanze, scegliere diversamente.

È vero. Ma quella capacità di riflessione da dove viene? Anche lei è il prodotto di una certa educazione, di una certa cultura che valorizza il pensiero critico. Non l'abbiamo costruita dal nulla.

4. IL PROBLEMA NON E' LA MACCHINA. SIAMO NOI.

Nel 1950, Alan Turing scrisse che la domanda "le macchine possono pensare?" era così mal posta da non meritare risposta. Quello che stava davvero chiedendo era: cambierà il significato della parola "pensare"?

Credo che qualcosa di simile stia accadendo con la parola "obiettivo".

Quando diciamo che le macchine non hanno obiettivi propri, stiamo usando una distinzione che diamo per scontata — tra ciò che è originato dall'interno e ciò che è imposto dall'esterno. Ma questa distinzione, applicata agli esseri umani, è molto meno solida di quanto sembri.

Non è che l'uomo ha obiettivi e la macchina no. È che nessuno dei due li ha generati dal nulla.

La differenza reale non è nell'origine degli obiettivi. È in qualcos'altro. Ed è la cosa più importante.

5. COSA RIMANE

Se gli obiettivi non ci appartengono del tutto, cosa rimane dell'intenzione?

Rimane una cosa sola: la capacità di interrogarli. E questa capacità non è un esercizio astratto. Ha conseguenze pratiche, concrete, quotidiane.

Una macchina ottimizza una funzione senza mai chiedersi se quella funzione valga la pena di essere ottimizzata. Non ha accesso alla domanda. Non può arretrare di un passo e dire: aspetta, questo obiettivo è davvero mio? Ha ancora senso? Lo voglio ancora?

Noi possiamo farlo. Non sempre lo facciamo — anzi, spesso non lo facciamo quasi mai. Ma la possibilità è lì.

Questa è la differenza tra i nostri obiettivi e quelli di una macchina.

C'è chi passa vent'anni a costruire una carriera che non ha mai scelto davvero, perché non si è mai fermato a chiedersi se fosse sua. C'è chi insegue relazioni che assomigliano a quelle dei propri genitori — le migliori o le peggiori — senza accorgersi che sta seguendo uno schema che risale a molto prima di qualsiasi scelta consapevole. C'è chi difende valori che non ha mai esaminato, come pacchi ricevuti per posta che nessuno ha mai scartato.

Interrogare i propri obiettivi non significa smettere di averne. Significa capire quali sono davvero tuoi — nel senso più profondo e onesto del termine. Quali resistono all'esame e quali invece si sgretolano appena li guardi.

Una macchina non può fare questo. Non perché sia stupida. Ma perché manca della sola cosa che rende possibile quella domanda: la capacità di sentire che qualcosa non quadra. Di avvertire una distanza tra quello che sta facendo e quello che è.

6. LA DOMANDA CHE L'AI CI RESTITUISCE

C'è qualcosa di paradossale in tutto questo.

Più l'intelligenza artificiale diventa capace — più si avvicina a comportamenti che sembrano intenzionali, più produce risultati che sembrano frutto di scelte — e più la domanda "ma lo vuole davvero?" si fa pressante. E più quella domanda si fa pressante, più siamo costretti a chiederci cosa voglia dire, per chiunque, volere qualcosa davvero.

Non è filosofia per il gusto della filosofia. È una domanda che riguarda come vivi. Quali battaglie scegli. A cosa dedichi il tempo che hai. Se stai correndo verso qualcosa o stai semplicemente continuando a correre perché hai sempre corso.

Forse il contributo più importante dell'intelligenza artificiale non sarà automatizzare il lavoro, o accelerare la ricerca scientifica, o generare contenuti a velocità industriale.

Forse sarà questo: costringerci a guardare noi stessi con la stessa lucidità con cui guardiamo le macchine. E chiederci, con più onestà di quanto abbiamo mai fatto, se gli obiettivi che inseguiamo li abbiamo scelti o se ci hanno scelto loro.

Il chirurgo di sette anni davanti all'atrio dell'ospedale non scelse niente. Ma da adulto, probabilmente, ha scelto di restare medico. O almeno, avrebbe potuto sceglierlo.

Quella possibilità di scelta — minima, fragile, spesso ignorata — è tutto quello che ci separa da una macchina molto ben addestrata.