Se la macchina diventa intelligente, noi cosa diventiamo?

 

Da qualche tempo discutiamo dell’Intelligenza Artificiale soprattutto chiedendoci che cosa sarà capace di fare.

Sostituirà alcuni lavori? Saprà creare immagini, diagnosticare malattie, progettare edifici? Arriverà un giorno a ragionare come noi?

Sono domande comprensibili. Ma forse ce n’è un’altra, meno evidente, che riguarda non le macchine ma noi stessi: che cosa stiamo chiamando intelligenza?

Me lo sono chiesto leggendo La sostenibile potenzialità dell’Umana Intelligenza Artificiale, un saggio di Alessandra Bracci pubblicato nel 2025 su Economia Aziendale Online.

È una domanda che su Acrònico avevo cominciato a pormi già nel 2016, chiedendomi se il futuro avrebbe avuto ancora bisogno dell’uomo.

Bracci parte da una frase attribuita al biologo Edward O. Wilson che fotografa piuttosto bene la nostra condizione: abbiamo «emozioni paleolitiche, istituzioni medioevali e tecnologia divina».

Il problema potrebbe essere tutto in questa sproporzione.

La tecnologia procede con una velocità straordinaria. La nostra capacità di comprenderne le conseguenze, molto meno.

Una macchina di carne?

Per costruire qualcosa che chiamiamo Intelligenza Artificiale abbiamo dovuto prima decidere, più o meno esplicitamente, che cosa fosse l’intelligenza umana.

E qui le cose diventano interessanti.

Marvin Minsky arrivò a definire il cervello «una macchina di carne». Se ciò che chiamiamo pensiero è il risultato di processi fisici ed elettrochimici sufficientemente complessi, almeno in linea di principio dovrebbe essere possibile riprodurli.

È una vecchia questione, naturalmente. John Searle distingueva già tra un’Intelligenza Artificiale «debole», capace di svolgere compiti complessi senza possedere coscienza, e un’Intelligenza Artificiale «forte», alla quale si attribuisce invece la possibilità di una vera vita mentale.

Oggi la questione è diventata meno astratta perché abbiamo davanti macchine che producono testi, immagini e musica, conversano con noi e risolvono problemi che fino a pochi anni fa consideravamo prerogativa dell’intelligenza umana.

E inevitabilmente nasce l’equivoco: se una macchina fa qualcosa che facevamo noi, siamo portati a pensare che lo faccia come noi.

Ma le due cose non sono affatto equivalenti.

Calcolare non significa comprendere

Nel suo saggio Alessandra Bracci insiste molto sulla differenza tra capacità di elaborazione e comprensione.

Federico Faggin l’ha espressa in maniera particolarmente efficace: «La vera intelligenza non consiste solo nella capacità di calcolare ed elaborare dati.» Per Faggin l’intelligenza è soprattutto intus-legere: leggere dentro, comprendere, trovare connessioni inattese tra campi differenti.

È una distinzione sulla quale ero già tornato qualche anno fa in Artificiale, ma non chiamatela Intelligenza: produrre una risposta corretta non significa necessariamente comprenderne il significato.

Ed è proprio qui che la questione dell’Intelligenza Artificiale diventa, almeno per me, più interessante.

Una macchina può esaminare in pochi secondi una quantità di informazioni che nessun essere umano potrebbe leggere in una vita. Può riconoscere regolarità, confrontare possibilità, calcolare probabilità e produrre risultati sorprendenti.

Ma quando diciamo che ha capito, che cosa intendiamo? Forse stiamo usando la stessa parola per indicare due fenomeni profondamente diversi.

Bracci individua nell’analogia, nel simbolo e nell’intuizione alcune caratteristiche fondamentali del pensiero umano. Non ci limitiamo a collegare una causa a un effetto. Mettiamo continuamente in relazione cose lontane, costruiamo metafore, attribuiamo significati, riconosciamo qualcosa di noi in un’immagine, in una musica, in una storia. (v. “Oltre la razionalità: una sfida per l’uomo moderno”)

Soprattutto, facciamo tutto questo attraverso una vita vissuta.

Un ricordo non è soltanto un’informazione conservata. Porta con sé un corpo, un’emozione, altri ricordi, persone, luoghi. Una parola pronunciata oggi può significare qualcosa di completamente diverso dalla stessa parola ascoltata trent’anni fa.

Forse è anche questo che chiamiamo coscienza.

Il rischio non è che le macchine diventino umane

A questo punto si potrebbe pensare che il problema sia difendere una qualche superiorità dell’essere umano. Non credo sia questo il punto.

Il rischio più interessante indicato da Bracci mi sembra quasi opposto: non che le macchine diventino simili a noi, ma che noi cominciamo a pensare a noi stessi come macchine.

Il linguaggio che utilizziamo già lo rivela. Elaboriamo informazioni. Siamo più o meno performanti. Dobbiamo ottimizzare il tempo. Il cervello sarebbe un computer, la memoria un archivio, il corpo una macchina biologica.

Sono metafore utili. Ma una metafora, quando la utilizziamo troppo a lungo, rischia di diventare una descrizione della realtà,  allora può accadere qualcosa di curioso.

Costruiamo macchine ispirandoci a una certa idea dell’intelligenza umana e poi utilizziamo quelle stesse macchine per spiegare che cosa sia l’uomo.

Il cerchio si chiude.

Il coltello

Bracci usa un’immagine molto semplice: l’Intelligenza Artificiale può essere paragonata a un coltello. Può trovarsi nella mano di un chirurgo che salva una vita oppure in quella di qualcuno che la toglie. Non attribuiamo al coltello la responsabilità dell’azione.

Con l’AI, però, la faccenda è più complicata.

Gli strumenti digitali non sono necessariamente neutrali nel modo in cui vengono progettati e utilizzati. Tristan Harris, che ha lavorato sull’etica del design in Google, descrisse anni fa una sorta di enorme «sala di controllo» capace di influenzare pensieri e comportamenti di miliardi di persone.

La questione allora non è stabilire se l’Intelligenza Artificiale sia buona o cattiva: è chiedersi quale intenzione umana stiamo mettendo dentro la tecnologia.

Chi decide che cosa deve ottimizzare un algoritmo? Più attenzione? Più acquisti? Più tempo trascorso davanti a uno schermo? Maggiore conoscenza? Migliore qualità della vita?

Una macchina può essere straordinariamente efficiente nel raggiungere un obiettivo.

Rimane da capire chi abbia scelto quell’obiettivo.

La domanda che viene prima

È probabilmente questo il passaggio del saggio della Bracci che trovo più importante.

Siamo abituati a distinguere il know-what, sapere che cosa facciamo, dal know-how, sapere come farlo. Ma dovremmo recuperare una terza domanda: il know-why. Perché lo facciamo?

Sembra una domanda banale. In realtà è quella che la tecnologia non può porre al nostro posto.

Possiamo costruire sistemi sempre più potenti, più veloci, più autonomi. Possiamo affidare loro una quantità crescente di decisioni. Ma nessun aumento della potenza di calcolo può dirci perché un certo obiettivo dovrebbe essere perseguito.

Quella decisione rimane nostra.

Edgar Morin ha scritto che «il fiammifero che accendiamo nel buio non solo rischiara il piccolo spazio, ma rivela anche l’enorme oscurità che ci circonda».

Forse l’Intelligenza Artificiale sta facendo qualcosa di simile.

Più diventa capace, più rende evidente quanto poco sappiamo ancora di ciò che chiamiamo intelligenza. Più imita il nostro linguaggio, più siamo costretti a domandarci che cosa significhi davvero comprendere. Più riesce a riprodurre alcune nostre capacità, più diventa difficile evitare la domanda su ciò che non può essere ridotto a quelle capacità.

Per questo non credo che la questione più interessante sia sapere quando una macchina diventerà simile all’uomo.

La domanda che mi interessa è un’altra.

Mentre cerchiamo di rendere le macchine sempre più intelligenti, stiamo facendo abbastanza per capire che cosa significa esserlo noi?

_______________________________

Riferimento: Alessandra Bracci, La sostenibile potenzialità dell’Umana Intelligenza Artificiale, Economia Aziendale Online – Business and Management Sciences International Quarterly Review, vol. 16, n. 1/2025, pp. 243-262.