“L’inganno dell’IA”: il libro che smonta il tecno-ottimismo contemporaneo

Negli ultimi anni l’intelligenza artificiale è stata raccontata come una tecnologia destinata a trasformare ogni ambito della vita umana. Promesse di rivoluzioni produttive, creatività automatizzata e soluzioni rapide a problemi complessi alimentano un entusiasmo diffuso. Ma cosa c’è davvero dietro questa narrazione?
A questa domanda prova a rispondere il libro di Emily M. Bender e Alex Hanna, due tra le studiose più note nel dibattito internazionale sull’IA. Il volume, emblematicamente intitolato L’inganno dell’intelligenza artificiale. Come resistere a Big Tech e costruire il futuro che vogliamo e in uscita per Fazi Editore il 17 marzo, affronta il tema con un approccio critico e riccamente documentato, cercando di ridimensionare l’immagine quasi “magica” con cui queste tecnologie vengono spesso presentate.

Secondo le autrici, ciò che oggi viene venduto come intelligenza artificiale è in gran parte costituito da sistemi statistici su larga scala capaci di generare testi e immagini senza comprenderli realmente. Non si tratta quindi di “macchine pensanti”, ma di modelli che rielaborano enormi quantità di dati linguistici. È in questo contesto che Bender ha reso popolare la definizione di «pappagalli stocastici», utilizzata per descrivere il funzionamento e i limiti dei grandi modelli linguistici (LLM) alla base di sistemi come ChatGPT e Gemini.
Il libro ripercorre le radici culturali del tecno-ottimismo contemporaneo e cerca di chiarire cosa sia davvero l’IA, come funziona e quali siano i suoi limiti. Bender e Hanna contestano alcuni dei miti più diffusi: l’idea della neutralità delle macchine, l’inevitabilità dell’automazione e la convinzione che l’innovazione tecnologica proceda indipendentemente dalle scelte politiche e sociali.
Emily M. Bender e Alex Hanna esaminano inoltre l’uso crescente di questi sistemi in diversi ambiti – lavoro, sanità, giustizia, istruzione, scienza, arte e giornalismo – mettendo in luce alcune criticità: dataset raccolti senza consenso, lavoro umano invisibile e spesso sottopagato, un impatto ambientale in crescita e una comunicazione aziendale che tende a trasformare promesse speculative in applicazioni concrete.

Emily M. Bender e Alex Hanna

Il libro solleva anche una serie di domande che attraversano oggi il dibattito pubblico: l’IA renderà le persone più competenti o più dipendenti? Contribuirà a una società più equa o accentuerà le disuguaglianze? E soprattutto: chi risponde quando un algoritmo sbaglia?
Nella prefazione le autrici spiegano così l’origine del progetto: «Questo libro è il risultato di una felice collaborazione tra una linguista (Emily) e una sociologa (Alex), centrata sull’impegno condiviso di smontare l’hype sull’IA grazie a un lavoro di analisi basato sui nostri campi di studio accademico e sul nostro umorismo pungente».

Il volume ha suscitato reazioni e commenti da parte di studiosi, osservatori e figure pubbliche. L’economista ed ex ministro delle finanze greco Yanis Varoufakis lo definisce «un libro che immunizza la mente dall’esaltazione utopistica dell’IA promossa dalle Big Tech».
Per la ricercatrice Timnit Gebru, tra le voci più influenti nel campo dell’etica dell’IA, si tratta di «una lettura imperdibile. Bender e Hanna offrono l’immagine più chiara di che cosa sia l’IA, che cosa non sia e perché nessuno di noi debba accettare che ci venga imposta a forza».
Anche la rivista scientifica Science sottolinea l’analisi storica proposta nel volume: «Ripercorrendo le origini dell’hype sull’intelligenza artificiale dal militarismo della guerra fredda all’entusiasmo tecnologico contemporaneo, il libro spiega come le promesse esagerate e le paure apocalittiche alimentino “l’inganno dell’IA”, favorendo gli interessi economici e oscurando al contempo l’impatto reale di queste tecnologie sulla vita delle persone».
Il musicista e produttore Brian Eno osserva invece: «L’ondata di entusiasmo, disinformazione e clamore intorno all’IA ha spinto molti di noi a desiderare una guida onesta sia alle sue promesse sia ai suoi limiti, oltre che alla sua bizzarra storia. Se, come me, siete tra questi, dovete leggere questo libro. È chiaro, obiettivo e comprensibile. È una lettura indispensabile».

Pur muovendosi da una posizione critica verso le narrazioni dominanti sull’intelligenza artificiale, il libro non chiude il confronto. Piuttosto, offre strumenti e argomenti per un dibattito che appare sempre più necessario. La diffusione dei sistemi di IA generativa sta infatti ridefinendo il rapporto tra tecnologia, lavoro e conoscenza. In questo scenario, analisi come quella proposta da Bender e Hanna non rappresentano necessariamente una risposta definitiva, ma contribuiscono a porre le domande giuste su come vogliamo convivere con queste tecnologie e su quali condizioni democratiche debbano guidarne lo sviluppo.