C’è una domanda che raramente viene posta quando si parla di intelligenza artificiale, forse perché la sua risposta è scomoda: chi ha deciso cosa è normale? Ogni sistema di IA viene presentato come uno strumento. Neutro, oggettivo, efficiente. Un martello non ha opinioni su come viene usato, si dice. Ma questa metafora è profondamente fuorviante, e smontarla richiede quello sguardo antropologico che ci permette di vedere ciò che è così vicino da essere invisibile.
Una cosmologia, non uno strumento
Claude Lévi-Strauss aveva mostrato che il mito non è una storia primitiva destinata a essere superata dalla scienza. È una macchina logica, un dispositivo culturale che serve a pensare le contraddizioni che una società non riesce a risolvere altrimenti. Il mito non spiega il mondo: lo organizza. Fornisce categorie, stabilisce gerarchie, disegna confini tra ciò che è umano e ciò che non lo è, tra ciò che appartiene all’ordine e ciò che appartiene al caos. Ogni cosmologia è, in questo senso, un mito operativo: una struttura che rende abitabile la realtà selezionando ciò che conta e relegando ai margini ciò che disturba.
Bernard Stiegler, filosofo francese scomparso nel 2020, ci ha insegnato che la tecnica non è esterna a questo processo, ma ne è il supporto materiale più antico. Prima della scrittura, prima del calendario, prima dell’architettura religiosa, c’erano gli utensili. E ogni utensile portava con sé una forma di memoria, una sedimentazione di gesti, di scelte, di valori che si trasmettevano attraverso l’uso. La tecnica è sempre stata il modo in cui l’essere umano esternalizza se stesso, deposita la propria visione del mondo in qualcosa che dura oltre il singolo corpo e la singola mente.
L’intelligenza artificiale è l’incontro di queste due tradizioni di pensiero portato alle sue conseguenze estreme. È un mito tecnico nel senso più preciso del termine: un sistema che organizza la realtà secondo categorie implicite, che media tra l’umano e ciò che lo eccede, che seleziona cosa è normale e cosa è anomalo, cosa merita di essere ricordato e cosa può essere dimenticato. Come il mito lévi-straussiano, non si presenta come interpretazione ma come struttura. Come la tecnica stiegleriana, non si limita a conservare la memoria umana: la trasforma mentre la amplifica. La differenza rispetto a tutti gli artefatti precedenti è di scala e di opacità. Mai prima d’ora una cosmologia era stata così pervasiva, così capillare e così difficile da leggere dall’interno. Il dio che non si vede non è assente: è ovunque, nella forma stessa in cui guardiamo.
Il mito della neutralità tecnica
L’antropologia ci ha insegnato che non esistono artefatti culturali neutri. Un tempio non è solo pietra. Un calendario non è solo tempo. Ogni oggetto costruito dall’essere umano incarna una cosmologia, una visione di come il mondo è e di come dovrebbe essere. L’intelligenza artificiale non fa eccezione. È forse l’artefatto culturale più potente che abbiamo mai costruito, proprio perché si presenta come privo di cultura.
Langdon Winner lo aveva intuito già nel 1980, in un saggio divenuto pietra miliare degli studi sulla tecnologia. La sua domanda, “gli artefatti hanno una politica?“, sembrava allora provocatoria. Oggi appare quasi ovvia, eppure continuiamo a comportarci come se la risposta fosse no. Winner mostrava come certi oggetti tecnici incorporino forme di autorità e relazioni di potere nel loro stesso design, indipendentemente da come vengono usati. I ponti bassi che Robert Moses fece costruire a Long Island, troppo bassi per i bus pubblici, non erano neutrali: erano architettura sociale. I modelli di intelligenza artificiale non sono diversi. Sono architettura epistemica.
Quando un modello linguistico stabilisce che una certa risposta è più corretta di un’altra, sta applicando criteri. Quei criteri derivano da dati. I dati derivano da scelte umane. Le scelte umane derivano da valori. E i valori provengono da un luogo preciso, da un tempo preciso, da persone precise con interessi precisi. La neutralità è sempre una posizione politica travestita da assenza di posizione.
Chi parla quando parla la macchina?
Nel 1967 Roland Barthes parlava della morte dell’autore, di quella dissoluzione del soggetto scrivente nel testo. Con l’intelligenza artificiale assistiamo al fenomeno inverso e più inquietante: la moltiplicazione nascosta dell’autore. Dietro ogni risposta generata c’è una folla di decisioni invisibili. Quali testi raccogliere per l’addestramento e quali escludere, come pesare le fonti, cosa definire come allucinazione e cosa come verità, quale lingua considerare centrale e quale periferica, quali valori etici incorporare nei meccanismi di allineamento. Ogni scelta è una scelta culturale. Ma nessuna viene dichiarata come tale.
Questo è esattamente ciò che gli antropologi chiamano naturalizzazione, il processo attraverso cui costruzioni sociali arbitrarie vengono presentate come fatti naturali e inevitabili. L’intelligenza artificiale è uno dei dispositivi di naturalizzazione più sofisticati che siano mai stati creati.
Donna Haraway aveva già avvertito che non esiste conoscenza senza punto di vista, che ogni pretesa di oggettività assoluta è in realtà un “trucco del dio”, una visione che si spaccia per vista da nessun luogo mentre proviene da un luogo molto specifico. Il suo concetto di saperi situati si applica con precisione chirurgica ai sistemi di IA: ogni modello conosce dal punto di vista di chi lo ha costruito, dei dati su cui è stato nutrito, delle scelte che ne hanno orientato lo sviluppo. Ignorare questa situatedness non la elimina, la rende soltanto invisibile.
Il problema della prospettiva incorporata
I principali modelli di IA sono stati addestrati prevalentemente su testi in lingua inglese, prodotti in contesti occidentali, con una rappresentazione massiccia di certi ambienti accademici, tecnologici e mediatici. Il risultato è un sistema che pensa, se possiamo usare questo termine, con categorie epistemiche molto specifiche. Quando questi sistemi vengono applicati globalmente, portano con sé quella prospettiva come se fosse universale. Non per malevolenza, ma per cecità strutturale: non si vede ciò che non è mai stato incluso nel campo visivo.
L’antropologo Clifford Geertz descriveva la cultura come le reti di significato che gli esseri umani hanno essi stessi tessuto. L’intelligenza artificiale tesse reti di significato su scala planetaria, ma le tesse a partire da un nodo molto specifico della rete globale. E come ha documentato Kate Crawford nel suo fondamentale Atlas of AI, queste reti non sono solo culturalmente situate ma materialmente radicate in catene di estrazione, geografiche, economiche e politiche, che restano quasi sempre fuori campo nel discorso pubblico sull’intelligenza artificiale. I server, le miniere di terre rare, i lavoratori sottopagati che etichettano i dati di addestramento: tutto questo è parte integrante di ciò che un modello di IA è, anche se non appare nell’interfaccia elegante con cui interagiamo.
La cecità non è casuale. Stiegler aveva mostrato come quella ritenzione terziaria di cui si parlava, quella memoria collettiva depositata negli artefatti tecnici, diventi pericolosa proprio quando è parziale: se esclude sistematicamente certe voci, certe lingue, certe esperienze, il sistema non amplifica il pensiero umano in senso universale. Amplifica una parte di esso, facendola sembrare il tutto.
Il potere iscritto nel codice
Non si tratta soltanto di prospettive culturali. Si tratta di potere. Safiya Umoja Noble ha documentato con rigore come i sistemi algoritmici riproducano e amplino pregiudizi razziali e di genere, mostrando concretamente come il potere si inscriva nel codice. Virginia Eubanks ha analizzato come i sistemi automatizzati di decisione pubblica colpiscano in modo sproporzionato le popolazioni più vulnerabili, rivelando la dimensione di classe incorporata negli algoritmi che dovrebbero essere, appunto, neutrali.
Albert Borgmann aveva parlato di “paradigma del dispositivo” per descrivere come gli oggetti tecnici nascondano i processi che li sostengono, consegnando all’utente solo l’output finale e privandolo della comprensione di ciò che lo produce. Con l’intelligenza artificiale questo paradigma raggiunge la sua forma più compiuta: riceviamo risposte senza poter vedere le domande che il sistema si è posto per produrle, i valori che ha applicato, le esclusioni che ha operato.
Lucy Suchman, antropologa del lavoro e della tecnologia, ha mostrato come i sistemi informatici incorporino modelli impliciti di comportamento umano che riflettono assunzioni culturali molto precise, spesso invisibili persino a chi li progetta. C’è una differenza fondamentale tra quello che i progettisti pensano di costruire e quello che effettivamente codificano. L’IA rende questa distanza abissale, perché i sistemi apprendono da miliardi di esempi in modi che nessun ingegnere può controllare completamente.
Verso una lettura critica degli artefatti digitali
Cosa significa tutto questo per chi usa questi strumenti, o per chi li insegna? Significa che l’alfabetizzazione digitale non può fermarsi al livello del come si usa. Deve arrivare al livello del chi l’ha costruito, perché, con quali assunzioni e a vantaggio di chi. Significa leggere ogni output dell’intelligenza artificiale non come risposta, ma come testo culturale da interpretare, con lo stesso sguardo critico con cui un antropologo legge un mito, un rito, un monumento.
Il filosofo italiano Maurizio Ferraris ha riflettuto sul modo in cui i sistemi digitali producono e registrano realtà sociale, non si limitano a descriverla. Ogni interazione con un sistema di IA lascia tracce, genera dati, rinforza modelli. Non siamo solo utenti, siamo anche co-autori inconsapevoli di ciò che il sistema diventerà. Questa responsabilità diffusa e quasi invisibile è forse la più difficile da tematizzare, ma anche la più urgente.
C’è un’ulteriore complicazione che vale la pena nominare, e che Alvin Toffler aveva intuito con largo anticipo. Nel 1980, in The Third Wave, Toffler coniò il termine prosumer per descrivere la figura emergente di chi non si limita a consumare prodotti e servizi ma partecipa attivamente alla loro produzione: il confine tra chi fabbrica e chi usa si assottiglia fino a dissolversi. Toffler pensava soprattutto alla personalizzazione di massa, al fai-da-te, alle forme di autoproduzione che la terza ondata tecnologica avrebbe reso possibili. Non immaginava, probabilmente, che quella dissoluzione dei ruoli avrebbe assunto una forma così radicale e così opaca. Con i sistemi di intelligenza artificiale generativa, ogni utente è un prosumer in senso tecnico: ogni domanda che poniamo, ogni testo che facciamo generare, ogni correzione che accettiamo o rifiutiamo contribuisce a plasmare i modelli futuri attraverso meccanismi di feedback diretti o indiretti. Siamo consumatori di risposte e produttori inconsapevoli di dati di addestramento. Ma qui la promessa toffleriana si inceppa in un punto cruciale: nel prosumerismo classico, anche nella sua versione più elementare, il soggetto sa di stare producendo qualcosa. Sa di scegliere. Ha visibilità, almeno parziale, sul processo. Nel caso dell’IA, quella visibilità è quasi interamente sottratta. Il contributo che forniamo al sistema non passa attraverso una scelta consapevole ma attraverso il semplice atto di usarlo. Produciamo senza volerlo, senza vederlo, spesso senza nemmeno saperlo. È un prosumerismo senza agency, o con una agency così ridotta da assomigliare più alla complicità inconsapevole che alla partecipazione. Ferraris aveva osservato che i sistemi digitali non descrivono la realtà sociale: la producono. Il prosumer invisibile che ciascuno di noi è diventato non produce soltanto dati. Co-produce la cosmologia stessa che poi userà per pensare.
Philip Agre, informatico e studioso culturale che anticipò molte delle preoccupazioni odierne già negli anni Novanta, aveva mostrato come ogni programma presupponga un modello di come gli esseri umani agiscono nel mondo, una grammatica dell’azione implicita nel codice. Quando quella grammatica è troppo rigida, troppo monoculturale, troppo cieca rispetto alla diversità dell’esperienza umana, il sistema non fallisce tecnicamente. Funziona perfettamente. Ma funziona secondo una visione del mondo che non appartiene a tutti.
Il pensiero che cambia pensando
C’è una conseguenza di tutto questo che forse ancora non misuriamo nella sua portata. Il nostro modo di vedere il mondo si costruisce attraverso il pensiero, e il pensiero si forma attraverso il linguaggio. Il linguaggio, a sua volta, è il canale attraverso cui circolano i memi, quelle unità di significato che si replicano, si trasformano e si sedimentano nella cultura come i geni negli organismi, per usare la metafora con cui Richard Dawkins li descrisse per la prima volta nel 1976. Ogni testo che leggiamo lascia tracce nel modo in cui costruiamo le frasi successive, nelle associazioni che consideriamo naturali, nelle domande che ci sembrano sensate da porre.
Quando una parte crescente dei testi che leggiamo, delle risposte che riceviamo, delle spiegazioni che consultiamo è prodotta da sistemi di intelligenza artificiale, stiamo introducendo nella circolazione culturale un nuovo tipo di agente memetico, enormemente produttivo, capillare e stilisticamente convergente. Non è solo che leggiamo diversamente. È che, leggendo diversamente, scriviamo diversamente. Scrivendo diversamente, pensiamo diversamente. E pensando diversamente, guardiamo il mondo attraverso categorie che non abbiamo scelto consapevolmente, che ci sono state offerte già formate, già ottimizzate, già allineate a una certa visione di ciò che è utile, rilevante, vero.
Questo processo tocca anche la dimensione spirituale, forse quella più delicata e meno discussa. Le tradizioni religiose e le pratiche contemplative si sono sempre trasmesse attraverso il linguaggio, attraverso testi sacri, commenti, preghiere, narrazioni. Il modo in cui una cultura parla del divino, del senso, del limite dell’umano, non è separato dal modo in cui quella cultura pensa in generale. Se i memi che circolano attraverso i sistemi di IA tendono verso una certa razionalità strumentale, verso una certa idea di efficienza e ottimizzazione come valori impliciti, allora anche le categorie attraverso cui le nuove generazioni si avvicineranno alle grandi domande esistenziali ne risulteranno modellate. Non necessariamente impoverite, ma certamente trasformate. La spiritualità del futuro dovrà fare i conti con un pensiero umano che è già, in parte, co-prodotto da macchine. E questo non è un problema tecnico. È una questione antropologica nel senso più profondo del termine.
La domanda che rimane aperta
Ogni sistema di intelligenza artificiale porta in sé una risposta implicita alla domanda: che cosa è un essere umano? E quindi: che cosa merita di essere amplificato, valorizzato, preservato?
Sono domande che la filosofia pone da millenni. Sono domande che l’antropologia indaga attraverso la diversità delle culture. Sono domande che l’arte, anche quella digitale, anche quella che abita i mondi virtuali, continua a fare senza pretendere risposte definitive. Sono, in fondo, le stesse domande che ogni tradizione spirituale ha posto a se stessa nei momenti di trasformazione profonda.
Forse il contributo più urgente che le scienze umane possono offrire alla nostra epoca non è rallentare l’innovazione. È ricordarci che i memi con cui pensiamo, le parole con cui nominiamo la realtà, le strutture con cui organizziamo il senso, non sono mai innocenti. E che affidarli, anche in parte, a sistemi che non condividono né la nostra fragilità né la nostra trascendenza, è una scelta che va fatta con piena consapevolezza.
E noi, quando interagiamo con un sistema di intelligenza artificiale, ci siamo mai chiesti quale visione del mondo stiamo usando? O che ci sta usando? E cosa rimane, in quel dialogo, che sia autenticamente nostro?