Non è colpa del codice

Da «Man the Hunter» all’Intelligenza Artificiale: la tecnologia come pharmakon

C’è un filo sottile ma tenace che unisce le ricostruzioni fossili del Novecento e i modelli linguistici del 2020, qualcosa che la scienza ufficiale ha a lungo preferito non vedere: il pregiudizio di chi racconta la storia. Non si tratta di malafede individuale, quanto di un fenomeno strutturale, radicato nel fatto che la scienza e la tecnologia non sono mai state, né mai potranno essere, davvero neutre. Nascono dentro culture determinate, parlano i linguaggi di chi le finanzia, riflettono le gerarchie di chi le pratica. Riconoscerlo non significa sminuirle. Significa, al contrario, prendere sul serio la posta in gioco.

Per decenni, la paleoantropologia ha raccontato l’evoluzione umana attraverso la lente del maschio cacciatore. Il mito di «Man the Hunter», consacrato dall’omonimo simposio del 1966 curato da Richard Lee e Irven DeVore1, dipingeva l’uomo preistorico come il protagonista assoluto dell’innovazione tecnica: era lui che fabbricava arnesi, organizzava la caccia, plasmava il linguaggio e la socialità. La donna raccoglitrice restava sullo sfondo, relegata a un ruolo biologico e passivo. Questa narrazione non era il prodotto di prove empiriche schiaccianti: era il riflesso diretto dei rapporti di genere dell’accademia nordamericana del dopoguerra, proiettato indietro di centinaia di migliaia di anni.

«La raccoglitrice non era uno sfondo: era l’ingegnera della sopravvivenza quotidiana, la custode di una conoscenza botanica, stagionale e territoriale che nessuna battuta di caccia avrebbe potuto sostituire.»

Furono Nancy Makepeace Tanner e Adrienne Zihlman, antropologa e primatologa l’una, anatomista e paleoantropologa l’altra, a incrinare con rigore questo edificio. Già negli anni Settanta le due ricercatrici pubblicarono insieme lavori che rovesciavano le fondamenta narrative del simposio di Lee e DeVore, e Tanner consolidò quella revisione nel suo lavoro più influente, On Becoming Human (1981), dimostrando che l’innovazione tecnologica primordiale, dalla fabbricazione di contenitori all’uso sistematico di utensili vegetali fino alla trasmissione intergenerazionale del sapere pratico, era molto più plausibilmente riconducibile alle donne raccoglitrici che alla caccia maschile. La raccoglitrice non era uno sfondo: era l’ingegnera della sopravvivenza quotidiana, la custode di una conoscenza botanica, stagionale e territoriale che nessuna battuta di caccia avrebbe potuto sostituire. Eppure la disciplina impiegò anni ad assorbire questa revisione, e alcune sue resistenze sopravvivono tuttora.

La storia di Tanner e Zihlman non è una curiosità disciplinare confinata agli archivi dell’antropologia: è un modello epistemologico che si ripete. Il meccanismo che ha prodotto «Man the Hunter», vale a dire la naturalizzazione di un punto di vista parziale fino a farlo sembrare oggettività scientifica, è esattamente lo stesso che oggi agisce dentro i sistemi di intelligenza artificiale, con una differenza di scala che cambia radicalmente la posta in gioco. Gli algoritmi di apprendimento automatico non cadono dal cielo: vengono addestrati su corpus di dati prodotti da società storicamente diseguali, vengono progettati da team che ancora oggi rispecchiano squilibri di genere, etnia e provenienza geografica marcati, vengono valutati secondo metriche che tendono a replicare i pattern del passato considerandoli neutrali. Quando un sistema di riconoscimento facciale performa peggio sulle persone a pelle scura2, non è un difetto tecnico isolato: è il precipitato di un processo di raccolta dati condotto in modo non rappresentativo, spesso da team omogenei che non si sono posti le domande giuste. Quando un modello linguistico associa con più frequenza termini come «brillante» o «ambizioso» al genere maschile, non sta producendo un’anomalia: sta riproducendo fedelmente il testo che gli esseri umani hanno scritto e pubblicato nel corso dei secoli.

Il rischio, oggi, è che questi bias vengano amplificati a scala industriale. Se la paleoantropologia maschilista ha condizionato libri di testo e musei per qualche decennio, un sistema di intelligenza artificiale addestrato sugli stessi pregiudizi può condizionare selezioni del personale, accesso al credito, diagnosi mediche e contenuti informativi per miliardi di persone simultaneamente, con una velocità e una pervasività senza precedenti storici. La dimensione coloniale del problema è altrettanto seria: la maggior parte dei grandi modelli linguistici è stata sviluppata negli Stati Uniti e in Cina, addestrata prevalentemente su testi in inglese e mandarino, con una rappresentazione marginale delle lingue e delle epistemologie del Sud globale. Il paesaggio sta lentamente cambiando: iniziative europee come Mistral in Francia, progetti finanziati con fondi pubblici dall’Unione Europea e alcune esperienze emergenti in India e in Africa stanno cercando di aprire spazi alternativi. Rimane però il fatto strutturale: i modelli che oggi raggiungono miliardi di persone sono stati concepiti dentro culture specifiche e parlano, ancora prevalentemente, i linguaggi di chi li ha finanziati. Il risultato non è universalità: è egemonia mascherata da oggettività.

«La tecnologia, intesa nel senso più profondo, è sempre stata un pharmakon: rimedio e veleno insieme, nella stessa sostanza, nella stessa dose.»

È qui che il pensiero filosofico antico offre una categoria ancora sorprendentemente utile. Nel Fedro, Platone mette in scena Socrate che riporta le parole del re egizio Thamus: di fronte all’invenzione della scrittura, il re rifiuta il dono perché, anziché potenziare la memoria, la indebolisce, sottraendo all’uomo la necessità di ricordare davvero. Platone non risolve la questione, la esplora: affida l’argomento a una voce dentro una voce, quasi a segnalare che nessuna risposta definitiva è possibile. Ciò che rimane è la parola con cui il Fedro nomina la scrittura, pharmakon, termine greco che significa allo stesso tempo rimedio, veleno e filtro magico. Il dono porta in sé il danno. La tecnologia, intesa nel senso più profondo, è sempre stata un pharmakon: rimedio e veleno insieme, nella stessa sostanza, nella stessa dose. Il fuoco scalda e brucia. La stampa diffonde il sapere e diffonde la propaganda. Internet connette e isola, informa e disinforma.

L’intelligenza artificiale non fa eccezione: è anzi il pharmakon per eccellenza del nostro tempo, e come ogni pharmakon non si lascia giudicare una volta per tutte. La domanda non è se sia rimedio o veleno, perché è inevitabilmente entrambe le cose nella stessa dose. La domanda è se siamo disposti a esercitare su di essa la stessa riflessività critica che Tanner e Zihlman hanno esercitato sulla paleoantropologia: non per demolirla, ma per renderla più vera, più complessa, più fedele all’evidenza. Interrogare i bias dell’intelligenza artificiale non significa rifiutarne le potenzialità, ma pretendere che queste vengano realizzate senza riprodurre le stesse esclusioni che la storia ci ha già insegnato a riconoscere come ingiuste.

La domanda che vale la pena portare con sé, dunque, non è se la tecnologia sia buona o cattiva. È sempre le due cose insieme. La domanda è: chi decide come viene usata, chi partecipa alla sua costruzione, e soprattutto chi ha il diritto di fare le domande che orientano entrambe le scelte?