Quando diciamo che un sistema di intelligenza artificiale “ha imparato”, raramente ci chiediamo chi abbia insegnato. La frase suggerisce un processo interno, quasi biologico: un modello capace di assimilare e generalizzare pattern statistici. Eppure, dietro questa formulazione impersonale opera una catena di attività spesso frazionate e poco visibili composta da immagini annotate, registrazioni trascritte, passaggi ambigui esaminati da qualcuno. L’automazione sposta parte del lavoro verso zone d’ombra, dove diventa frammentato e difficile da nominare. Valutare un contenuto violento o riconoscere un’ironia legata al contesto può richiedere il discernimento di persone incaricate di verificare i risultati e correggere gli errori. La retorica tecnologica tende a descrivere questo apporto come un resto provvisorio, destinato a dissolversi con il perfezionamento del software.
L’automazione di un compito, però, non chiude necessariamente il bisogno di intervento umano. Può far emergere nuove attività di verifica, gestione delle eccezioni e valutazione dei risultati. Il lavoro cambia posizione e forma, senza per questo diventare superfluo. Mary L. Gray e Siddharth Suri1 hanno chiamato ghost work il lavoro umano che sostiene servizi presentati come automatici; un’attività concreta, indispensabile e spesso precaria, che rimane fuori dalla vista di chi li utilizza.
Il lavoro incorporato
Marx2 ricordava come gli oggetti d’uso incorporino lavoro, cristallizzando il tempo, le competenze e le condizioni materiali di chi li ha fabbricati. I modelli linguistici e visuali possono essere esaminati anche da questa prospettiva. Dietro l’astrazione del codice si accumulano innumerevoli ore di lavoro: persone impiegate a catalogare dati, trascrivere tracce audio, verificare traduzioni, segnalare contenuti lesivi e valutare le risposte dei sistemi.
Kate Crawford3 descrive l’intelligenza artificiale come un vasto apparato estrattivo che consuma minerali, energia, informazioni e forza lavoro. Il concetto marxiano di feticismo della merce offre una chiave per interpretare un aspetto di questo processo: i rapporti sociali tra le persone possono apparire come proprietà degli oggetti che producono. Nel caso dell’intelligenza artificiale, le capacità del sistema tendono così a essere percepite come caratteristiche autonome del prodotto, mentre le relazioni di lavoro, le competenze e le condizioni materiali che contribuiscono a renderle possibili rimangono sullo sfondo. L’analogia non cancella le differenze storiche tra la merce analizzata da Marx e i sistemi di intelligenza artificiale; permette piuttosto di interrogare il modo in cui le relazioni sociali della produzione diventano difficili da riconoscere nel prodotto finito. La questione diventa allora anche quella della visibilità: chi produce, all’interno di quali rapporti materiali e con quale riconoscimento sociale?
Il paradosso dell’ultimo miglio
Gray e Suri parlano a questo proposito di “paradosso dell’ultimo miglio dell’automazione”: la progressione tecnica espande, anziché ridurre, la fascia di compiti umani collocati ai confini dell’infrastruttura. Un sistema può classificare contenuti e stimarne la pericolosità secondo criteri appresi. Ma restano da definire i criteri stessi, da verificare i casi controversi e da attribuire la responsabilità delle decisioni.
Il lavoro umano converge così verso le zone in cui il calcolo urta contro l’ambiguità del senso comune. L’ambiguità appartiene all’esperienza e alla cultura: una classificazione statistica può aiutare a gestirla, senza esaurirne il significato.
La moderazione come lavoro esposto
L’attività di moderazione offre la testimonianza più cruda di questa dislocazione. L’analisi continuativa di contenuti traumatici ed espressioni d’odio espone chi lavora al materiale di scarto prodotto dalle piattaforme. Si tratta di un lavoro che può lasciare tracce profonde nella vita psichica, eppure riceve un’attenzione pubblica intermittente. Un’inchiesta di TIME del 2023 ha raccontato di lavoratori keniani impiegati da un’azienda di outsourcing per annotare testi violenti e contenenti “abusi” destinati a un sistema di rilevamento dei contenuti tossici utilizzato da OpenAI. Secondo l’inchiesta, i compensi netti oscillavano fra circa 1,32 e 2 dollari l’ora, a seconda del ruolo e delle prestazioni. L’azienda di outsourcing contestò questi importi e alcune ricostruzioni delle condizioni di lavoro.
Il discorso corrente preferisce fare appello a formule neutre: “politiche di moderazione”, “filtri algoritmici”, “sistemi di rilevamento proattivo”. Restano sullo sfondo le persone chiamate a svolgere quel lavoro, spesso sottoposte a obiettivi di produttività e controlli serrati. Emerge qui una questione antropologica, ovvero la costruzione di un dispositivo che trae la propria efficacia proprio dall’invisibilizzazione della manodopera che lo sostiene.
La cura dell’infrastruttura
L’interazione con l’intelligenza artificiale si presenta spesso come una scena istantanea, un utente formula una domanda e una macchina restituisce una risposta. Ma il risultato visibile è soltanto un momento di un processo più esteso. Prima che il sistema venga utilizzato, qualcuno ha contribuito a preparare e annotare i dati; durante lo sviluppo e la valutazione, altri hanno verificato i risultati e segnalato gli errori; dopo l’erogazione del servizio, ulteriori interventi possono essere necessari per gestire le anomalie, raccogliere le segnalazioni e migliorare le prestazioni.
Una parte di questo lavoro rientra nelle configurazioni definite human-in-the-loop, nelle quali una persona interviene nel processo di apprendimento o di decisione. Altre attività riguardano la valutazione dei risultati, la manutenzione del servizio e l’assistenza agli utenti. Sono funzioni differenti, che non implicano necessariamente una modifica diretta del modello, ma contribuiscono a determinare le condizioni in cui il sistema può essere utilizzato.
La correzione di una risposta, per esempio, richiede di confrontare il risultato prodotto con criteri di correttezza e aspettative legate al contesto. Occorre individuare lo scarto, valutarne le possibili cause e decidere come intervenire. La revisione può risolvere un singolo caso, suggerire una modifica delle procedure oppure fornire materiale per successive attività di valutazione e addestramento. Quando questi interventi restano invisibili, il miglioramento del servizio può apparire una proprietà spontanea della macchina.
Anche il rapporto con l’utente può richiedere un lavoro che l’interfaccia non mostra. Spiegare i limiti del sistema, chiarire un’incomprensione o gestire una segnalazione significa intervenire nel punto in cui il funzionamento tecnico incontra le aspettative e le difficoltà delle persone.
Il mito dell’autonomia
Considerare l’intelligenza artificiale come un’infrastruttura cambia la prospettiva da cui ne osserviamo il funzionamento. Un’infrastruttura non si esaurisce nelle operazioni che rende possibili: richiede manutenzione, interventi correttivi e un lavoro continuo di adattamento alle condizioni reali. Nel caso dei sistemi di intelligenza artificiale, una parte di questo lavoro rimane fuori dall’esperienza dell’utente, che incontra soprattutto il risultato finale.
Le capacità dei modelli linguistici di comporre testi e formulare stime probabilistiche stanno trasformando concretamente le nostre abitudini cognitive. Ma quando l’attenzione si concentra esclusivamente su ciò che il sistema produce, le condizioni che ne rendono possibile il funzionamento tendono a scomparire dal campo visivo. Il lavoro di chi annota i dati, valuta le risposte, individua gli errori e mantiene operativo il servizio viene separato dal risultato, come se non appartenesse alla stessa storia produttiva.
È in questa separazione che prende forma una narrazione mitica dell’autonomia. Non si tratta soltanto di dimenticare le persone che lavorano dietro la macchina, ma di attribuire al sistema una capacità apparentemente autosufficiente proprio perché le relazioni sociali e materiali che lo sostengono non sono più percepite. L’interfaccia presenta come un risultato unitario ciò che dipende da una rete articolata di competenze, risorse e interventi. La fluidità dell’esperienza finisce così per alimentare l’immagine di un sistema autosufficiente, separato dalle condizioni materiali e sociali che ne rendono possibile il funzionamento.
Riconoscere questa dipendenza consente di separare ciò che un’architettura statistica esegue sul piano operativo dalle condizioni materiali che consentono a tale capacità di essere sviluppata, mantenuta e resa accessibile. L’autonomia del calcolo non coincide con l’autonomia del servizio.
Accanto alla domanda su ciò che una macchina sa fare, possiamo allora conservarne un’altra: chi ha lavorato perché potesse farlo? Non è soltanto una domanda sulle condizioni di lavoro. È anche un modo per interrogare l’immagine di intelligenza che la tecnologia ci restituisce e il modo in cui siamo abituati a riconoscerla.
Mary L. Gray e Siddharth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass, Houghton Mifflin Harcourt, Boston 2019.
Karl Marx, Il Capitale. Critica dell’economia politica, Libro I (R. Fineschi, A cura di). Torino 2011, Einaudi. (Opera originale pubblicata nel 1867), Libro I, cap. 1, par. 4.
Kate Crawford, Né intelligente né artificiale. Il lato oscuro dell’IA, edito dalla casa editrice Il Mulino nel 2021 (collana “Intersezioni”, 312 pagine, traduzione di B. Lotti)