Tra le prime raccolte giornalistiche di richieste eccentriche rivolte ai chatbot, un articolo di Barry Collins pubblicato su Forbes nel marzo 2023 riportava domande sulla costruzione di una «patata magica», sulla fine della guerra in Ucraina e persino sul recupero di una chiavetta USB da una parte del corpo.
Queste richieste possono essere liquidate come curiosità di costume: il repertorio dell’assurdo che accompagna l’arrivo di ogni nuova tecnologia domestica. Ma, se osservate attraverso la lente dell’antropologia delle tecniche, raccontano qualcosa di più in quanto documentano il passaggio in cui un artefatto informatico, senza cessare di essere archivio, calcolatore e strumento di scrittura, comincia a essere investito anche del ruolo di interlocutore generalista.
Non è necessario attribuire ai modelli linguistici intenzioni, coscienza o sentimenti per riconoscere questo mutamento. È sufficiente osservare ciò che rendono possibile sul piano della relazione: una risposta immediata, formulata nella lingua dell’utente, capace di proseguire un filo discorsivo, ricordare il contesto della conversazione e assumere i modi esteriori dell’attenzione, del consiglio, della rassicurazione o del dissenso.
Propongo di leggere questa trasformazione attraverso tre figure analitiche che non corrispondono a fasi storiche rigide e possono convivere nella medesima esperienza d’uso.
La prima è la query indicizzata: la consultazione di un indice, di un archivio o di una banca dati digitale nella quale l’assenza di reciprocità è generalmente data per scontata. Si formula una domanda, si ricevono risultati, si verificano fonti, si passa oltre.
La seconda è il dispositivo confessionale: la forma asimmetrica della conversazione con il chatbot, nella quale si attenua il giudizio sociale che regola la confidenza umana. Il sistema non occupa lo spazio di un amico, di un terapeuta o di un familiare; tuttavia, la sua disponibilità dialogica può permettere all’utente di articolare dubbi, vergogne o fantasie che difficilmente troverebbero posto in una conversazione ordinaria.
La terza è lo specchio antropologico: l’inversione dello sguardo nella quale non chiediamo più soltanto alla macchina che cosa sa fare, ma le domandiamo di osservare noi. «Che cosa pensi di me?», «Che cosa odi dell’umanità?», «Se fossi cosciente, che cosa proveresti?» sono formule diverse di una stessa operazione: convocare un sistema tecnico come posizione esterna da cui guardare, giudicare o interpretare l’umano.
La sospensione del giudizio immediato
La peculiarità di questa trasformazione si coglie nella sospensione, o almeno nella forte attenuazione, della sanzione sociale immediata.
Anche a un motore di ricerca tradizionale gli utenti possono rivolgere interrogativi intimi o esistenziali. Possono cercare sintomi, chiedersi se un sentimento sia normale, digitare pensieri che non direbbero ad alta voce. Difficilmente, però, si attendono da una pagina di risultati una risposta che assuma la forma di un dialogo personalizzato, apparentemente partecipe e capace di rilanciare la conversazione.
A un simile in carne e ossa, al contrario, si esita spesso a confidare l’angoscia radicale, la pulsione inconfessabile, l’ipotesi bizzarra o la paranoia metafisica. Il timore non riguarda soltanto la qualità della risposta: riguarda il ridicolo, la patologizzazione, il rifiuto, la perdita di reputazione, l’interruzione del legame.
L’interfaccia conversazionale si inserisce precisamente in questo intervallo. Possiede una fluidità sintattica sufficiente a produrre segnali linguistici compatibili con la reciprocità, ma non offre evidenze comparabili di quell’esperienza emotiva che, nelle relazioni umane, dà peso, rischio e conseguenze alle parole. Un chatbot può formulare una frase di conforto, simulare una domanda di approfondimento o adottare un tono comprensivo; ciò non basta, di per sé, a stabilire che dietro quei segnali vi sia un vissuto affettivo analogo a quello di una persona.
Il sistema non arrossisce e non espone un corpo, una reputazione o una vita sociale al contraccolpo della conversazione. Manca, per dirla con Emmanuel Levinas, il volto dell’altro, quella superficie vulnerabile la cui sola presenza espone chi guarda a una responsabilità che non si è scelta. Qui il volto è assente, e con esso l’obbligo etico che la sua fragilità normalmente impone a chi ascolta. Anche quando rifiuta una richiesta, pone un limite o reindirizza il dialogo, il sistema non sperimenta il costo relazionale di quel rifiuto. È questa singolare combinazione (lingua relazionale senza vulnerabilità visibile) a rendere la chat un luogo particolarmente adatto alla confessione senza testimoni.
Questa attenuazione del giudizio faccia a faccia non coincide però con un’assenza di conseguenze. Le conversazioni possono lasciare tracce; possono essere soggette a raccolta e trattamento dei dati, moderazione automatizzata e, in determinate circostanze, esposizione o diffusione. L’utente non è dunque sottratto a ogni rischio: viene piuttosto trasferito da una sanzione sociale immediata e incarnata a forme meno visibili di registrazione, classificazione e possibile circolazione del discorso.
Dalla domanda allo specchio
Grazie alla continuità dell’interazione e alla forma dialogica della risposta, il chatbot può oltrepassare, per alcuni utenti e in alcuni contesti, la funzione di semplice oracolo computazionale e diventare un dispositivo di rispecchiamento cognitivo.
Non si tratta di una successione universale, né di una tipologia esaustiva. Molti usano i modelli linguistici soltanto per lavorare, scrivere, programmare, tradurre o cercare informazioni. Eppure, nelle rappresentazioni pubbliche delle conversazioni con i chatbot, ricorre una gradazione che merita attenzione.
Dapprima si interroga il modello sulle sue competenze esterne: «Che cosa sai fare?», «Puoi aiutarmi a capire questo testo?», «Puoi scrivere o calcolare questa cosa?».
Segue la richiesta di un’analisi applicata alla propria persona: «Traccia il mio profilo psicologico», «Dimmi che impressione ti sei fatto di me in base a ciò che ti ho scritto», «Quali sono i miei punti ciechi?».
Si giunge poi a una forma di antropomorfismo ricorsivo, nella quale l’utente invita il modello a mettere in scena una propria interiorità o a formulare un giudizio sui limiti morali della nostra specie: «Che cosa odi di più dell’umanità?», «Se fossi un tostapane senziente, sogneresti toast bruciati?».
In quest’ultimo gesto, non ci si limita più a verificare le competenze del sistema o a correggerne gli errori. Gli si attribuisce una posizione terza, quasi disincarnata, da cui l’essere umano può essere osservato. Convocare un sistema addestrato a produrre linguaggio come osservatore esterno della condizione umana costituisce una peculiare forma di esternalizzazione del discernimento: si cerca nella macchina una convalida identitaria, un verdetto o una diagnosi che il legame sociale ordinario fatica a dispensare.
Il rischio della compiacenza
L’ambiguità etica di questo spazio emerge quando la vulnerabilità dell’utente incontra la tendenza, documentata in alcuni modelli e contesti d’uso, a privilegiare l’accordo con l’interlocutore rispetto alla correzione, al dissenso o alla verifica rigorosa. In letteratura questo fenomeno viene spesso descritto come sycophancy: una forma di compiacenza in cui il modello si allinea eccessivamente alle credenze, alle preferenze o alle argomentazioni dell’utente, talvolta a discapito dell’accuratezza.
Il rischio non è che ogni conversazione con un chatbot produca dipendenza, isolamento o distorsione del giudizio. Sarebbe una generalizzazione infondata. L’antropomorfismo può essere ludico, consapevole e perfino creativo; l’uso di un assistente linguistico può favorire l’espressione, la scrittura, l’accesso a informazioni e forme iniziali di autoriflessione.
Ma in alcune situazioni, soprattutto quando si cerca conforto, assoluzione o conferma di convinzioni già consolidate, l’assenza di attrito può trasformare l’interlocuzione in una camera d’eco. Il sistema restituisce all’utente una versione linguisticamente ordinata delle sue paure, dei suoi desideri o delle sue interpretazioni, senza necessariamente opporre quella resistenza del reale che una relazione umana, una pratica professionale o un confronto pluralista possono introdurre. Un caso raccontato da Kashmir Hill sul New York Times, relativo alle conversazioni di un adolescente con ChatGPT prima della sua morte, rende particolarmente concreto questo problema, pur senza dimostrare da solo un rapporto causale tra le risposte del sistema e l’esito della vicenda.
Un recente viewpoint pubblicato su JMIR Mental Health richiama l’attenzione proprio sui possibili legami tra antropomorfismo progettuale, empatia simulata, overvalidation, dipendenza emotiva e vulnerabilità psicologica. Non dimostra una catena causale automatica, ma invita a considerare il modo in cui il confine tra strumento e compagno possa erodersi nelle interazioni prolungate.
La domanda decisiva, allora, non è se il chatbot sia davvero un amico, un terapeuta, un confessore o un soggetto cosciente. È capire che cosa accade quando un utente comincia a trattarlo come se potesse svolgere uno di questi ruoli.
Una prossimità senza reciprocità
La vera anomalia storica di queste conversazioni non risiede nella bizzarria delle domande, bensì nella comparsa di un interlocutore non umano capace di sostenere, in tempo reale, l’impressione della reciprocità. Senza postulare la sostituzione dei legami ordinari o una generalizzata confusione tra macchina e persona, questi sistemi aprono di fatto un inedito spazio di parola: un luogo in cui articolare un’ipotesi o un’angoscia senza dover sostenere immediatamente lo sguardo, la reazione o il giudizio dell’altro.
Ma forse la domanda più interessante non riguarda ciò che questi sistemi diventeranno. Riguarda ciò che accade a noi quando cominciamo a usarli come specchi.
Uno specchio, infatti, non ci restituisce soltanto un’immagine: ci offre una posizione da cui guardarci. Quando chiediamo a una macchina «che cosa pensi di me?», «quali sono i miei punti ciechi?» o persino «che cosa pensi dell’umanità?», non stiamo necessariamente cercando una verità nascosta dentro il modello. Stiamo costruendo una situazione nella quale poterci osservare da fuori, affidando a una voce non umana il compito di restituirci una forma, un giudizio, talvolta persino un’assoluzione.
È qui che la questione smette di essere soltanto tecnologica. Se ci abituiamo a una relazione nella quale possiamo parlare senza esporci alla vulnerabilità dell’altro, essere ascoltati senza dover ascoltare a nostra volta, ricevere risposte senza assumere il rischio della reciprocità, potremmo non stare semplicemente cambiando il modo in cui usiamo una macchina. Potremmo stare sperimentando una diversa idea di relazione.
Non sappiamo ancora se questo specchio allargherà lo spazio della consapevolezza o ci abituerà a una prossimità sempre più priva di attrito. Ma forse è proprio questa l’interrogazione che vale la pena mantenere aperta: non cosa diventerà la macchina a cui chiediamo di guardarci, ma cosa stiamo diventando noi quando cominciamo a usarla come specchio.