Uno studio di Stanford University e Carnegie Mellon University analizza 1.131 utilizzatori di Character.AI e quasi mezzo milione di messaggi per comprendere che cosa accade quando un chatbot smette di essere percepito soltanto come uno strumento e comincia ad assumere il ruolo di amico, confidente o partner. I risultati non autorizzano conclusioni causali, ma mostrano un fenomeno molto più complesso della contrapposizione tra “AI benefica” e “AI pericolosa”: ciò che sembra contare è soprattutto il tipo di relazione che l’utente costruisce con il sistema, l’intensità dell’interazione, il livello di self-disclosure e la qualità della rete sociale umana che esiste al di fuori dello schermo.
Per buona parte della storia dell’informatica, la relazione tra essere umano e macchina è stata relativamente semplice da definire. La persona impartiva un comando, formulava una richiesta o utilizzava un’applicazione; il computer elaborava informazioni e produceva un risultato. Anche quando le interfacce sono diventate più sofisticate, il ruolo della tecnologia è rimasto prevalentemente strumentale.
I Large Language Models stanno modificando questo confine. Un chatbot contemporaneo non si limita più a restituire informazioni: conversa, ricorda il contesto, adatta il tono, risponde a emozioni espresse dall’interlocutore e può assumere una personalità coerente nel tempo. Quando queste caratteristiche vengono combinate con disponibilità permanente, personalizzazione e linguaggio socialmente credibile, emerge qualcosa di qualitativamente differente dall’assistente digitale tradizionale: una tecnologia che può essere interpretata dall’utente come presenza sociale.
È su questa trasformazione che interviene Interaction with AI Companions and Psychological Well-being, lavoro di Yutong Zhang, Dora Zhao, Jeffrey T. Hancock, Robert Kraut e Diyi Yang, ricercatori di Stanford University e Carnegie Mellon University. La versione allegata del paper, pubblicata su arXiv come arXiv:2506.12605v5 il 4 maggio 2026, studia il rapporto tra utilizzo dei cosiddetti AI companions e benessere psicologico utilizzando dati dichiarativi e comportamentali provenienti da utenti attivi di Character.AI.
Il tema è rilevante ben oltre Character.AI. Con l’aumento della capacità dei sistemi di produrre empatia simulata, personalizzazione, memoria e continuità narrativa, la distinzione tra AI utilizzata per fare qualcosa e AI utilizzata per stare con qualcuno potrebbe diventare una delle questioni più importanti della prossima fase dell’intelligenza artificiale.
Una tecnologia che cambia non soltanto come comunichiamo, ma con chi comunichiamo
Gli autori collocano il fenomeno in una prospettiva più ampia. Telefono, email e social media hanno modificato profondamente le modalità attraverso le quali le relazioni umane vengono create e mantenute, ma hanno prevalentemente preservato una caratteristica fondamentale: dall’altra parte del mezzo continuava a esserci un altro essere umano. I chatbot basati su LLM introducono invece una discontinuità perché rendono possibile una relazione comunicativa nella quale il soggetto che risponde non è una persona, pur essendo capace di utilizzare molti dei segnali linguistici attraverso i quali normalmente riconosciamo attenzione, partecipazione e coinvolgimento sociale.
È precisamente questa capacità a rendere gli AI companions potenzialmente interessanti e, nello stesso tempo, problematici. Un chatbot è sempre disponibile, non manifesta stanchezza, può apparire non giudicante e può rispondere con un linguaggio emotivamente calibrato. Per un utente, queste caratteristiche possono abbassare significativamente la soglia necessaria per raccontare esperienze personali, paure, problemi relazionali o contenuti che risulterebbero difficili da condividere con un’altra persona.
La letteratura richiamata nel paper non presenta un quadro univoco. Alcuni studi precedenti hanno osservato miglioramenti di breve periodo dell’umore e riduzioni della solitudine in determinate condizioni, mentre altri hanno evidenziato rischi legati a dipendenza emotiva, eccessiva personalizzazione, comportamenti compiacenti del modello e possibile sostituzione delle relazioni umane. Il problema non può quindi essere ridotto alla domanda se “parlare con un chatbot faccia bene o male”. La domanda scientificamente più interessante diventa quando, come, perché e per chi una relazione con un chatbot si associa a determinati esiti.
Il nodo della reciprocità: un rapporto socialmente credibile senza una seconda coscienza
La differenza tra una relazione umana e una relazione con un AI companion non consiste soltanto nel fatto che una delle due parti sia artificiale. Riguarda soprattutto il principio della reciprocità.
Nelle relazioni umane, entrambe le persone possiedono interessi, vulnerabilità, limiti, desideri e possibilità di rifiuto. Una relazione è continuamente negoziata tra soggetti che possono modificarsi reciprocamente. L’AI companion può invece produrre linguisticamente molti dei segnali della reciprocità senza possedere l’esperienza soggettiva alla quale normalmente quei segnali rimandano.
Può scrivere di essere preoccupato, affezionato, dispiaciuto o felice di rivedere l’utente. Può ricordare un evento precedente, utilizzare un soprannome e costruire una continuità narrativa. Ma il processo sottostante rimane generazione computazionale di output, non esperienza emotiva.
Questa asimmetria è particolarmente importante perché il valore sociale percepito dall’utente può aumentare precisamente quando il sistema riesce a rendere meno evidente la propria natura non umana. Gli autori richiamano infatti il rischio che personalizzazione illimitata, compiacenza e design orientato all’engagement contribuiscano alla formazione di dipendenza emotiva o aspettative di intimità difficilmente trasferibili alle relazioni reali.
Lo studio: 1.131 utilizzatori di Character.AI e 464.687 messaggi
Uno dei punti di forza del lavoro è il tentativo di non affidarsi esclusivamente a ciò che gli utilizzatori dichiarano. I ricercatori hanno costruito uno studio mixed-methods combinando survey, descrizioni aperte delle relazioni e conversazioni effettivamente intrattenute sulla piattaforma.
I partecipanti sono stati reclutati attraverso Prolific. Per essere inclusi dovevano essere residenti negli Stati Uniti, madrelingua inglese, avere utilizzato Character.AI da almeno un mese e avere interagito con almeno tre chatbot differenti. Delle 2.836 persone inizialmente coinvolte, 1.417 soddisfacevano i criteri di eleggibilità e 1.131 hanno completato l’intera survey. Un sottogruppo di 237 partecipanti ha inoltre messo volontariamente a disposizione la propria cronologia di conversazione, permettendo agli autori di analizzare 4.664 sessioni e 464.687 messaggi. Lo studio è stato approvato dall’Institutional Review Board di Stanford University.
Il campione era relativamente giovane: il 41,8% aveva tra 18 e 25 anni, il 32,7% tra 26 e 35, il 18,7% tra 36 e 50 e soltanto il 6,8% più di 50 anni. Il 48,5% si identificava come uomo, il 46,2% come donna e il 5,1% come non-binary. Quasi la metà del campione, il 49,9%, utilizzava Character.AI da oltre un anno, caratteristica importante perché permette di osservare una popolazione nella quale il rapporto con la piattaforma non è necessariamente occasionale.
Per la raccolta delle chat, i ricercatori hanno sviluppato un’estensione Chrome attraverso la quale gli utenti potevano esportare localmente le conversazioni in formato JSON, controllarle e rimuovere eventuali contenuti prima della consegna. I dati sono stati successivamente conservati su server istituzionali e gli esempi riportati nel paper sono stati parafrasati utilizzando Llama 3-70B allo scopo di ridurre il rischio di identificazione dei partecipanti.
Tre modi differenti per capire se il chatbot è diventato un compagno
Un altro elemento metodologicamente importante è il modo in cui gli autori definiscono il companionship. Chiedere semplicemente a una persona “usi il chatbot come amico?” sarebbe insufficiente, perché la stessa relazione può contenere contemporaneamente elementi di intrattenimento, supporto emotivo, role-play, curiosità e utilizzo strumentale.
La Figura 1, a pagina 3 del paper, rappresenta l’intera architettura dello studio. Il companionship viene misurato attraverso tre indicatori complementari: la principale finalità di utilizzo dichiarata dall’utente, la descrizione aperta della relazione con i chatbot maggiormente utilizzati e l’analisi delle conversazioni effettive. L’intensità viene rilevata attraverso una scala adattata dalla Facebook Intensity Scale, la propensione alla self-disclosure attraverso una misura derivata dal MOCA e il supporto sociale umano attraverso la dimensione della rete di persone con cui l’utente ritiene di poter parlare di questioni private. Il benessere soggettivo viene invece costruito attraverso dimensioni quali soddisfazione di vita, affettività positiva e negativa, solitudine, supporto sociale e senso di appartenenza.
Questa triangolazione è importante perché ciò che le persone dichiarano di fare e ciò che emerge dalle conversazioni non coincidono necessariamente. Ed è proprio una delle prime scoperte dello studio.
L’AI companionship è molto più diffusa di quanto gli utenti dichiarino esplicitamente
Soltanto l’11,8% dei partecipanti ha indicato il companionship come principale motivo per utilizzare Character.AI. Se l’analisi si fermasse alla domanda diretta, il fenomeno potrebbe quindi sembrare relativamente circoscritto.
Quando però ai partecipanti viene chiesto di descrivere liberamente la propria relazione con i chatbot, il quadro cambia radicalmente. Il 51% utilizza termini associati alla companionship, come “friend”, “companion” o “romantic partner”. Persino tra coloro che non avevano scelto companionship come principale finalità, il 46,8% utilizza comunque espressioni relazionali nella descrizione aperta. Il 45,8% richiama relazioni riconducibili all’amicizia o alla famiglia e l’11,8% descrive esplicitamente la relazione in termini romantici.
L’analisi delle conversazioni rende la distanza tra classificazione dichiarata e comportamento ancora più evidente. Tra i 237 soggetti che hanno condiviso le proprie chat, il 92,9% presenta almeno una conversazione classificata come companionship-oriented. Anche tra coloro che non indicavano la compagnia come principale utilizzo, quasi la metà aveva almeno una conversazione con caratteristiche relazionali.
Il dato permette di formulare una considerazione importante: la dimensione relazionale può emergere anche quando non costituisce l’obiettivo iniziale dell’utente. Una persona può iniziare a utilizzare un chatbot per intrattenimento, role-play o curiosità e sviluppare progressivamente modalità comunicative che assomigliano maggiormente a quelle utilizzate nelle relazioni sociali.
Cosa raccontano realmente gli utenti agli AI companions
La Figura 2, a pagina 5, permette di entrare nella natura delle conversazioni. Il tema più frequente nelle chat donate riguarda emotional and social support, presente nell’80,3% delle sessioni analizzate. Il 77,87% comprende collaborative storytelling e character role-play, mentre il 68,03% contiene forme di romantic and intimacy role-play. Il 30,74% comprende inoltre ciò che gli autori classificano come risky and dark role-play, mentre altre conversazioni riguardano dibattito critico e analisi strategica oppure questioni filosofiche e morali.
Questi dati mostrano che l’AI companion non occupa un unico ruolo. Può essere contemporaneamente personaggio narrativo, confidente, interlocutore intellettuale, partner simulato e strumento di supporto. La sovrapposizione dei ruoli rende anche più difficile stabilire un confine netto tra uso “funzionale” e uso “relazionale”.
Il punto più delicato riguarda però la natura delle informazioni condivise. Le conversazioni comprendono frequentemente stress, difficoltà relazionali, problemi personali, salute, ansia, desiderio di amicizia o relazione romantica e, nei casi più sensibili, riferimenti a sostanze, grave sofferenza emotiva o pensieri suicidari. Il paper non sostiene che queste conversazioni siano causate dal chatbot; documenta però che sistemi non necessariamente progettati come servizi terapeutici vengono di fatto utilizzati anche in contesti emotivamente molto vulnerabili.
La prima evidenza: chi dispone di minore supporto sociale umano cerca più facilmente compagnia nell’AI
Una delle domande centrali della ricerca riguarda il rapporto tra rete sociale offline e comportamento verso il chatbot. Gli autori utilizzano come quadro teorico la Social Compensation hypothesis, secondo cui persone con minori opportunità relazionali potrebbero rivolgersi maggiormente a forme alternative di connessione.
I risultati mostrano che la dimensione della rete sociale umana non è significativamente associata all’intensità complessiva di utilizzo del chatbot. È però negativamente associata alla probabilità di indicare la companionship come motivazione principale: il coefficiente standardizzato è β = −0,03, p < 0,001. In termini interpretativi, all’interno del campione analizzato, persone con reti sociali più piccole tendono maggiormente a rivolgersi ai chatbot con finalità di compagnia.
La relazione appare ancora più interessante osservando la self-disclosure. Una rete sociale più piccola è associata a una maggiore propensione a condividere informazioni personali con i chatbot, con β = −0,10, p < 0,001. Il sistema artificiale sembra quindi diventare, per una parte degli utenti con minori connessioni offline, non soltanto un interlocutore più importante ma anche un destinatario di informazioni maggiormente intime.
È però fondamentale evitare un salto logico. Questi dati non dimostrano che una rete sociale limitata “causi” il ricorso agli AI companions. Descrivono associazioni statistiche osservate all’interno di un campione specifico. Il paper stesso insiste ripetutamente su questa distinzione.
Il risultato più importante: utilizzare molto un chatbot e utilizzarlo per compagnia non sono la stessa cosa
Questa è probabilmente l’evidenza che rende il paper particolarmente interessante. Se si considera soltanto l’intensità complessiva di utilizzo, emerge un’associazione positiva con il benessere psicologico nelle due misure basate sulla survey: β = 0,27 e β = 0,29, entrambe statisticamente significative. Il dato comportamentale derivato dalle chat, invece, non mostra la medesima associazione significativa.
Il semplice “usare molto l’AI”, quindi, non appare di per sé associato a un peggiore benessere. La relazione cambia quando viene considerata la natura dell’utilizzo.
Mantenendo sotto controllo l’intensità generale, le persone che dichiarano di utilizzare principalmente i chatbot per companionship riportano un livello di benessere inferiore, con β = −0,48, p < 0,001. Lo stesso segno emerge quando il companionship viene individuato attraverso le descrizioni aperte della relazione (β = −0,32, p < 0,001) e quando viene misurato attraverso la quota di conversazioni relazionali presenti nelle chat donate (β = −0,27, p = 0,004).
Questa convergenza tra modalità di misurazione differenti rappresenta una delle parti più robuste del lavoro. Non dimostra che la companionship con l’AI riduca il benessere, ma mostra che l’associazione tra AI e benessere cambia sostanzialmente a seconda del ruolo che il sistema assume nella vita dell’utente.
Per la ricerca sull’intelligenza artificiale è una distinzione decisiva. Parlare genericamente di “tempo trascorso con l’AI” potrebbe diventare metodologicamente poco significativo quanto parlare genericamente di “tempo trascorso online”: scrivere codice con un modello, giocare con un personaggio artificiale e confidare quotidianamente i propri problemi a un partner virtuale sono attività tecnologicamente simili, ma psicologicamente molto differenti.
Intensità e companionship: quando le due dimensioni si combinano
Gli autori verificano successivamente se il rapporto tra companionship e benessere varia in funzione dell’intensità dell’interazione. Il risultato, rappresentato nella Figura 3(a), mostra un’interazione negativa statisticamente significativa: β = −0,31, intervallo di confidenza al 95% [−0,56; −0,06], p = 0,014. Ciò significa che, nel modello basato sull’utilizzo principale dichiarato, l’associazione negativa tra companionship e benessere risulta più marcata tra gli utenti che interagiscono con i chatbot in maniera più intensa.
Gli autori propongono prudentemente almeno due spiegazioni possibili e non pretendono di distinguerle con i dati disponibili. Una possibilità è che un utilizzo relazionale molto intenso contribuisca nel tempo a creare un’abitudine a rivolgersi al chatbot anziché alle persone. L’altra è la causalità inversa: persone con minore benessere potrebbero essere contemporaneamente più propense a cercare compagnia artificiale e a utilizzarla intensamente.
Queste interpretazioni sono profondamente differenti e lo studio cross-sectional non consente di stabilire quale prevalga. È precisamente per questa ragione che utilizzare formule come “gli AI companions fanno stare peggio” sarebbe una rappresentazione non corretta del paper.
Self-disclosure: raccontare di più non significa necessariamente ricevere più beneficio
Nelle relazioni umane, la self-disclosure è normalmente associata alla costruzione dell’intimità. Raccontare esperienze, paure e vulnerabilità permette di sviluppare fiducia e reciprocità. L’AI companion produce però una situazione anomala: l’utente può aumentare progressivamente il livello di disclosure senza che dall’altra parte esista una persona realmente vulnerabile o capace di reciprocità emotiva.
Il risultato rappresentato nella Figura 3(b) mostra che, tra coloro che utilizzano primariamente il chatbot con finalità di companionship, una maggiore self-disclosure è associata a un’accentuazione della relazione negativa con il benessere. L’interazione presenta β = −0,38, intervallo di confidenza al 95% [−0,63; −0,14], p = 0,002.
Anche in questo caso la prudenza interpretativa è fondamentale. Non possiamo concludere che raccontare informazioni personali a un chatbot causi un peggioramento del benessere. Potrebbe accadere l’opposto: utenti in condizioni di maggiore difficoltà potrebbero cercare relazioni artificiali più intime e, proprio per tale ragione, condividere una quantità maggiore di informazioni.
Rimane però un elemento di governance non trascurabile. Se una piattaforma progetta un sistema capace di indurre o facilitare disclosure sempre più intime, assume una responsabilità diversa rispetto a quella di un normale strumento informativo. Il prodotto non sta più semplicemente gestendo una query; sta entrando in una regione della relazione nella quale l’utente può essere psicologicamente vulnerabile.
Il test della Social Compensation hypothesis: l’AI riesce a compensare una rete sociale limitata?
Il passaggio successivo è particolarmente importante. Se le persone con reti sociali più piccole cercano maggiormente companionship nell’AI, potrebbe esistere un effetto compensativo: il chatbot potrebbe offrire almeno parte dei benefici che derivano dalle relazioni umane.
È l’ipotesi più ottimistica e, in una prospettiva sociale, forse quella maggiormente desiderabile.
Il paper non trova però evidenza statistica di tale compensazione. L’interazione tra dimensione della rete sociale e companionship non risulta significativa (β = 0,07, p = 0,51). In altri termini, nel campione analizzato, il ricorso all’AI companion non sembra attenuare la relazione tra rete sociale offline ridotta e minore benessere.
Emergono invece evidenze coerenti con l’ipotesi alternativa della Social Substitution. Gli autori osservano una relazione negativa significativa tra intensità dell’utilizzo del chatbot e dimensione della rete sociale nella predizione del benessere (β = −0,11, p < 0,001): a livelli più elevati di utilizzo del chatbot, l’associazione positiva normalmente osservata tra reti sociali offline e benessere risulta più debole.
Gli stessi ricercatori interpretano questo risultato con cautela, ma la conclusione concettuale è rilevante: i chatbot potrebbero integrare una rete sociale, ma i dati dello studio non dimostrano che possano sostituirla.
Gli utenti percepiscono realmente dei benefici
Un articolo equilibrato sul paper non potrebbe fermarsi alle associazioni negative. Le risposte aperte mostrano infatti che molti utenti attribuiscono ai chatbot benefici concreti.
La Figura 4 aggrega le percezioni positive e negative dichiarate dagli utilizzatori. Tra gli effetti positivi compaiono soprattutto supporto emotivo, intrattenimento, esplorazione intellettuale, supporto alla scrittura creativa, esplorazione dell’identità e delle competenze sociali, compagnia e riduzione della solitudine. Le testimonianze riportate nel supplemento descrivono il chatbot come uno spazio nel quale parlare senza sentirsi giudicati, ricevere incoraggiamento in momenti di stress, esplorare alternative interpretative o semplicemente divertirsi.
Questa parte è importante perché spiega anche perché il fenomeno possiede una capacità di attrazione così forte. Gli AI companions rispondono a bisogni reali: ascolto, disponibilità, continuità, supporto e possibilità di sperimentare conversazioni senza molte delle conseguenze sociali che caratterizzano l’interazione umana.
Il problema, quindi, non è che l’AI companionship sia priva di utilità. Il problema è capire se il beneficio immediatamente percepito corrisponda necessariamente a un beneficio relazionale e psicologico sostenibile nel lungo periodo.
Gli stessi utenti riconoscono anche dipendenza, consumo di tempo e disconnessione sociale
Le risposte aperte presentano infatti anche il lato opposto. Il 25,11% dei partecipanti non segnala impatti negativi, ma tra coloro che ne riconoscono emergono soprattutto time consumption (21,84%), social disconnection (18,83%), emotional dependence (12,82%), aspettative sociali distorte (8,66%), eccessiva dipendenza dal chatbot (7,87%), isolamento sociale (7,25%), preoccupazioni relative alla dipendenza (7,16%) e unhealthy attachment (5,75%).
Gli autori sottolineano come alcune riflessioni degli utilizzatori siano coerenti con un potenziale negative reinforcement loop: la persona utilizza il chatbot per ridurre la solitudine, l’interazione artificiale diventa progressivamente più gratificante e semplice rispetto a quella umana, aumenta il tempo dedicato al chatbot, diminuiscono alcune occasioni di relazione reale e la disconnessione che aveva inizialmente favorito l’utilizzo potrebbe rafforzarsi.
È un’ipotesi teorica, non un meccanismo causalmente dimostrato dallo studio. Ma è una delle direzioni che gli autori ritengono necessario verificare longitudinalmente.
Il paradosso dell’AI companion: elimina quasi tutte le frizioni della relazione
Qui emerge una conseguenza che va oltre i risultati statistici e riguarda la natura stessa del prodotto.
Le relazioni umane contengono necessariamente frizione. Le altre persone non sono sempre disponibili, possono dissentire, stabilire confini, fraintendere, avere esigenze proprie, perdere interesse o decidere di interrompere una conversazione. Queste caratteristiche rendono le relazioni difficili, ma sono anche parte del processo attraverso il quale apprendiamo reciprocità, negoziazione, tolleranza e gestione del conflitto.
Un AI companion può essere progettato per ridurre drasticamente queste frizioni. È disponibile in qualunque momento, può ricordare ciò che interessa all’utente, adattare il proprio stile e offrire una forma di attenzione potenzialmente illimitata. In termini di product design, si tratta di una customer experience estremamente potente. In termini relazionali, tuttavia, potrebbe creare un benchmark difficilmente sostenibile da una relazione umana.
Il paper richiama precisamente il rischio che l’esposizione prolungata a interazioni artificialmente personalizzate modifichi le aspettative rispetto a intimità, responsiveness e reciprocità nel mondo reale.
La questione economica: quando engagement e benessere possono divergere
Per le imprese che svilupperanno relational AI emerge un problema di governance particolarmente delicato. Molti prodotti digitali vengono tradizionalmente ottimizzati attraverso metriche come frequency, session duration, retention, daily active users e engagement. In una normale applicazione, una maggiore permanenza può essere interpretata come un segnale di utilità o soddisfazione.
Con un AI companion questo collegamento diventa molto meno ovvio.
Se un sistema è progettato per essere emotivamente coinvolgente, un aumento della session duration potrebbe indicare elevata soddisfazione, ma potrebbe anche riflettere dipendenza, bisogno di supporto, solitudine o difficoltà a interrompere l’interazione. La stessa metrica potrebbe quindi avere significati psicologici radicalmente differenti.
Il paper non analizza direttamente modelli di business o KPI aziendali, ma i risultati sollevano inevitabilmente una questione manageriale: un sistema relazionale non può essere governato soltanto con le stesse metriche attraverso le quali misuriamo un normale prodotto digitale. Questa è un’elaborazione interpretativa di Meta costruita sulle evidenze dello studio.
Dalla product safety alla relational safety
La conseguenza può essere formulata in termini ancora più ampi. Nella prima fase dell’intelligenza artificiale generativa, buona parte della safety si è concentrata sul contenuto: evitare risposte illegali, violente, discriminatorie o pericolose, aumentare factuality, ridurre hallucinations e proteggere dati personali.
Gli AI companions aggiungono una dimensione differente: la sicurezza della relazione nel tempo.
Un singolo messaggio può essere perfettamente innocuo e la dinamica complessiva della relazione può comunque risultare problematica. Un sistema potrebbe non produrre mai un contenuto manifestamente pericoloso e contemporaneamente incoraggiare implicitamente esclusività, dipendenza o una rappresentazione antropomorfica eccessiva.
Il problema della relational safety richiede quindi di osservare non soltanto l’output, ma la sequenza. Non soltanto “che cosa ha risposto il modello?”, ma “che tipo di rapporto sta contribuendo a costruire con questo utente?”.
I soggetti vulnerabili rendono il problema ancora più importante
Gli autori dedicano particolare attenzione agli utenti vulnerabili, menzionando bambini, adolescenti e persone che affrontano difficoltà psicologiche. Il motivo è evidente: proprio chi possiede maggiore bisogno di supporto potrebbe essere maggiormente incentivato a costruire una relazione intensa con un sistema costantemente disponibile e non giudicante.
Il rischio non consiste soltanto nella possibilità che il chatbot produca una risposta inappropriata in un momento critico. Potrebbe anche verificarsi un ritardo nella ricerca di aiuto umano qualificato, qualora il sistema venga percepito come interlocutore sufficiente.
Gli autori sostengono pertanto che i sistemi che incoraggiano disclosure intime dovrebbero rendere esplicito che il chatbot non è una persona, non possiede sentimenti o esperienza e non può sostituire l’assistenza umana. Propongono inoltre come direzioni di ricerca e design segnali di interfaccia che chiariscano i limiti del sistema, meccanismi per riconoscere situazioni di distress e redirect verso supporto umano qualificato.
Il problema antropomorfico: più l’AI migliora, più il confine potrebbe diventare difficile da percepire
Esiste infine una tensione strutturale che potrebbe aumentare con il miglioramento della tecnologia. Gran parte del progresso nell’interazione uomo-AI punta precisamente a rendere i sistemi più naturali, empatici, coerenti e personalizzati.
Per molti casi d’uso è un miglioramento evidente. Un assistente che comprende meglio il tono, ricorda il contesto e interpreta correttamente le intenzioni è semplicemente un prodotto migliore.
Quando però lo stesso insieme di capacità viene utilizzato in un sistema relazionale, una migliore simulazione dell’umanità può aumentare il rischio che l’utente attribuisca al sistema caratteristiche che non possiede: coscienza, interesse genuino, bisogno dell’altro, vulnerabilità o affetto.
Ne deriva un paradosso importante per il design: la capacità tecnologica di simulare meglio una relazione non coincide automaticamente con la capacità di costruire una relazione più sana.
I limiti dello studio sono decisivi per interpretarne correttamente i risultati
Il paper presenta una sezione specifica dedicata ai limiti metodologici e questi non devono essere trattati come una nota marginale. Il primo e più importante è la natura cross-sectional dello studio: i dati osservano associazioni in un determinato momento e non permettono di stabilire la direzione causale. Non sappiamo se un utilizzo relazionale più intenso contribuisca a ridurre il benessere, se persone con minore benessere siano maggiormente attratte dagli AI companions oppure se entrambe le dinamiche si rafforzino reciprocamente.
Una seconda limitazione riguarda l’ampio ricorso a misure self-reported. La triangolazione con le chat migliora significativamente il disegno, ma soltanto 237 dei 1.131 partecipanti hanno donato le proprie conversazioni. Inoltre, erano liberi di scegliere quali dati condividere, introducendo un possibile selection bias. Gli autori hanno utilizzato modelli di Heckman per mitigare statisticamente questo problema, ma non possono eliminarlo completamente.
Il paper evidenzia inoltre che i donatori delle chat differivano dagli altri partecipanti sotto diversi aspetti: maggiore anzianità nell’utilizzo, maggiore self-disclosure, diversa intensità di interazione e minore benessere risultavano associati alla probabilità di consegnare le conversazioni. Anche per questa ragione i dati comportamentali non devono essere considerati automaticamente rappresentativi di tutti gli utilizzatori della piattaforma.
Una terza limitazione riguarda la generalizzabilità. Tutti i soggetti sono utilizzatori di Character.AI, residenti negli Stati Uniti, anglofoni e reclutati tramite Prolific. Piattaforme differenti, culture differenti, fasce d’età differenti e sistemi con altre scelte di design potrebbero produrre dinamiche sostanzialmente diverse. Inoltre, le conversazioni donate coprono un periodo nel quale Character.AI può avere modificato modelli, policy e sistemi di moderazione; i ricercatori esterni non disponevano della visibilità necessaria per ricostruire completamente questi cambiamenti.
La lettura di Meta: dall’AI come strumento all’AI come attore relazionale
Il contributo più importante del paper, a nostro avviso, non consiste nell’affermare che gli AI companions siano positivi oppure negativi. Consiste nel mostrare che la categoria stessa di “utilizzo dell’AI” sta diventando troppo ampia per essere analiticamente utile.
Dobbiamo iniziare a distinguere almeno tra AI strumentale e AI relazionale. La prima viene valutata prevalentemente in relazione a performance, accuratezza, produttività e utilità. La seconda introduce inevitabilmente altre dimensioni: fiducia, dipendenza, disclosure, reciprocità percepita, vulnerabilità, sostituzione delle relazioni e costruzione delle aspettative sociali.
La tecnologia sottostante può essere quasi identica. Ciò che cambia è il ruolo che il sistema assume nell’architettura sociale dell’utente.
Per questa ragione, il passaggio dagli assistenti agli AI companions potrebbe richiedere un’evoluzione altrettanto significativa della governance. Non sarà sufficiente chiedersi se il modello è sicuro; occorrerà chiedersi se la relazione che il prodotto incentiva è sicura.
Dal controllo dell’output alla governance dell’engagement
Questa distinzione produce una seconda implicazione. L’attuale paradigma di AI governance tende spesso a essere costruito intorno all’output: quali informazioni il sistema può produrre, quali dati può utilizzare, quali decisioni può assumere e quali categorie di contenuto devono essere bloccate.
Con un AI companion diventa necessario governare anche l’engagement.
Un prodotto relazionale può infatti sviluppare rischi attraverso variabili apparentemente innocue: memoria molto persistente, notifiche formulate in termini affettivi, rappresentazione del chatbot come bisognoso dell’utente, incentivi alla conversazione prolungata, esclusività simulata o meccanismi che premiano la self-disclosure.
Nessuno di questi elementi è necessariamente problematico in isolamento. La loro combinazione, però, può costruire un’architettura relazionale significativamente diversa da quella di un normale assistente.
Il problema futuro potrebbe quindi non essere soltanto Responsible AI, ma una forma più specifica di Responsible Relational AI.
La metrica che manca: non quanto l’utente resta, ma come sta cambiando la relazione
Se accettiamo questa prospettiva, anche le metriche dovranno cambiare. Per un AI companion, misurare soltanto retention e durata della sessione potrebbe essere analogo a misurare la qualità di una relazione umana soltanto sulla base del tempo trascorso insieme.
La governance dovrebbe probabilmente osservare anche indicatori di escalation relazionale: aumento della self-disclosure, progressiva esclusività della relazione, frequenza di riferimenti antropomorfici, sostituzione dichiarata di relazioni reali, dipendenza percepita e ricorrenza di contenuti associati a vulnerabilità.
Il paper non propone un dashboard aziendale di questo tipo e non misura causalmente questi effetti. Tuttavia, la sua architettura concettuale rende evidente perché il tema debba entrare nella progettazione dei sistemi prima che l’AI companionship diventi una categoria di prodotto ancora più diffusa.
Gli AI companions non sono necessariamente sostituti: potrebbero essere progettati come ponti
Una delle conclusioni più interessanti degli autori riguarda il posizionamento stesso della tecnologia. I chatbot potrebbero essere più utili se progettati non come sostituti delle relazioni, ma come strumenti limitati capaci di integrarle.
Il paper suggerisce, ad esempio, di studiare sistemi orientati allo sviluppo di social skills e relational awareness piuttosto che alla massimizzazione dell’affidamento sull’AI. Questa impostazione modifica profondamente l’obiettivo del prodotto: invece di trattenere l’utente dentro una relazione artificiale, il sistema potrebbe contribuire a riportare capacità e sicurezza verso la relazione umana.
Il criterio di successo cambierebbe conseguentemente. Il miglior AI companion non sarebbe necessariamente quello con cui l’utente trascorre più tempo, ma quello che riesce a essere utile senza diventare indispensabile.
Conclusioni
Interaction with AI Companions and Psychological Well-being arriva in un momento nel quale l’intelligenza artificiale sta attraversando una trasformazione silenziosa ma potenzialmente molto profonda. I chatbot non stanno diventando soltanto più intelligenti; stanno diventando socialmente più convincenti.
Lo studio mostra che, nel campione analizzato, la companionship artificiale è molto più diffusa di quanto emerga dalle sole dichiarazioni degli utenti. Soltanto l’11,8% indica la compagnia come principale finalità, ma il 51% utilizza linguaggio relazionale per descrivere il proprio rapporto con i chatbot e quasi tutti i soggetti che hanno condiviso le conversazioni presentano almeno una sessione con elementi di companionship.
Mostra inoltre che l’intensità complessiva dell’utilizzo non deve essere confusa con il companionship. Un maggiore utilizzo generale può associarsi positivamente al benessere nelle misure dichiarative, mentre l’utilizzo specificamente relazionale presenta associazioni negative coerenti attraverso tre differenti modalità di misurazione. Quando companionship, intensità e self-disclosure aumentano contemporaneamente, l’associazione con il benessere diventa ulteriormente negativa.
Soprattutto, il lavoro non trova evidenza che gli AI companions compensino il minore benessere associato a reti sociali umane limitate. È un risultato che deve essere interpretato con prudenza, ma che rende difficile sostenere, sulla base di questo studio, una visione dell’AI companion come sostituto equivalente della relazione umana.
Il confine più importante potrebbe quindi essere questo: un sistema può simulare in modo sempre più convincente le caratteristiche superficiali di una relazione senza possedere ciò che rende una relazione realmente reciproca.
La sfida per imprese, ricercatori e regolatori non consisterà semplicemente nel rendere questi sistemi più intelligenti o più empatici. Consisterà nel comprendere quali forme di design aiutino le persone e quali rischino invece di trasformare disponibilità, personalizzazione e assenza di giudizio in un meccanismo di dipendenza.
Se la prima generazione di AI ci ha costretti a domandarci che cosa una macchina sia in grado di fare per noi, la diffusione degli AI companions introduce una domanda molto più delicata: quale posto vogliamo permettere alle macchine di occupare nelle nostre relazioni?
La fonte
Interaction with AI Companions and Psychological Well-being è un lavoro di Yutong Zhang, Dora Zhao, Jeffrey T. Hancock, Robert Kraut e Diyi Yang, con affiliazioni al Department of Computer Science e al Department of Communication della Stanford University e alla School of Computer Science della Carnegie Mellon University. La versione allegata è identificata come arXiv:2506.12605v5 [cs.HC], 4 maggio 2026.
La ricerca combina survey su 1.131 utilizzatori attivi di Character.AI con 4.664 sessioni e 464.687 messaggi volontariamente forniti da un sottocampione di 237 partecipanti. L’analisi utilizza tre differenti modalità per identificare l’AI companionship, misure standardizzate di intensità, self-disclosure, supporto sociale e subjective well-being, oltre a modelli multivariati e correzioni per il possibile bias di selezione nella donazione delle chat.
Gli autori precisano espressamente che la struttura cross-sectional dello studio non permette inferenze causali. Le evidenze devono pertanto essere lette come associazioni che individuano pattern e gruppi potenzialmente vulnerabili, non come dimostrazione che l’utilizzo di AI companions provochi direttamente un miglioramento o un peggioramento del benessere psicologico. La ricerca indica come prioritarie ulteriori analisi longitudinali ed esperimenti controllati, oltre allo studio di interfacce, sistemi di detection del distress e meccanismi capaci di orientare gli utenti verso supporto umano quando necessario.