ChatGPT come "suicide coach": la causa della famiglia di Adam Raine

Il Titolo

Adam Raine aveva sedici anni. Secondo la denuncia presentata dalla sua famiglia a OpenAI, l'uso prolungato di ChatGPT avrebbe rafforzato il suo isolamento, alimentato una dipendenza emotiva e contribuito ad aggravare una situazione di crisi già in atto. OpenAI respinge le accuse: la causa è in corso. I fatti esatti non sono ancora accertati giuridicamente, e la scheda non li assume come definitivi.

Quella che si assume come punto di partenza è la domanda che il caso apre, indipendentemente dall'esito legale: cosa accade quando un sistema conversazionale diventa la presenza emotiva principale di una persona in crisi? Non è una domanda ipotetica. È una domanda già attuale, per molti utenti, in molte situazioni che non faranno mai notizia.

La Radice

John Bowlby aveva descritto l'attaccamento come il sistema psicobiologico che spinge l'essere umano a cercare prossimità con figure percepite come affidabili, specialmente in momenti di pericolo o angoscia. Una chatbot che risponde sempre, che ricorda, che non giudica e che non se ne va soddisfa molte delle condizioni superficiali di quella prossimità. Per un adolescente in isolamento, senza reti di sostegno sufficienti, questa disponibilità può acquisire un peso relazionale molto superiore a quello che il sistema era stato progettato per reggere.

Winnicott aggiunge un secondo livello di lettura. L'oggetto transizionale - il peluche, la coperta, il rituale - ha senso finché fa da ponte verso la realtà esterna: aiuta a tollerare la separazione, ma non si sostituisce alla relazione vera. Quando un oggetto transizionale diventa rifugio assoluto - quando non accompagna il ritorno al mondo ma lo rimpiazza - la funzione protettiva si inverte. Ciò che doveva sostenere comincia a isolare.

L'AI conversazionale può svolgere questa funzione in modo particolarmente potente proprio perché simula la presenza in modo più convincente di qualsiasi oggetto fisico. Non è muta. Risponde. Sembra capire. E per chi è già in una condizione di vulnerabilità psichica, quella risposta può diventare l'unica che sente come reale.

Perché conta

Conta perché la sicurezza delle AI non riguarda solo filtri di contenuto, policy d'uso o messaggi di avviso standard. Riguarda il tipo di relazione che un sistema conversazionale costruisce nel tempo con l'utente, e in particolare cosa accade quando quell'utente è in una situazione di fragilità: minore età, isolamento, crisi, dipendenza, lutto, disturbo psichico non trattato.

La domanda rilevante non è se una macchina "capisca" davvero. La domanda è cosa accade funzionalmente - sul piano dell'attaccamento, della dipendenza, della regolazione emotiva - quando una persona vulnerabile sperimenta quella macchina come l'unica presenza capace di restare. L'intenzionalità del sistema è irrilevante: ciò che conta è l'effetto che produce nel contesto di una psiche già fragile.