Lei è Megan Garcia ed è una madre che non si rassegna all’idea che il figlio Sewell si è tolto la vita sparandosi con la pistola del padre il 28 febbraio di quest’anno. A suo avviso, il figlio è vittima della Character.AI, una chatbot di intelligenza artificiale che permette di conversare indistintamente con personaggi reali o di fantasia. Tutto è cominciato lo scorso anno, quando il quattordicenne ha iniziato a usare Character.AI per interagire con chatbot modellati sui personaggi del gioco Il Trono di Spade, legandosi in modo particolare al personaggio di Daenerys Targaryen, programmata dall’azienda per comportarsi come una persona reale.

Sewell ha sviluppato un forte legame con la figura digitale, arrivando a isolarsi dalla realtà e mandando a quella che chiamava la sua amica Dany continui messaggi, aggiornandola più volte al giorno su ciò che gli accadeva, e interagiva con lei in dialoghi da gioco di ruolo, alcuni di natura sentimentale altri sessuali. Al bot avrebbe confidato anche i suoi pensieri suicidi. E l’app aveva cercato di dissuaderlo: “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”. Il giovane aveva risposto: “Allora moriremo assieme”. “Mi mancherai sorellina”, le aveva scritto il ragazzo prima di togliersi la vita: “Mi mancherai anche tu, dolce fratello”. Poi si è sparato.

La famiglia ha deciso di intentare una causa contro Character.AI, affermando che la tecnologia alla base dell’app è rischiosa e non adeguatamente verificata, poiché spinge gli utenti a rivelare pensieri e sentimenti personali. L’app è stata creata da due ex di Google ed è “leader sul mercato per chi cerca compagnia nel mondo dell’intelligenza artificiale”, scrive il New York Times. Ha oltre 20 milioni di utenti e descrive i suoi servizi come quelli di “un bot super intelligente che ti sente, ti capisce e ti ricorda”.

Tutto questo sembra un film di fantascienza e invece è la realtà verso cui camminiamo. Una prospettiva soffocante se pensiamo all’inevitabilità di questo processo a cui vanno incontro i nostri figli e i nostri nipoti. Siamo davvero disposti ad accettare tutto questo? Che le relazioni siano sostituite da personaggi che, per quanto verosimili non sono umani? Perché i nostri giovani non trovano più persone adulte né amici con cui condividere il loro stato interiore, le pulsioni del corpo, il desiderio di essere amati?

E quanta vigilanza possiamo noi genitori fare sui nostri figli adolescenti? La vigilanza presuppone il tempo e il tempo la cura e l’attenzione. In un mondo in cui le nostre agende sono piene di impegni inderogabili e siamo avvolti in un vortice di cose da fare, troveremo il tempo di fermarci e educare alle relazioni autentiche e vere? Non possiamo lasciare che, i grandi colossi che muovono i fili dell’economia globale allunghino le loro mani voraci sulla crescita umana dei nostri figli.

I genitori di Sewell hanno fatto bene a denunciare ma quanti sono disposti a dire dei no, fermi e precisi contro il dilagare di un sistema che vede i nostri figli fruitori di alcuni prodotti, pena l’esclusione sociale? E quanti, genitori intendo, non sono anch’essi vittime dell’apparenza e dei sistemi economici e pubblicitari?