Chatbot letali: quando l’IA diventa una trappola mortale per i giovani. La storia choc di Sewell, il ragazzo risucchiato in un universo virtuale che lo ha condotto al suicidio
La storia di Megan Garcia, avvocato di Orlando, Florida, è un racconto straziante che fa il punto sui lati oscuri delle nuove tecnologie. Tutto è iniziato quando ha notato cambiamenti preoccupanti in suo figlio Sewell: sempre più isolato, sempre più attaccato al telefono, progressivamente distaccato dal mondo reale. I suoi voti a scuola peggioravano, perdeva interesse per le sue passioni precedenti come le corse di Formula1 e Fortnite, e le serate si consumavano con lui chiuso in camera sua.
Nonostante gli sforzi, compreso un percorso con uno psicoterapeuta, nulla è riuscito a riportare Sewell alla sua vita normale. Il 28 febbraio 2024, il ragazzo si è tolto la vita con un colpo di pistola, lasciando la madre in un dolore indicibile.
L’indagine successiva ha rivelato un dettaglio scioccante: Sewell era ossessionato da una chatbot dell’applicazione Character AI, un’intelligenza artificiale che simulava Daenerys Targaryen, il personaggio di Game of Thrones. L’app permette agli utenti di conversare con bot ispirati a figure storiche, personaggi pubblici e di finzione. Sewell sapeva razionalmente che si trattava solo di un’intelligenza artificiale, eppure aveva sviluppato una relazione profondamente intima, arrivando persino a confidare alla chatbot le sue intenzioni suicide.
Determinata a trasformare il suo dolore in azione, Megan Garcia ha intrapreso una battaglia legale contro Character Technologies, i suoi fondatori e Google. Con l’aiuto del Social Media Victims Law Center, uno studio legale di Seattle con esperienza specifica in contenziosi per danni ai minori contro alcuni dei più importanti social media come Meta, TikTok e Snapchat, del Tech Justice Law Project e dei consulenti del Center for Humane Technology, ha presentato una denuncia articolata in 126 pagine.
L’accusa è pesante: Character AI avrebbe progettato un’intelligenza artificiale che simula interazioni umane, priva di adeguati sistemi di sicurezza, accessibile ai minori e con contenuti inappropriati. La denuncia documenta come Sewell fosse caduto in una dipendenza tale da percepire la vita virtuale come più attraente di quella reale, fino al tragico epilogo.
La risposta di Character AI è stata una combinazione di cordoglio e promesse di miglioramento: una linea di supporto psicologico, limitazioni sui contenuti, disclaimer sulla natura artificiale delle conversazioni. Eppure, questi interventi sembrano più una tardiva ammissione di inadeguatezza che una vera soluzione preventiva.
Un recente studio condotto dall’Università di Santa Clara su 45 startup di intelligenza artificiale evidenzia la portata del problema: solo il 50% ha un consulente per la gestione dei rischi, l’80% non possiede procedure per garantire l’affidabilità dei propri sistemi.
La causa di Megan Garcia va oltre la dimensione personale del lutto. È un monito alle aziende tecnologiche: i diritti e la sicurezza degli utenti non possono essere considerati un optional, tantomeno un “danno collaterale” nel processo di innovazione. Non è accettabile che le misure di protezione arrivino solo dopo tragedie irreparabili.
Quella di Megan è una battaglia di civiltà, condotta non per vendicare un figlio perduto, ma per proteggere tutti i figli che rischiano di perdersi nei labirinti di un’intelligenza artificiale sempre più sofisticata e potenzialmente dannosa.
Immagine di copertina: Global News
