El algoritmo mortal La aplicación proponía al joven vídeos ‘psicológicamente perturbadores’ Denuncian a TikTok por inducir a su hijo adolescente al suicidio
Chase Nasca, de 16 años, llegó a recibir en TikTok más mil vídeos no solicitados que incitaban a la violencia y el suicidio. Ahora sus padres han presentado una denuncia contra la aplicación alegando que su hijo fue «atacado, abrumado e incitado activamente» para que se suicidara. La familia asegura que el joven no buscó nunca contenido violento, sino que fue la red social china la que le inundó con este tipo de vídeos.
Oye hermano, si no estoy aquí mañana, te pido que me recuerdes y me perdones». Así concluía la última conversación que Chase mantuvo a través de mensajes privados en TikTok con un usuario al que había conocido porque publicaba mucho contenido relacionado con la depresión. «Realmente espero que sigas con vida. No vale la pena irse», le escribía su interlocutor minutos antes de que el joven se quitara la vida al salir de su colegio, situado a diez minutos de la vía de ferrocarril de Long Island, en Nueva York.
Ahora, los padres de Chase han decidido denunciar a TikTok. «La gente necesita conocer los peligros de las redes sociales», explica en Bloomberg Dean, el padre del joven. «Chase no fue intimidado. Tenía un gran grupo de amigos y sobresalía tanto en la escuela como en los deportes. No consumía drogas, no bebía… Entonces, ¿cuál fue la variable que lo puso al límite? Solo puedo concluir que es este aluvión constante de videos de TikTok», concluye.
Y, aunque es imposible conocer los motivos que llevaron a Chase a tomar esa decisión, dos semanas después de que se quitara la vida, Michelle, su madre, comenzó a buscar en sus redes sociales y lo que encontró la ha traído hasta aquí. Cuando abrió su aplicación de TikTok descubrió más de 3000 vídeos a los que su hijo había etiquetado como favoritos, guardado o marcado como que le gustaban. «Estoy atrapada en una vida en la que no pedí estar», decía el primer vídeo que Chase tenía entre las sugerencias de la app. A partir de ahí todo el contenido respiraba la misma oscuridad.
Tras mas de dos horas repasando vídeos, Michelle le preguntó a uno de los hermanos mayores de Chase por qué aquella cuenta era tan depresiva. «Chase no hizo eso, mamá», les respondió su hijo mayor. «Eso viene del algoritmo». Entre las palabras que Chase había utilizado en sus búsquedas estaban ‘baloncesto’, ‘levantamiento de pesas’, ‘discursos de motivación’ y hasta ‘Batman’, pero lo que el algoritmo le proponía en el apartado de contenidos recomendados ‘Para ti’ eran vídeos sobre depresión y muerte.
La responsabilidad de las redes sociales
La denuncia se produce justo en medio del debate internacional sobre la correlación entre las redes sociales y la depresión, las autolesiones y el suicidio. También coincide con la comparecencia ante el Congreso de Estados Unidos del CEO de TikTok, Shou Zi Crew, ante la amenaza de que podría prohibirse en el país en los próximos meses. Calificada como «una amenaza real e inminente» para la seguridad estadounidense, la aplicación ha provocado la desconfianza generalizada ante la posibilidad de que la empresa china que la creó haya intentado acceder a datos privados de los usuarios a través de sus cuentas.
Durante la comparecencia de Crew, el republicano de Florida Gus Bilirakis presentó a los padres de Chase Nasca, que se encontraban entre la audiencia. «Señor Chew, su compañía destruyó sus vidas», le dijo. «¿Compartiría este contenido con sus dos hijos?». E inmediatamente después reprodujo una grabación de pantalla de la cuenta TikTok del joven. A continuación le preguntó si asumía la responsabilidad del algoritmo de la aplicación. Chew empezó a responder, pero Bilirakis lo interrumpió. «¿Sí o no?».
«Proporcionamos recursos para cualquier persona que escriba algo como el suicidio», se defendió Crew antes de que Bilirakis lo interrumpiera de nuevo y declarara: «Veo que no está dispuesto a responder la pregunta ni asumir ninguna responsabilidad por su empresa matriz, la tecnología y el daño».
El principio del fin
Los vídeos de usuarios que confesaban que no querían seguir viviendo se colaron entre las recomendaciones para Nasca de TikTok a finales del año 2021, según cuenta su amigo Brandon Maffei. Cuando la pandemia los recluyó en casa, muchos adolescentes se refugiaron en las redes sociales y se comunicaban con los demás a través del envío de vídeos. Fue entonces cuando Maffei comenzó a notar que los contenidos que compartía Nasca eran de carácter muy oscuro. Recuerda, incluso, que alguno lo hizo llorar.
Antes de aquel episodio, la familia de Chase llevaba una vida normal. El joven era un estudiante brillante, competía en el equipo de natación de la escuela secundaria y jugaba para el equipo de fútbol. «Nunca mostró signos de estar deprimido», explicaba su entrenador Kurt Kelley. «Era un buen compañero de equipo, un buen capitán y un buen amigo».
Pero algo debió de cambiar para que Chase no contestara al teléfono la noche de febrero de 2022 en la que Michelle tuvo que revisar la ubicación de su hijo para poder localizarlo. Fue entonces cuando vio en el mapa un punto inmóvil cerca del cruce del ferrocarril y decidió coger el coche para llegar hasta las vías. Cuando se acercó había un tren parado y el conductor estaba fuera. No había nada que hacer.
-
1 ¿Cómo han convertido las adolescentes la medicina estética en algo tan habitual como ir a la peluquería?
-
2 Tres propuestas para que tu dieta antiinflamatoria sea, además de saludable, sabrosa
-
3 Pódcast | Drogas, abortos, abusos... el dolor de Maria Callas en el rostro de Angelina Jolie
-
4 Cada vez más cerca del otro planeta 'habitado': así trabaja el telescopio Tess
-
5 Elogio de la mediocridad: asúmelo, no todos podemos triunfar
