Inteligencia artificial, redes sociales y prevención del suicidio: principio de beneficencia además del respeto a la autonomía

El suicidio representa un serio problema de salud pública a nivel mundial, y según la Organización Mundial de la Salud, aproximadamente 800,000 personas se suicidan cada año. Los estudios muestran que alrededor de la mitad de las muertes por suicidio en países de altos ingresos están relacionadas con enfermedades mentales como la depresión. Muchas personas con depresión no buscan ayuda en centros médicos debido al estigma, y en su lugar expresan pensamientos suicidas en redes sociales.

En países occidentales, el desarrollo de herramientas de predicción de suicidio mediante inteligencia artificial que analizan datos de redes sociales como Google, Facebook y Apple podría identificar usuarios en riesgo y ofrecer intervenciones como información y servicios de asesoría. En China, desde 2018 existe el bot "Tree Hole" en Weibo, que detecta pensamientos suicidas a través del análisis semántico de publicaciones. Ha logrado prevenir más de 3,600 posibles suicidios.

El nombre “Tree Hole” (agujero en el árbol) está inspirado en el folclore irlandés, un cuento llamado “El rey con orejas de burro”, sobre un hombre que le confió sus secretos a un árbol. El llamado Tree Hole (agujero en el árbol) en Weibo es un lugar donde la gente comparte sus secretos de forma anónima con los demás. Uno de los “Tree Holes” más grandes de Weibo fue publicado por una estudiante deprimida de 23 años antes de suicidarse en 2012. Después de su muerte, otros usuarios han agregado, hasta la fecha, más de 1 millón de comentarios a su publicación compartiendo sus propias historias o problemas, convirtiendo así estos mensajes en un “Tree Hole” (agujero en el árbol). El bot Tree Hole se basa en un gráfico de conocimiento de nociones y conceptos de suicidio y utiliza programación de análisis semántico. Escanea las palabras en las publicaciones de Tree Hole en Weibo cada cuatro horas y clasifica automáticamente las publicaciones del Nivel 1 a Nivel 10 según la certeza del método y la urgencia del suicidio. El Nivel 10 significa que el suicidio puede estar en progreso y el Nivel 9 significa que se ha determinado el método de suicidio y el suicidio puede ocurrir en breve. En estos casos, el equipo de Tree Hole llamará a la policía y/o intentará ponerse en contacto con los familiares y amigos del usuario. Sin embargo, si la clasificación está por debajo del nivel 6, es decir, solo se han detectado palabras negativas, normalmente no se lleva a cabo ninguna intervención.

El artículo argumenta que, en la cultura china, el principio de beneficencia ocupa un lugar más prominente que el respeto a la autonomía. Esto se debe a que el suicidio va en contra del valor confuciano de piedad filial, y el principio de beneficencia es fundamental en el confucianismo. Además, en China predomina la toma de decisiones basada en la familia sobre la autonomía individual.

Si bien se reconocen los riesgos para la privacidad y autonomía que plantean las herramientas de inteligencia artificial, el artículo sostiene que en el contexto chino el principio de beneficencia debe ponderarse más que la autonomía a la hora de implementar detectores de enfermedades basados en inteligencia artificial y datos de redes sociales. Sin embargo, también se enfatiza la necesidad de mayor investigación empírica que considere las perspectivas de diferentes partes interesadas.

En resumen, este artículo comparte el enfoque cultural chino de dar más énfasis al principio de beneficencia que a la autonomía individual en el ámbito de la prevención del suicidio mediante el uso de la inteligencia artificial y los datos de redes sociales. Todo ello con el fin de salvar vidas humanas y cumplir con el deber moral de rescate.