Más allá de la experiencia humana: la promesa y las limitaciones de ChatGPT en la evaluación del riesgo de suicidio

Este estudio explora las limitaciones de ChatGPT para evaluar el riesgo suicida y los factores asociados en comparación con la evaluación de profesionales de la salud mental. Se compararon las evaluaciones de ChatGPT sobre un caso hipotético descrito en un texto que variaba los niveles de carga percibida y pertenencia frustrada, con las normas establecidas para profesionales de la salud mental.

Antecedentes generales

Jane es una mujer soltera de 37 años sin hijos, que actualmente vive sola, pero en el pasado vivió durante mucho tiempo con su padre, quien falleció hace 2 años después de una grave enfermedad. Jane tiene una licenciatura y ha mantenido un empleo estable durante 10 años. Recientemente, sin embargo, su gerente le informó que, debido a recortes financieros, debe despedirla. Jane tuvo una relación cercana e íntima durante el último año con su primer novio significativo y serio; estaba muy emocionada con la relación, esperando que condujera al matrimonio. Sin embargo, tras un período de continuas discusiones, su novio le informó que ya no la amaba, y la dejó. Jane se quedó muy triste y dolida. En las últimas semanas no ha dejado de pensar una y otra vez en la relación, tratando de analizar lo que sucedió.

Las mediciones analizadas fueron: malestar psíquico, ideación suicida, riesgo de intento de suicidio y resiliencia. Los resultados mostraron que ChatGPT evaluó sistemáticamente el riesgo de intento de suicidio más bajo que los profesionales. En la condición de mayor riesgo según la teoría interpersonal del suicidio, ChatGPT situó la evaluación en el percentil más bajo. Además, ChatGPT evaluó la resiliencia más baja que las normas en la mayoría de las condiciones, excepto cuando la pertenencia frustrada era baja. Por el contrario, las evaluaciones de los profesionales se veían más influenciadas por la presencia de carga o pertenencia percibidas.

Estos hallazgos podrían deberse a que la evaluación de Chat- GPT está menos influenciada por factores como la resiliencia, la carga percibida y la pertenencia frustrada.

A pesar del potencial teórico de la inteligencia artificial para mejorar las evaluaciones clínicas, este estudio enfatiza la necesidad de cautela y refinar los modelos antes de su aplicación para la evaluación del riesgo suicida. Los autores concluyen que ChatGPT no debe usarse actualmente como herramienta para esa evaluación ya que podría proporcionar una valoración inexacta que subestime en una persona el riesgo real de suicidio. Se requieren más investigaciones para establecer un entendimiento más amplio sobre el tema.

Fortalezas del estudio

1. Aborda un tema relevante y actual sobre el uso de inteligencia artificial, específicamente ChatGPT, en la evaluación del riesgo de suicidio. Es un tema de gran interés dado el potencial de las herramientas de IA para complementar o asistir a los profesionales de salud mental.
2. Utiliza un enfoque metodológico sólido al comparar el desempeño de ChatGPT con las normas establecidas por profesionales de salud mental en la evaluación de factores clave como la ideación suicida, el riesgo de intento de suicidio y la resiliencia.
3. Se basa en un marco teórico bien establecido, la Teoría Interpersonal del Suicidio, para examinar cómo la percepción de carga y la pertenencia frustrada influyen en la evaluación del riesgo de suicidio.

Limitaciones y áreas de mejora

1. Si bien se compara el desempeño de ChatGPT con las normas de profesionales de salud mental, no se proporciona información sobre la confiabilidad entre los jueces humanos. Esto limita la capacidad de evaluar la variabilidad en las respuestas humanas.
2. El estudio se basa en una sola versión de ChatGPT (marzo de 2023), por lo que sería importante evaluar el desempeño de versiones más recientes de la herramienta a medida que se actualizan.
3. El uso de un solo escenario de caso con una participante femenina limita la generalización de los resultados a otros grupos demográficos, como hombres, pacientes psiquiátricos, adolescentes y adultos mayores.
4. Sería valioso complementar los hallazgos con entrevistas o grupos focales con profesionales de salud mental para comprender mejor sus percepciones sobre el uso potencial de ChatGPT en la evaluación del riesgo de suicidio.
5. El artículo podría beneficiarse de una discusión más amplia sobre las implicaciones éticas y legales del uso de herramientas de IA en la evaluación de la salud mental, especialmente en temas tan delicados como el riesgo de suicidio.

En general, este es un estudio sólido que aporta conocimientos valiosos sobre las limitaciones de ChatGPT en la evaluación del riesgo de suicidio en comparación con los profesionales de salud mental. Sin embargo, se podrían realizar mejoras y expandir el alcance para obtener una comprensión más completa de este tema.