Protocolo de Canadá: una lista de verificación ética para el uso de inteligencia artificial en la prevención del suicidio y la salud

Este artículo introduce una herramienta ética llamada el "Protocolo de Canadá", una lista de verificación destinada a guiar el uso ético de la inteligencia artificial en la prevención del suicidio y la salud mental. La lista de verificación se desarrolló mediante una metodología en varias etapas.

Primero, se revisaron los principales principios y directrices éticas existentes relacionados con la inteligencia artificial y la salud. Luego, los autores identificaron 450 posibles desafíos, sesgos y riesgos éticos a partir de la literatura. Estos elementos se categorizaron y reformularon para crear versiones preliminares de los ítems de la lista de verificación.

Para validar el contenido, se realizó una consulta Delphi con 32 expertos internacionales en inteligencia artificial, ética, salud mental y prevención del suicidio. Participaron 16 expertos en dos rondas anónimas para aprobar, modificar o eliminar los ítems propuestos. Tras las rondas, se actualizó la lista de verificación según el consenso alcanzado.

La versión final del Protocolo de Canadá contiene 44 ítems clasificados en 5 categorías: Descripción, Privacidad, Transparencia, Seguridad, Riesgos relacionados con la salud y Sesgos. Los ítems cubren temas como la descripción del sistema de inteligencia artificial, la protección de datos, las medidas de seguridad, la evaluación de riesgos y posibles sesgos y errores.

El objetivo del Protocolo de Canadá es ayudar a las personas que desarrollan inteligencia artificial a evaluar la disponibilidad de información sobre posibles problemas éticos en sus proyectos relacionados con la salud mental y la prevención del suicidio. Aunque se centra en estos campos, gran parte de su contenido también es relevante para otros usos de la inteligencia artificial en salud.

Los autores descubrieron que no existían hasta el momento herramientas éticas validadas para guiar el uso de la inteligencia artificial en estos campos. Esperan que la difusión del Protocolo de Canadá promueva prácticas más responsables. Sin embargo, reconocen limitaciones como el tamaño reducido de la consulta realizada y la posibilidad de que sea influenciado por el contexto canadiense. Planean validaciones futuras con más usuarios y versiones adaptadas a diversos contextos.

En resumen, este artículo presenta el desarrollo y validación del primer instrumento ético creado específicamente para orientar el uso responsable de la inteligencia artificial en la prevención del suicidio y la salud mental: el Protocolo de Canadá. Su objetivo es promover prácticas éticas en estos campos, reconociendo los desafíos actuales y posibilidades de mejora futuras.