[PRENSA] Chatbots e inteligencia artificial: ¿ayuda o amenaza para la salud mental?

En el programa Sana Mente de CNN Chile, el Dr. Álvaro Jiménez, académico de la Universidad San Sebastián e investigador de Imhay, analizó los riesgos y alcances del uso de chatbots basados en inteligencia artificial en el ámbito de la salud mental.

El programa de CNN Chile dedicó un reportaje a explorar el uso creciente de chatbots y modelos de lenguaje generativo, como ChatGPT, en temas relacionados con bienestar psicológico y salud mental. La conversación puso en relieve los potenciales beneficios de estas herramientas digitales, pero también los riesgos asociados a su uso sin acompañamiento profesional. En este contexto, el Dr. Álvaro Jiménez advirtió que “los chatbots basados en inteligencia artificial y en estos grandes modelos de lenguaje tipo ChatGPT pueden ser muy útiles para los procesos de contención inicial, los procesos diagnósticos y de derivación. Pero, al menos, los chatbots que existen hasta el día de hoy no son buenos reemplazando procesos terapéuticos”.

El investigador explicó que una de las principales limitaciones de estas tecnologías radica en la forma en que los usuarios se relacionan con ellas. “Un tipo de conexión que establecemos con estas nuevas tecnologías se basa en cierta ilusión antropomórfica, es decir, proyectamos capacidades humanas en estas máquinas… generan esta ilusión de que estamos conversando con un humano cuando en realidad un chatbot, basado en un modelo de lenguaje de inteligencia artificial. En estricto rigor, no comprende nada de lo que decimos”, señaló.

Además, advirtió sobre el riesgo de amplificación de sesgos culturales y lingüísticos, indicando que “uno de los problemas de la inteligencia artificial no solo es que reproduce los sesgos presentes en los cuerpos de entrenamiento, sino que los amplifica”.

Finalmente, el Dr. Jiménez destacó que, pese a sus limitaciones, estas herramientas pueden ser de apoyo en contextos específicos. “Pueden detectar algunos marcadores lingüísticos de crisis de ideación suicida o de distorsiones propias de la psicosis… para fines diagnósticos pueden ser muy útiles. Sin embargo, el diagnóstico en salud mental es clínico, basado en una interacción humana, porque es muy complejo lo que llamamos problemas de salud mental”, concluyó.

De esta forma, el académico enfatizó que la inteligencia artificial puede ser un complemento, pero no un sustituto de la práctica terapéutica y del vínculo humano que sostiene los procesos de cuidado.

Ve el reportaje del programa Sana Mente, a continuación: