La inteligencia artificial, entre la ayuda terapéutica y la amenaza emocional

Vitoria-Gasteiz

La inteligencia artificial ha demostrado ser una herramienta poderosa en el ámbito de la salud, con aplicaciones eficaces en la detección precoz de enfermedades o en la evolución de fármacos. Sin embargo, su creciente presencia en el terreno de la salud mental plantea preocupaciones cada vez más visibles entre expertos, pacientes y profesionales de distintos sectores.

Teresa Mendiguren, miembro del grupo Gureiker de la Universidad del País Vasco (UPV/EHU), advierte sobre los riesgos del uso sin control de herramientas como los llamados psicobots y chatbots diseñados para ofrecer apoyo emocional o simular terapias. “Simulan conversaciones terapéuticas, ofrecen ejercicios y dan consejos basados en terapias psicológicas reales, pero lo hacen de forma sistematizada, sin empatía y sin capacidad de adaptación emocional”, ha indicado Mendiguren. “Eso, como poco, puede ser inadecuado”.

Aunque estos sistemas pueden resultar útiles como herramientas complementarias o de autoayuda ligera, los riesgos aumentan cuando se utilizan como sustitutivos de una terapia profesional. “La IA no puede interpretar los cambios emocionales del usuario. Una terapia que hoy funciona, mañana puede no ser útil si cambia tu estado de ánimo, y eso, el chatbot, no lo percibe”, ha advertido.

Una falsa sensación de acompañamiento

Mendiguren también ha señalado que el mayor peligro es que el usuario desarrolle una falsa sensación de acompañamiento. “La IA no tiene empatía real. Puede ofrecer respuestas automáticas que no siempre son adecuadas para el momento emocional del paciente, y ahí recae una de las claves para el uso o no de esta tecnología de manera generalizada".

A esto se suma otro aspecto delicado, como es la privacidad. “Muchas veces compartimos datos muy personales sin ser conscientes de que esa información queda registrada. Imagínate lo que eso significa cuando hablamos de salud mental, y el problema es que no sabemos dónde y quién tiene acceso a toda esa información", ha indicado la investigadora del grupo Gureiker.

A este respecto, Terese Mendiguren se ha referido a una situación personal interactuando con ChatGPT, donde la herramienta recordó una consulta realizada más de un año atrás. “Me hizo ver que uso la IA más de lo que pensaba, y a la vez me hizo preguntarme qué otros datos ha retenido de las consultas que le he hecho, vamos que la Inteligencia Artificial sabe más de mí y de mi trabajo de lo que pensaba”.

Impacto emocional en las redacciones

El debate sobre los efectos de la inteligencia artificial también alcanza al mundo profesional. En particular, el periodismo, un sector que, en palabras de Mendiguren, está experimentando un aumento de los niveles de ansiedad debido a la velocidad con la que se introducen estas tecnologías. “Estamos viendo cómo crece la presión en las redacciones, y no solo por miedo a perder el puesto de trabajo, sino por la necesidad de estar al día, además de producir contenido de forma constante, y todo esto genera estrés, desamparo y un profundo malestar emocional”.

Desde el grupo Gureiker han constatado cómo muchos profesionales se sienten abrumados ante la falta de formación específica y recursos para adaptarse a herramientas de IA que ya están plenamente integradas en su rutina diaria. “La IA podría ser una aliada, pero sin la formación adecuada, se convierte en una amenaza más. Añade peso a una mochila que ya va demasiado cargada”, ha destacado Mendiguren.

El papel del periodismo, más crucial que nunca

Mendiguren también ha remarcado la importancia de un periodismo responsable a la hora de abordar estos temas, especialmente cuando se trata de salud mental. “Es necesario consultar a expertos, informar con rigor y evitar el sensacionalismo. Un titular puede ayudar, pero también puede destruir”.

En un contexto en el que la inteligencia artificial se abre camino rápidamente en todos los ámbitos, los expertos insisten en que el enfoque humano, ético y empático sigue siendo irremplazable.