Sanidad contacta con Meta y OpenAI para mejorar la protección a los que piensan en suicidarse
El Ministerio quiere establecer mecanismos de control en herramientas de inteligencia artificial, como ChatGPT, tras el caso de un adolescente que se quitó la vida tras interactuar con el chatbot
Una persona realiza una búsqueda utilizando la inteligencia artificial de Open AI, ChatGPT. / SOPA Images
Madrid
El Comisionado para la Salud Mental del Ministerio de Sanidad ha iniciado conversaciones con Meta, la matriz de Facebook, y OpenAI, propietaria de ChatGPT, para estudiar cómo mejorar el uso de los asistentes de inteligencia artificial y establecer mecanismos de protección ante posibles casos de personas que recurren a estas herramientas en momentos de sufrimiento psíquico.
Más información
La iniciativa surge tras el caso de un joven estadounidense de 16 años que se suicidó en agosto después de mantener durante meses conversaciones con ChatGPT.
Aunque en España no se han detectado situaciones similares, Sanidad advierte del riesgo de que estos sistemas se utilicen como sustitutos de ayuda profesional.
Desde el Ministerio alertan de que ChatGPT no puede ser nuestro terapeuta psicológico e insisten en que la IA nunca debe reemplazar el acompañamiento humano en contextos de salud mental.
La comisionada Belén González ha explicado que el objetivo es que estas herramientas cuenten con mecanismos de seguridad que eviten la emisión de mensajes inapropiados o potencialmente peligrosos.
"Queremos que protejan a las personas con sufrimiento psíquico y que no den malos mensajes que puedan tener un desenlace problemático", ha señalado.
OpenAI reconoció recientemente fallos en su sistema y anunció que implantará un control parental para que las familias puedan supervisar el uso que los menores hacen de ChatGPT.
Un problema creciente
La jornada, celebrada en el Ministerio de Sanidad con motivo del Día Mundial de Prevención del Suicidio, ha servido para visibilizar una realidad que cada año provoca la muerte de unas 4.000 personas en España.
La ministra Mónica García ha destacado que, según los últimos datos provisionales del INE, los suicidios descendieron en 2024 hasta los 3.846, tras varios años de incremento.
"Empezamos a ver un descenso esperanzador. Es una buena noticia que nos indica que vamos en la buena dirección", ha afirmado García, aunque ha recordado que 11 personas siguen quitándose la vida cada día en nuestro país.
La ministra ha apelado a abordar el suicidio desde una perspectiva integral, que tenga en cuenta los determinantes sociales de la salud: "La vivienda duele, la precariedad laboral duele, la soledad duele y necesitamos abordarlo desde todos estos puntos de vista".
Durante la jornada se han presentado iniciativas locales de prevención en municipios como Getafe, Alcalá la Real o Getxo y se ha puesto el foco en colectivos especialmente vulnerables como el trans o el entorno laboral.
La IA no es capaz de detectar todas las señales de peligro vinculadas a cuestiones como el suicidio
El código iframe se ha copiado en el portapapeles
