Google elimina algunos de sus resúmenes escritos con IA porque podrían poner en riesgo la salud de los usuarios

Madrid

Google ha comenzado a eliminar algunos de sus resúmenes producidos con Inteligencia Artificial porque los errores e inexactitudes que presentan podrían suponer un riesgo para la salud de los usuarios. Una investigación de The Guardian ha revelado que estos resúmenes escritos con IA generativa pueden contener errores.

Dichos resúmenes buscan ofrecer una respuesta clara y precisa a los usuarios cuando realizan una búsqueda. Los textos aparecen en la parte superior de los resultados de búsqueda para un acceso más fácil a la información, aunque en el caso de los datos referentes a la salud no siempre eran correctos.

El diario británico menciona un caso en el que el buscador proporcionó información falsa sobre la disfunción hepática, la cual podría llevar a personas que sufren esta patología a pensar que no tienen ningún problema.

Según los expertos consultados por el medio, la IA generativa de Google no tiene en cuenta aspectos cruciales de los pacientes, como la edad, la estatura o el sexo, lo que también podría llevar a personas a creer que presentan síntomas claros de una enfermedad cuando no es así.

Entre otros resúmenes, la empresa tecnológica ha eliminado las respuestas a preguntas como "¿cuál es el rango normal de los análisis de sangre del hígado?" o "¿cuál es el rango normal de las pruebas de función hepática?".

Por su parte, una portavoz de la compañía ha respondido a la investigación del medio señalando que no van a realizar "comentarios sobre eliminaciones individuales en la búsqueda".

"En los casos en los que los resúmenes de IA omiten parte del contexto, trabajamos para realizar mejoras generales y también tomamos medidas de acuerdo con nuestras políticas cuando lo consideramos oportuno", ha añadido el comunicado publicado en The Guardian.