La empresa española que desenmascara las mentiras y equivocaciones de ChatGPT: "El porcentaje de error puede llegar al 60%"
Maisa, una empresa de inteligencia artificial, desarrolla tecnología para auditar y verificar las decisiones de la IA
Los Revolucionarios | La empresa española que desenmascara las mentiras y equivocaciones de ChatGPT: "El porcentaje de error puede llegar al 60%"
El código iframe se ha copiado en el portapapeles
En los últimos meses todos hemos incorporado un concepto a nuestro día a día: inteligencia artificial. Y en algunos casos no sólo como espectadores, sino en su vida o en su empresa. Los modelos de inteligencia artificial se van apropiando de nuestro día a día, de automatismos, de gestiones y de proceso, pero en el fondo, seguimos sin saber cómo operan por detrás y por qué hacen las cosas, ya que no son transparentes. Y a menudo seguimos sin detectar que se equivocan. "No es consciente de que te está mintiendo, simplemente está repitiendo datos", ha explicado David Villalón, CEO y cofundador de Maisa, en La Ventana.
Más información
Los modelos de IA generativa no "mienten" en el sentido humano, pero sí pueden dar respuestas incorrectas sin saberlo. "En preguntas factuales, se puede equivocar un 30% de las veces", ha señalado Villalón. Aunque en tareas más sencillas "no llega al 2%", cuando el proceso se va complicando y se van sumando tareas, "el porcentaje de error puede llegar a ser del 60%" ha añadido. Esto se debe a que funcionan de manera probabilística, generando texto en función de patrones sin una validación empírica. No "razonan" en el sentido humano, sino que predicen la respuesta más probable en función de lo que han visto antes.
La tecnología de Maisa se rige por un sistema de razonamiento muy avanzado a través del cual son capaces de analizar, rastrear y auditar, cómo las distintas Inteligencias Artificiales toman decisiones. El CEO ha contado que el origen de Maisa se sitúa en una pregunta: "¿Y si en vez de utilizar la IA para que me de respuestas, la utilizo para que me diga el camino que tengo que utilizar?".
"Utilizamos lo que tiene todo el mundo disponible, pero con mucha tecnología por encima", ha bromeado Villalón. El objetivo de Maisa es que cada decisión tomada por la IA sea justificada con pruebas empíricas. Esto es diferente de las IA generativas tradicionales, que simplemente generan texto sin que se pueda auditar su razonamiento real. Permite analizar cada paso de la IA para asegurar que las respuestas sean coherentes y verificables. "En lugar de basarse en probabilidad, nuestro sistema ejecuta procesos estructurados y deterministas", ha aclarado.
Actualmente son 20 personas en el equipo, aunque han crecido rápidamente en los últimos meses, llegando a trabajar con empresas en Estados Unidos y en Europa. En los últimos dos meses han incorporado a siete nuevos miembros y esperan seguir expandiéndose. Su tecnología se aplica en sectores como la banca, seguros, energía, automoción y manufactura, donde la trazabilidad es clave.
