Lo que no sabe decir la Inteligencia Artificial

Cada miércoles en 'Si amanece nos vamos' tenemos a nuestro motivador Francesc Miralles, escritor de éxito internacional. Esta semana nos habla sobre la Inteligencia Artificial y la repercusión que tiene en estos momentos.

¿Cómo funciona ChatGPT?

Muchos utilizan el término ChatGPT como sinónimo de Inteligencia Artificial, pero en realidad no es así. El propio ChatGPT opera con Inteligencia Artificial Generativa con técnicas de aprendizaje. Es la culminación de un proyecto en el que han intervenido más de diez mil personas, y básicamente es lo que se llama modelo de lenguaje, "esto significa que lo que nosotros interpretamos como inteligencia lo que hace para funcionar es trabajar probabilidades", explica Miralles. Si escribes en el Chat GPT la respuesta que te da es la que se da más veces

¿Por qué la IA a veces falla?

En ocasiones "falla más que una escopeta de feria", y lo hace porque "cuando recopila información, no sabe distinguir lo que es fiable y lo que es falso. "Quizá un problema del bot es que no sabe decir no lo se, muchas veces que debería saberlo".

Los peligros de la IA

Francesc nos cuenta los peligros que existen según la revista Forbes sobre la IA:

1. Falta de transparencia: Cuando las personas no pueden comprender cómo un sistema de IA llega a sus conclusiones, puede generar desconfianza y resistencia a adoptar estas tecnologías.
2. Preocupación por la privacidad: Las tecnologías de IA suelen recopilar y analizar grandes cantidades de datos personales, lo que plantea problemas relacionados con la privacidad y la seguridad de los datos. Para mitigar los riesgos para la privacidad, debemos abogar por una normativa estricta de protección de datos y prácticas seguras de tratamiento de los mismos.
3. Dilemas éticos: Inculcar valores morales y éticos a los sistemas de IA, especialmente en contextos de toma de decisiones con consecuencias importantes, supone un reto considerable. Los investigadores y desarrolladores deben dar prioridad a las implicaciones éticas de las tecnologías de IA para evitar impactos sociales negativos.
4. Riesgos para la seguridad: Los piratas informáticos y los actores maliciosos pueden aprovechar el poder de la IA para desarrollar ciberataques más avanzados, eludir las medidas de seguridad y explotar las vulnerabilidades de los sistemas. El auge del armamento autónomo impulsado por IA también suscita preocupación por los peligros de que Estados delincuentes o agentes no estatales utilicen esta tecnología, especialmente si tenemos en cuenta la posible pérdida de control humano en los procesos críticos de toma de decisiones.
5. Concentración de poder: El riesgo de que el desarrollo de la IA esté dominado por un pequeño número de grandes empresas y gobiernos podría exacerbar la desigualdad y limitar la diversidad en las aplicaciones de la IA. Fomentar el desarrollo descentralizado y colaborativo de la IA es clave para evitar una concentración de poder.
6. Dependencia de la IA: La dependencia excesiva de los sistemas de IA puede conducir a una pérdida de creatividad, capacidad de pensamiento crítico e intuición humana. Lograr un equilibrio entre la toma de decisiones asistida por IA y la aportación humana es vital para preservar nuestras capacidades cognitivas.
7. Desplazamiento laboral: La automatización impulsada por la IA puede provocar la pérdida de puestos de trabajo en varios sectores, sobre todo entre los trabajadores poco cualificados, aunque hay pruebas de que la IA y otras tecnologías emergentes crearán más puestos de trabajo de los que eliminarán. A medida que las tecnologías de IA siguen desarrollándose y haciéndose más eficientes, la mano de obra debe adaptarse y adquirir nuevas habilidades para seguir siendo relevante en el cambiante panorama. Esto es especialmente cierto para los trabajadores menos cualificados de la mano de obra actual.
8. Desigualdad económica: La IA tiene el potencial de contribuir a la desigualdad económica al beneficiar desproporcionadamente a las personas y empresas ricas. Como ya hemos mencionado, es más probable que las pérdidas de empleo debidas a la automatización impulsada por la IA afecten a los trabajadores poco cualificados, lo que provocará un aumento de la brecha salarial y reducirá las oportunidades de movilidad social.
9. Pérdida de conexión humana: La creciente dependencia de la comunicación y las interacciones impulsadas por la IA podría conducir a una disminución de la empatía, las habilidades sociales y las conexiones humanas. Para preservar la esencia de nuestra naturaleza social, debemos esforzarnos por mantener un equilibrio entre la tecnología y la interacción humana.
10. Desinformación y manipulación: En un estudio de la Universidad de Stanford sobre los peligros más acuciantes de la IA, los investigadores afirman: «Los sistemas de IA se están utilizando al servicio de la desinformación en Internet, lo que les confiere el potencial de convertirse en una amenaza para la democracia y en una herramienta para el fascismo. Desde los vídeos deepfake hasta los bots online que manipulan el discurso público fingiendo consenso y difundiendo noticias falsas, existe el peligro de que los sistemas de IA socaven la confianza social. La tecnología puede verse apropiada por criminales, estados deshonestos, extremistas ideológicos o simplemente grupos de intereses especiales, con el fin de manipular a las personas para obtener ganancias económicas o ventajas políticas.»
11. Riesgos existenciales: El desarrollo de una Inteligencia General Artificial (AGI) que supere la inteligencia humana plantea preocupaciones a largo plazo para la humanidad. La perspectiva de la AGI podría tener consecuencias imprevistas y potencialmente catastróficas, ya que estos sistemas avanzados de IA podrían no estar alineados con los valores o prioridades humanas.

Visión de Isaac Asimov

El autor del relato 'Robots que he conocido' tiene una visión optimista, Asimov afirma que una máquina no se vuelve contra su creador, si se halla apropiadamente diseñada. Pero, ¿lo está? La respuesta escapa incluso a los propios creadores de la IA, que han manifestado sus dudas y temores sobre lo que suceda en el futuro.

Siempre positivo respecto a la tecnología, Asimov pronosticó una humanidad liberada de todos los trabajos con sofisticadas máquinas como sirvientes, lo cual nos llevaría a un nuevo Renacimiento.