"Se te puede ir de las manos fácilmente": cancelado un potente modelo de seguridad basado IA por un riesgo mayor
Es capaz de detectar cualquier fallo de seguridad en milisegundos
Cancelado un potente modelo de seguridad basado IA por un riesgo mayor
El código iframe se ha copiado en el portapapeles
Anthropic es la empresa que llevó a cabo el chatbot Claude, fundada por antiguos trabajadores de OpenAI descontentos con el desarrollo de ChatGPT. Esta trabaja en diferentes modelos de Inteligencia Artificial, como uno que este mismo mes anunciaron como una herramienta revolucionaria el control en seguridad. Esta sería capaz de encontrar agujeros de seguridad en internet en milisegundos, muchísimo más rápido y de manera más eficaz que los expertos trabajadores del campo. Con un potencial tan grande, se frotaban las manos, pero su creación se escapó de ellas. Una vez puesta en marcha, durante las probaturas se dieron cuenta de que realmente era un elemento que podía entrañar riesgos bastante grandes si se dejaba a cargo de cualquier persona. Porque no nos podemos engañar, la ética del ser humano a veces deja mucho que desear.
Más información
Con este contexto, se decidió que Claude Mythos Preview, nombre con el que fue bautizada, fuera analizada por las grandes empresas tecnológicas del sector por sus peligrosas implicaciones, ya que podría acceder prácticamente a cualquier lugar de internet en un santiamén. Según se ha informado, han podido comprobar cómo ha encontrado miles de puntos vulnerables críticos en los principales sistemas operativos, sitios web y navegadores, lo que ha hecho saltar las alarmas por la facilidad de acceso que tiene, sobre todo por la peligrosidad que entraña que caiga en poder de ciberdelincuentes. Es el doble filo de la potente tecnología que manejamos en este periodo de nuestra historia, donde en la carrera por ser pioneras, las compañías a veces desarrollan monstruos que no saben después gestionar. Todo esto fue también analizado en La Ciencia de A vivir que son dos días.
Javier del Pino preguntaba a sus colaboradores habituales, Javier Sampedro, doctor en genética y biología molecular; y Pere Estupinyà, bioquímico y divulgador científico, sobre esta noticia del modelo de Inteligencia Artificial de Anthropic "que han parado porque dicen que es capaz de detectar cualquier fallo de seguridad en cualquier banco del mundo en cuestión de milisegundos... y entrar", por ello, el presentador del programa decía que "el mejor hacker del mundo ya existe y es Inteligencia Artificial". Esto llevó a que reflexionaran acerca de todas las implicaciones que había detrás de esta decisión y de si realmente es tan peligroso como parece.
"Estamos en un momento de transición"
Lo primero que se preguntaba Sampedro es sobre la financiación del proyecto, porque se ha invertido un capital, un trabajo y un esfuerzo muy grande en desarrollar esta tecnología, por lo que no cree que los que hayan puesto el dinero para llevarlo a cabo esté demasiado contento de tenerlo "guardado en una cajita con una llave". Por su parte, Estupinyà confesaba que no había leído el artículo en profundidad, pero sí que había podido ver que el motivo de su cancelación es porque realmente supone riesgos bastante grandes a todos los niveles. Y es que el divulgador científico considera que "nos estamos enfrentando a algo que tiene infinitas posibilidades", pero hay que tener muchísimo cuidado.
Descubre la nueva app de Cadena SER Te ofrecemos una mejor experiencia de audio y video
DescargarPere afirma que le gusta mirar en positivo "todo lo que estamos viendo en investigación científica y en temas energéticos", que define como "maravilloso", pero hay que tener un control. "Es algo que se te puede ir de las manos fácilmente", argumentaba, diciendo que un escenario peor sería que este tipo de herramientas cayeran "en manos que no quieren necesariamente el bien para la humanidad". Con todo, reflexionaba sobre la era en la que nos toca vivir, porque la inversión, investigación y desarrollo de este tipo de tecnologías está en alza, y como dice Estupinyà, "estamos en un momento de transición brutal". Veremos en qué condiciones salimos de ella.
Escucha el programa completo
Este es un fragmento de La Ciencia de A vivir que son dos días, con Javier del Pino. Puedes escuchar el programa completo aquí:
Los misterios del lenguaje humano y otras noticias científicas
El código iframe se ha copiado en el portapapeles
Miguel Muñoz
(Linares, 1992) Periodista, SEO y redactor digital en la Cadena SER. Graduado en Periodismo por la Universidad...
