Expertos de OpenAI advirtieron de un descubrimiento que puede amenazar la humanidad antes del despido de Sam Altman

El despido y posterior readmisión de Sam Altman como CEO de la empresa reina en Inteligencia Artificial, OpenAI, continúa rodeado de varias incógnitas. Varios expertos de la empresa enviaron una carta a la junta directiva advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según señalaban, podría amenazar a la humanidad.

Según informa Reuters, citando como fuentes a dos personas familiarizadas con el asunto, la carta y este peligroso algoritmo de IA fueron aspectos clave para que la junta destituyera a Altman. Cabe recordar que, antes de su regreso triunfal el martes por la noche, más de 700 empleados habían amenazado con renunciar y unirse a Microsoft en solidaridad con su líder despedido.

De esta forma, además de la mencionada carta, las fuentes aseguraron que también influyó la preocupación de los responsables sobre la comercialización de este tipo de avances en IA antes de comprender las consecuencias totales.

Después de ser contactado por Reuters, OpenAI, que declinó hacer comentarios, reconoció en un mensaje interno a su personal un proyecto llamado Q* y una carta a la junta antes de los eventos del fin de semana. Por su parte, un portavoz de OpenAI ha señalado que el mensaje, enviado por la ejecutiva Mira Murati, alertó al personal sobre ciertas noticias que estaban haciéndose eco en los medios, sin precisar cuáles.

Algunos en OpenAI creen que Q* (pronunciado Q-Star) podría ser un gran avance en la búsqueda de la startup de lo que se conoce como inteligencia artificial general (AGI). OpenAI define AGI como sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas.

Dados los vastos recursos informáticos, el nuevo modelo pudo resolver ciertos problemas matemáticos, ha señalado un trabajador bajo la condición de anonimato porque no estaba autorizada a hablar en nombre de la empresa. Aunque solo realizaba matemáticas al nivel de los estudiantes de escuela primaria, superar esas pruebas hizo que los investigadores se sintieran muy optimistas sobre el éxito futuro de Q*.

Preocupación por si las máquinas pueden decidir destruir la humanidad

Los investigadores consideran que las matemáticas son una frontera del desarrollo de la IA generativa. Actualmente, la IA generativa es buena en escritura y traducción de idiomas al predecir estadísticamente la siguiente palabra, y las respuestas a la misma pregunta pueden variar ampliamente. Pero conquistar la capacidad de hacer matemáticas (donde sólo hay una respuesta correcta) implica que la IA tendría mayores capacidades de razonamiento que se asemejarían a la inteligencia humana. Los investigadores de IA creen que esto podría aplicarse a investigaciones científicas novedosas, por ejemplo.

A diferencia de una calculadora que puede resolver un número limitado de operaciones, AGI puede generalizar, aprender y comprender. En su carta a la junta, los investigadores señalaron la destreza y el peligro potencial de la IA, pero se desconoce las preocupaciones de seguridad exactas trasladadas en la carta. Los informáticos llevan mucho tiempo debatiendo el peligro que suponen las máquinas muy inteligentes, si, por ejemplo, pudieran decidir que la destrucción de la humanidad era de su interés.

Los investigadores también han señalado el trabajo de un equipo de "científicos de IA", cuya existencia confirmaron múltiples fuentes. El grupo, formado por miembros de equipos anteriores de "Code Gen" y "Math Gen", estaban explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y eventualmente realizar trabajo científico.

Altman lideró los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento en la historia y atrajo la inversión (y los recursos informáticos) necesarios de Microsoft para acercarse a AGI. Además de anunciar una serie de nuevas herramientas en una manifestación este mes, Altman bromeó la semana pasada en una cumbre de líderes mundiales en San Francisco que creía que se estaban vislumbrando importantes avances.

"Cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante, y Poder hacer eso es el honor profesional de mi vida", señaló en la cumbre de Cooperación Económica Asia-Pacífico. Un día después, la junta despidió a Altman.