La IA no tiene miedo

Madrid

Puede que haya sido un azar más propio de estos tiempos descontrolados, pero no deja de causar inquietud que el lanzamiento del ataque contra Irán por parte de Israel y Estados Unidos se produjera a los pocos días de la disputa entre el Pentágono y uno de sus principales proveedores de sistemas de inteligencia artificial, la empresa Anthropic.

Como es conocido, la ruptura con la empresa tecnológica se debe a que el Pentágono no está dispuesto a aceptar ninguna limitación ética o de cualquier otro tipo para el uso de su armamento, mientras Anthropic quería asegurarse de que sus algoritmos no serían empleados ni para la vigilancia masiva e indiscriminada de ciudadanos estadounidenses, ni para activar sistemas de armas de carácter autónomo, es decir, capaces de decidir sus objetivos y cuándo atacarlos sin intervención de ningún humano.

Es un signo elocuente de la época dislocada en que vivimos que esos miramientos resulten casi superfluos cuando la guerra está dirigida por alguien que el Tribunal Penal Internacional está investigando por posibles crímenes de guerra y por otra persona que manifiesta estar por encima del derecho internacional. Sin embargo, no conviene dar por zanjado el debate; aunque parezca increíble, todo puede ser incluso peor con una IA sin límites de actuación.

Algunos expertos señalan que el asunto no debe ser visto sin más como una cuestión moral. El razonamiento de los estrategas militares es que, ahora mismo, cuando todas las guerras tienen ya como protagonistas a drones autónomos con gran potencia destructiva, se pueden dar situaciones críticas en las que el combate se decida por la rapidez con que se den las órdenes oportunas. Y en esos momentos la intervención humana siempre será más lenta que la reacción instantánea de un sistema de inteligencia artificial.

La IA es más rápida por la sencilla razón de que no tiene miedo. Instruida en la lógica de la guerra, sus decisiones están basadas en la eficacia bélica, exenta de consideraciones humanitarias o emocionales. Es cierto que en las primeras horas de esta guerra hemos visto la masacre producida por un misil en un colegio de niñas en Irán y caer tres cazas estadounidenses por el fuego amigo kuwaití; y no sabemos si fue un “error” de juicio de armas inteligentes o una decisión de algún comandante que no tuvo en cuenta los posibles daños colaterales.

El ser humano ha sido capaz de las mayores atrocidades sin necesidad de mucha tecnología, pero resulta evidente que la IA puede multiplicar la frecuencia y magnitud de esos desastres. Por eso nos encontramos en un momento decisivo en el que hay que prestar máxima atención a la conducta de las empresas de IA. En ese sentido, la filósofa escocesa Amanda Askell, que se ocupa de entrenar a Claude, el chatbot de Anthropic, para asegurarse de que entiende lo que está bien y lo que está mal y que tome conciencia de sí mismo para no dejarse manipular por otros, podría ser una heroína contemporánea. Por desgracia, no es suficiente para rebajar la preocupación.

A pesar del papel virtuoso que la empresa quiere desempeñar en este momento de desaforada competencia entre las cuatro o cinco compañías que dominan el desarrollo de la IA, Anthropic no parece estar libre de culpa. Algunos de sus investigadores han dimitido recientemente debido a ciertas concesiones éticas que la empresa estaría haciendo para no quedar atrás frente a sus competidores. Y uno de ellos ha escrito: “El mundo está en peligro”. Hasta hace poco podíamos pensar que exageraba. Hoy parece que no.