Armamento autónomo e inteligencia artificial

Vehículo aéreo no tripulado de combate
 

Más de mil expertos en inteligencia artificial, científicos e investigadores de este campo firmaron una carta abierta para advertir al público general sobre la “carrera armamentista de inteligencia artificial”, y pidieron una prohibición de “armas autónomas ofensivas”.

La carta, presentada a finales del mes pasado en la Conferencia Internacional Conjunta de Inteligencia Artificial en Buenos Aires, Argentina, fue firmada por el director de Tesla Motors, Elon Musk, el cofundador de Apple, Steve Wozniak, el director de Google DeepMind y el profesor Stephen Hawking, además de mil investigadores de robótica e inteligencia artificial.

La carta dice: “La tecnología de inteligencia artificial (IA) ha alcanzado un punto en que el despliegue de armamento autónomo será factible en unos cuantos años, si no legalmente al menos de manera práctica. Ya no se trata de décadas sino de años y hay mucho en juego: el armamento autónomo ha sido descrito como la tercera revolución en la historia de los conflictos armados, después de la pólvora y las armas nuclearas”.

Los autores arguyen que la IA puede ser usada para proteger mejor al personal militar en el campo de guerra pero también que las armas de ataque que operan por sí mismas disminuirían los límites y provocarían mayor pérdida de vidas humanas. Si un poder militar, ya sea un país o un grupo paramilitar, comienza a desarrollar sistemas capaces de seleccionar sus objetivos y operar de forma autónoma sin control humano directo, se desencadenaría una carrera armamentista similar a aquella de la bomba atómica. A diferencia del armamento nuclear, sin embargo, la AI no requiere de materiales específicos de difícil obtención, además de que será casi imposible de supervisar.

“El punto final de esta trayectoria tecnológica es evidente: el armamento autónomo se convertirá en las Kalashnikov de mañana. La pregunta principal de la humanidad en la actualidad es si quiere comenzar una carrera armamentista de IA o si preferimos prevenirla desde su inicio”, escribieron los autores de la carta. Toby Walsh, profesor de IA de la Universidad de Nueva Gales del Sur dijo: “Necesitamos tomar una decisión hoy para darle forma a nuestro futuro y decidir si seguimos el camino del bien. Apoyamos el llamado de un gran número de organizaciones humanitarias para que Naciones Unidas prohíba el armamento autónomo de ataque, afín a la reciente prohibición de láseres cegadoras”.

Tanto Hawking como Musk han realizado advertencias públicas sobre el peligro de la IA. Musk dijo que “es la mayor amenaza de nuestra existencia” mientras que Stephen Hawking, quien depende de la tecnología para comunicarse, piensa que “el desarrollo de inteligencia artificial completa puede traer consigo el final de la raza humana”. Wozniak, por su parte, cree que el futuro de la robótica se encuentra en proveer a los seres humanos de mascotas y compañeros.

En la conferencia de las Naciones Unidas en Ginebra el pasado abril se discutió el futuro de las armas, incluidos los llamados “robots asesinos”, donde la Unión Británica se opuso a la prohibición del desarrollo de armamento autónomo a pesar de las que varios grupos en ese país.

Traducción: IIEH

Fuente: Musk, Wozniak y Hawking solicitan prohibición de armas autónomas e inteligencia artificial para la guerra

Noticias relacionadas: La IA puede ser el fin de la humanidad

La IA es nuestra mayor amenaza