The Ethics of artificial intelligence and the multilateral push for a treaty

Abstract

The technologies embedding Artificial Intelligence (AI) algorithms have had, in the recent years, an exponential development both in terms of capabilities and reach. AI has already contributed to spectacular advances in many technological and scientific areas. In parallel, AI applications can also be used to manipulate citizens, amplify cyberattacks, abuse biometric data, constrain, or cancel, freedoms and control lethal autonomous weapons. As the world has known better the risks associated to AI both at societal and at military levels, the need to settle ethical principles that pose limits to the development, management and usage of AI has become urgent. This article examines the journey that different international organizations have followed in recommending AI normative frameworks based on ethical principles. The proposed ethical principles are described and discussed, as well as the need to move from recommendations to laws, as illustrated by the EU AI Act. AI-based systems create new threats to the global security. Balances of power, new security dilemmas, autonomous weaponry and increased uncertainty are some of the elements discussed in this article. The possibilities for AI to launch and lead ‘hyper’ and ‘cyber’ wars pose tremendous dangers to humanity. There is a growing consensus that those risks should be contained. International law should prevail, ethical principles respected, and humans need to remain accountable and in control. The international community is ready to work in a treaty to regulate the military applications of AI. This document argues that a treaty is needed, needed now, and explores some of the proposed foundational elements that such treaty should consider.

Las tecnologías que incorporan algoritmos de Inteligencia Artificial (IA) han tenido, en los últimos años, un desarrollo exponencial tanto en términos de capacidades como de alcance. La IA ya ha contribuido a avances espectaculares en muchos ámbitos tecnológicos y científicos. Paralelamente, las aplicaciones de la IA también pueden utilizarse para manipular a los ciudadanos, amplificar los ciberataques, abusar de los datos biométricos, limitar, o anular, las libertades y controlar armas autónomas letales. A medida que el mundo ha ido conociendo mejor los riesgos asociados a la IA tanto a nivel social como militar, se ha hecho urgente la necesidad de asentar principios éticos que pongan límites al desarrollo, la gestión y el uso de la IA. Este artículo examina el camino que han seguido distintas organizaciones internacionales para recomendar marcos normativos de la IA basados en principios éticos. Se describen y discuten los principios éticos propuestos, así como la necesidad de pasar de las recomendaciones a las leyes, como ilustra la Ley de IA de la UE. Los sistemas basados en la IA crean nuevas amenazas para la seguridad mundial. Los equilibrios de poder, los nuevos dilemas de seguridad, el armamento autónomo y el aumento de la incertidumbre son algunos de los elementos que se analizan en este artículo. Las posibilidades de que la IA lance y dirija "hiper" y "ciberguerras" plantean tremendos peligros para la humanidad. Existe un consenso cada vez mayor sobre la necesidad de contener esos riesgos. El derecho internacional debe prevalecer, los principios éticos deben respetarse y los humanos deben seguir siendo responsables y manteniendo el control. La comunidad internacional está dispuesta a trabajar en un tratado que regule las aplicaciones militares de la IA. Este documento defiende la necesidad de un tratado, que es necesario ya, y explora algunos de los elementos fundacionales propuestos que dicho tratado debería tener en cuenta.

Les tecnologies que incorporen algorismes d'Intel·ligència Artificial (IA) han tingut, en els últims anys, un desenvolupament exponencial tant en termes de capacitats com d'abast. La IA ja ha contribuït a avanços espectaculars en molts àmbits tecnològics i científics. Paral·lelament, les aplicacions de la IA també poden utilitzar-se per a manipular als ciutadans, amplificar els ciberatacs, abusar de les dades biomètriques, limitar, o anul·lar, les llibertats i controlar armes autònomes letals. A mesura que el món ha anat coneixent millor els riscos associats a la IA tant a nivell social com militar, s'ha fet urgent la necessitat d'assentar principis ètics que posin límits al desenvolupament, la gestió i l'ús de la IA. Aquest article examina el camí que han seguit diferents organitzacions internacionals per a recomanar marcs normatius de la IA basats en principis ètics. Es descriuen i discuteixen els principis ètics proposats, així com la necessitat de passar de les recomanacions a les lleis, com il·lustra la Llei de IA de la UE. Els sistemes basats en la IA creen noves amenaces per a la seguretat mundial. Els equilibris de poder, els nous dilemes de seguretat, l'armament autònom i l'augment de la incertesa són alguns dels elements que s'analitzen en aquest article. Les possibilitats que la IA llanci i dirigeixi "hiper" i "ciberguerres" plantegen tremends perills per a la humanitat. Existeix un consens cada vegada major sobre la necessitat de contenir aquests riscos. El dret internacional ha de prevaler, els principis ètics han de respectar-se i els humans han de continuar sent responsables i mantenint el control. La comunitat internacional està disposada a treballar en un tractat que reguli les aplicacions militars de la IA. Aquest document defensa la necessitat d'un tractat, que és necessari ja, i explora alguns dels elements fundacionals proposats que aquest tractat hauria de tenir en compte.