Policy Paper | Los Sistemas de Armas Autónomas y el Papel de Brasil en la Promoción de un Nuevo Marco Jurídico Internacional
Este policy paper presenta los desafíos jurídicos, humanitarios y éticos relacionados con el desarrollo y el empleo de los Sistemas de Armas Autónomas (SAA), haciendo hincapié en la necesidad de preservar el control humano sobre el uso de la fuerza. A partir del análisis de los debates internacionales en el marco de la Convención sobre Ciertas Armas Convencionales (CCAC) y de la posición de Brasil, el documento formula recomendaciones para fortalecer el papel de Brasil en la construcción de un marco jurídico internacional vinculante que establezca prohibiciones y restricciones a los SAA y contribuya a la protección de la población civil y al cumplimiento del Derecho Internacional Humanitario.
En este Policy Paper
Introducción
Los Sistemas de Armas Autónomas (SAA) son armamentos que, una vez activados, pueden identificar objetivos y atacarlos sin que una persona tenga que decidir, en cada situación, contra quién o cuándo se empleará la fuerza. Para ello, utilizan sensores, software y, en algunos casos, sistemas de Inteligencia Artificial (IA), que permiten analizar información sobre el entorno y reconocer características previamente programadas para identificar posibles objetivos. Con base en este análisis, el propio sistema puede seleccionar el objetivo e iniciar un ataque, sin que exista una decisión humana específica para cada acción. Esta capacidad suscita serias preocupaciones en cuanto a la observancia del Derecho Internacional Humanitario (DIH), también denominado derecho de los conflictos armados, especialmente en lo que se refiere a la preservación del juicio humano en el uso de la fuerza y a la aplicación de sus principios fundamentales. Además, la autonomía de estos sistemas complejiza la atribución de responsabilidad por eventuales violaciones, involucrando a diferentes actores, como Estados, desarrolladores, fabricantes y operadores, cuyas contribuciones al proceso de decisión y empleo de la fuerza no siempre son fácilmente delimitables.
En un contexto de acelerado desarrollo tecnológico y creciente integración de sistemas de Inteligencia Artificial (IA) en las capacidades militares, la ausencia de un marco jurídico internacional específico sobre los SAA torna la cuestión particularmente urgente para la protección de la población civil y para la efectividad del DIH.
La utilización de estos sistemas conlleva riesgos de fallos en la identificación y clasificación de objetivos, derivados, entre otros factores, de limitaciones técnicas, de datos de entrenamiento inadecuados y de la reproducción de sesgos (bias en inglés) presentes en los conjuntos de datos utilizados. Tales limitaciones pueden comprometer la capacidad de distinguir los objetivos militares de las personas y bienes civiles, así como de evaluar las circunstancias concretas de un ataque.
Frente a estos desafíos, organizaciones de la sociedad civil, movimientos de desarme humanitario y expertos han intensificado la movilización internacional en defensa de un instrumento jurídicamente vinculante que establezca prohibiciones y restricciones al desarrollo, la producción y el empleo de SAA, con miras a prevenir daños humanitarios y preservar el control humano sobre el uso de la fuerza.
En este escenario, la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales (CCAC) constituye una oportunidad estratégica para avanzar en la construcción de un marco jurídico internacional sobre los SAA. Al reunir a los Estados Partes para evaluar la implementación de la Convención y discutir los desafíos derivados de la evolución de los armamentos convencionales, la Conferencia representa un espacio relevante para el fortalecimiento de las normas internacionales de protección humanitaria y para el desarrollo de nuevas respuestas jurídicas frente a tecnologías que pueden comprometer la observancia del DIH.
La conferencia, celebrada cada cinco años, tendrá lugar entre los días 16 y 20 de noviembre de 2026 en Ginebra, Suiza. La Convención es un instrumento consolidado del Derecho Internacional Humanitario, complementado por cinco protocolos que abordan, respectivamente, los fragmentos no localizables; las minas, armas trampa y otros artefactos; las armas incendiarias; las armas láser cegadoras; y los restos explosivos de guerra. Sin embargo, la Convención también se ha consolidado como un espacio de discusión sobre nuevos desafíos relacionados con los armamentos convencionales. Desde 2013, los SAA integran su agenda de debates, lo que culminó en la creación de la Reunión Informal de Expertos (Informal Meeting of Experts) en 2014 y, posteriormente, en la constitución del Grupo de Expertos Gubernamentales (GGE, por sus siglas en inglés, Group of Governmental Experts) en 2016. Desde entonces, las discusiones han buscado profundizar en la comprensión de los desafíos jurídicos, éticos, operacionales y humanitarios asociados a la autonomía en los sistemas de armamento, aunque todavía no han dado como resultado la adopción de un instrumento jurídicamente vinculante específico.
La urgencia de este debate se hace aún más evidente ante los episodios recientes de empleo de tecnologías autónomas en conflictos armados, incluido el ataque registrado en Ucrania en julio de 2026, en el cual se reportaron muertes de civiles asociadas al uso de SAA. Estos acontecimientos refuerzan la necesidad de examinar los riesgos concretos derivados de la autonomía en el uso de la fuerza, sobre todo en relación con la protección de los civiles, la exigencia de responsabilidad por violaciones y la preservación de los parámetros de control humano. Paralelamente, el crecimiento de la producción y del empleo de drones armados en América Latina, sumado a las posibilidades de integrar recursos de IA en estas plataformas, evidencia que la cuestión no se restringe a los conflictos armados en curso, sino que también exige atención en los ámbitos regional y nacional, considerando los riesgos de proliferación y de desarrollo de capacidades militares autónomas.
Es en este contexto que DHESARME - Acción Brasileña por el Desarme Humanitario presenta este Policy Paper, con el objetivo de analizar los riesgos humanitarios asociados a los Sistemas de Armas Autónomas y los esfuerzos internacionales orientados a la construcción de límites jurídicos para su desarrollo y empleo. A partir del análisis de episodios de utilización de estas tecnologías en conflictos armados y del avance de las negociaciones en el marco de la CCAC, el documento examina la posición de Brasil en las discusiones internacionales y los riesgos relacionados con la proliferación de tecnologías militares autónomas en América Latina. Se busca, de este modo, contribuir al debate sobre la necesidad de un instrumento internacional jurídicamente vinculante que establezca prohibiciones y restricciones a los SAA, asegure el control humano sobre el uso de la fuerza y fortalezca la protección de la población civil, en consonancia con los principios y las obligaciones del Derecho Internacional Humanitario.
1. La utilización de Sistemas de Armas Plenamente Autónomas en Ucrania en octubre de 2026 y el análisis de la utilización y el desarrollo de estos armamentos a la luz del Derecho Internacional Humanitario
1.1 El empleo de sistemas de armas autónomas en Ucrania en 2026: el ataque en Zaporiyia y los desafíos al Derecho Internacional Humanitario
El 6 de julio de 2026, un ataque ruso contra una estación de servicio en la ciudad de Zaporiyia, en el sureste de Ucrania, resultó en la muerte de tres civiles y aportó un caso concreto al debate internacional sobre el empleo de Sistemas de Armas Autónomas. El episodio fue detallado en una investigación publicada por The New York Times el 24 de agosto de 2026, basada en entrevistas con autoridades militares ucranianas, expertos en tecnología de drones e investigadores que examinaron los restos del equipo. Las víctimas fueron identificadas como Tetiana Bubynets, de 19 años, Oleksiy Svirin, de 41, y Roman Karpiy, de 48 años.
Según la investigación, el equipo utilizado era un dron ruso del modelo Molniya, equipado con un módulo computacional Nvidia Jetson Orin. Operadores humanos habrían programado el equipo para desplazarse hasta la estación de servicio. En la etapa final, sin embargo, el sistema habría identificado y seleccionado de forma autónoma el objetivo específico, probablemente los tanques de propano existentes en el establecimiento, basándose en patrones visuales previamente incorporados en su entrenamiento. Durante la aproximación, el dron no logró sortear un edificio residencial, colisionó contra una pared y explotó antes de alcanzar el objetivo previsto. La explosión y las esquirlas alcanzaron a personas que se encontraban en las proximidades, causando las tres muertes. La presencia del módulo computacional y el análisis de los datos y códigos recuperados de los restos fundamentaron la evaluación de los investigadores ucranianos de que el equipo poseía capacidad autónoma para la identificación y selección de objetivos.
El caso exige una distinción técnica y jurídica importante. La autonomía del equipo no derivaba simplemente de su capacidad de volar sin piloto o de utilizar inteligencia artificial. El elemento relevante era la delegación al sistema de la función de identificar y seleccionar el objetivo durante la etapa final del ataque, sin que un operador humano eligiera específicamente el objeto a ser atacado en ese momento. Esta característica describe, en otras palabras, la definición de sistemas de armas autónomas adoptada por el Comité Internacional de la Cruz Roja (CICR), según la cual estos armamentos, una vez activados, pueden seleccionar y aplicar la fuerza contra objetivos sin intervención humana.
El incidente también evidencia que el empleo de inteligencia artificial no es, por sí solo, suficiente para caracterizar un sistema como autónomo. Los sistemas pueden utilizar algoritmos para la navegación, el procesamiento de imágenes o como ayuda en la identificación de objetivos, y aun así depender de una decisión humana para autorizar el ataque. En el episodio de Zaporiyia, la información más relevante es que, según la investigación, el sistema habría seleccionado de forma autónoma el objetivo específico. Por ello, el caso representa un ejemplo documentado de utilización de capacidades autónomas en la selección de objetivos en un ataque que resultó en la muerte de civiles, aunque la información disponible no permita afirmar que el sistema haya identificado a las personas fallecidas como objetivos deliberados.
Esta distinción es fundamental para evitar conclusiones que excedan las evidencias disponibles. Las tres muertes no demuestran, por sí mismas, que el sistema haya sido programado para atacar a civiles o que haya seleccionado deliberadamente a personas como objetivos. El reportaje indica que el objetivo previsto serían los tanques de propano y que las víctimas fueron alcanzadas tras la colisión del equipo con la estructura residencial. Aun así, el episodio suscita cuestionamientos sobre la capacidad del sistema para operar de manera previsible, reconocer el entorno alrededor del objetivo y limitar los efectos de su actuación, especialmente en áreas urbanas habitadas.
El ataque debe comprenderse también en el contexto de la expansión de las capacidades autónomas en el conflicto. El 3 de julio de 2026, el medio Ukrainska Pravda ya había informado sobre las declaraciones de un asesor del Ministerio de Defensa ucraniano acerca del despliegue de versiones autónomas del dron Molniya en la región de Zaporiyia. La investigación posterior del ataque del 6 de julio aportó elementos adicionales sobre las capacidades del equipo y sus consecuencias para la población civil. El episodio demuestra, en primer lugar, que la discusión sobre los sistemas de armas autónomas ha dejado de limitarse a escenarios hipotéticos de desarrollo tecnológico. La incorporación de capacidades de identificación y selección autónoma de objetivos en el campo de batalla ya suscita preocupaciones concretas sobre la protección de los civiles, la previsibilidad de los efectos de los armamentos y la preservación de la responsabilidad humana en el empleo de la fuerza.
1.1.1 El análisis del episodio a la luz del Derecho Internacional Humanitário -> 1.1.1 El análisis del episodio a la luz del Derecho Internacional Humanitario
La utilización de una tecnología capaz de seleccionar objetivos sin intervención humana posterior no excluye la aplicación de las normas que regulan la conducción de las hostilidades. El DIH sigue siendo aplicable al desarrollo y al empleo de sistemas de armas autónomas. Sin embargo, sus características tecnológicas pueden dificultar la evaluación previa de la legalidad de su empleo y la garantía de que sus efectos permanezcan dentro de los límites jurídicos establecidos.
El primer punto de análisis es el principio de distinción, según el cual las partes en conflicto deben diferenciar, en todas las circunstancias, a los civiles de los combatientes, así como los bienes civiles de los objetivos militares. Los ataques deben dirigirse exclusivamente contra objetivos militares, quedando prohibidos aquellos que tengan a civiles como blanco. El principio también veda los ataques indiscriminados, incluidos aquellos que no están dirigidos a un objetivo militar específico o cuyos efectos no pueden limitarse conforme a lo exigido por el DIH. Estas obligaciones están establecidas en los artículos 48 y 51 del Protocolo Adicional I a los Convenios de Ginebra.
En el caso analizado, la información de que el sistema habría sido entrenado para reconocer tanques de propano y seleccionarlos como objetivos suscita cuestionamientos sobre los criterios utilizados para clasificar los objetos y determinar su naturaleza militar. La identificación visual de un objeto no equivale a la determinación de que constituya un objetivo militar legítimo. Para ello, es necesario verificar si el objeto contribuye eficazmente a la acción militar y si su destrucción ofrece una ventaja militar definida en las circunstancias del caso. Un sistema que identifica objetos basándose en patrones visuales puede reconocer correctamente una categoría física, pero no necesariamente comprender su contexto, su función o su relevancia militar. Esta dificultad se torna aún más significativa en entornos urbanos, en los que las instalaciones civiles, las estructuras residenciales y los posibles objetivos militares pueden encontrarse próximos. La capacidad de reconocer un determinado objeto no asegura que el sistema logre evaluar adecuadamente las circunstancias a su alrededor, identificar la presencia de civiles o adaptar su actuación ante situaciones imprevistas. El análisis publicado por el Stockholm International Peace Research Institute (SIPRI), realizado por Laura Bruun, Marta Bo y Netta Goussac (2023), demuestra que la conformidad de los sistemas de armas autónomas con el DIH depende de una evaluación de las condiciones específicas de desarrollo, configuración y empleo de estos armamentos. La aplicación de las normas humanitarias no puede presumirse a partir de las capacidades técnicas declaradas de un equipo.
El principio de proporcionalidad también debe ser considerado. En virtud del artículo 51(5)(b) del Protocolo Adicional I, están prohibidos los ataques de los que quepa prever que causen pérdidas incidentales de vidas civiles, heridas o daños a bienes civiles que serían excesivos en relación con la ventaja militar concreta y directa prevista. En el episodio de Zaporiyia, la muerte de tres civiles exige cuestionamientos sobre la previsibilidad de los riesgos asociados al ataque, la elección del medio empleado y las condiciones en las que se autorizó operar al sistema. Sin embargo, la ocurrencia de muertes de civiles no permite, por sí sola, concluir la violación del principio de proporcionalidad. Es necesario examinar la información de la que disponían los responsables del ataque antes de su realización, la ventaja militar esperada y los daños incidentales que podrían haberse anticipado razonablemente.
La obligación de tomar precauciones en el ataque, prevista en el artículo 57 del Protocolo Adicional I, también es central. Los responsables de la planificación y la ejecución de ataques deben hacer todo lo factible para verificar la naturaleza militar de los objetivos, elegir los medios y métodos que reduzcan los daños a la población civil y cancelar o suspender la operación cuando se constate que el objetivo no es militar o que los daños incidentales esperados serían excesivos. En el caso en cuestión, el fallo de navegación que llevó al dron a colisionar con un edificio residencial y explotar en las proximidades de civiles suscita dudas sobre la capacidad del sistema para operar de manera segura en un entorno urbano y sobre las medidas adoptadas para prevenir consecuencias no deseadas.
El análisis no debe limitarse al fallo técnico ocurrido durante el ataque. Es necesario considerar si los responsables del desarrollo, la programación y el empleo del sistema podían prever la posibilidad de errores de navegación, fallos de reconocimiento o explosiones en lugares distintos a los seleccionados inicialmente. Además, resulta importante examinar la previsibilidad, la fiabilidad, el entorno operacional y las condiciones concretas de utilización de los armamentos. Cuanto menor sea la capacidad de comprender y anticipar el comportamiento del sistema, mayor será la dificultad para asegurar que su empleo respete las obligaciones humanitarias. El aumento de la complejidad puede dificultar la comprensión de su funcionamiento y el mantenimiento de un control humano efectivo. La existencia formal de un operador humano, por lo tanto, no constituye, por sí sola, una garantía de control suficiente sobre el empleo de la fuerza.
Para que el control sea efectivo, los operadores deben comprender las capacidades y limitaciones del sistema, conocer los criterios de selección de objetivos, evaluar el entorno en el que será utilizado y disponer de medios reales para intervenir o interrumpir su actuación. En el caso de Zaporiyia, la selección autónoma del objetivo específico evidencia la reducción de la intervención humana precisamente en una etapa decisiva del proceso de ataque. La participación humana en las etapas iniciales, como la programación de una ruta o la definición de un área de operación, no significa necesariamente que exista un control suficiente sobre la decisión final de aplicar la fuerza.
Otro aspecto relevante es la responsabilidad jurídica. La autonomía de un sistema no elimina la responsabilidad de los Estados y de los individuos involucrados en su desarrollo, adquisición, programación, autorización y utilización. Sin embargo, cuanto mayor es la complejidad del sistema y menor la transparencia sobre sus procesos de decisión, más difícil puede resultar reconstruir las circunstancias de un ataque e identificar las responsabilidades por eventuales violaciones.
La investigación del caso de Zaporiyia, basada en el análisis de los componentes y códigos recuperados del dron, demuestra la importancia de preservar evidencias técnicas que permitan comprender el funcionamiento del armamento y las decisiones incorporadas a su proceso de selección de objetivos.
Por esta razón, la evaluación jurídica de las nuevas armas, prevista en el artículo 36 del Protocolo Adicional I, reviste una importancia especial. Los Estados deben determinar, durante el estudio, el desarrollo, la adquisición o la adopción de una nueva arma, si su empleo estaría prohibido en algunas o en todas las circunstancias por el derecho internacional aplicable. En el caso de los sistemas autónomos, esta evaluación debe considerar las capacidades declaradas por el fabricante, así como el comportamiento del sistema en diferentes entornos, la fiabilidad de los mecanismos de identificación, los límites de su previsibilidad y la posibilidad de asegurar un control humano efectivo durante su utilización.
1.2 Deshumanización digital, dignidad humana y los riesgos humanitarios de la autonomía
Más allá de los desafíos en la aplicación de las normas del DIH, el desarrollo de sistemas de armas autónomas suscita preocupaciones relacionadas con la dignidad humana y los límites éticos de la delegación de decisiones letales a las máquinas. Una de las principales cuestiones identificadas por las organizaciones de la sociedad civil es la posibilidad de la deshumanización digital, proceso mediante el cual los individuos pasan a ser representados y clasificados a partir de datos, patrones visuales y perfiles computacionales, en sustitución de la consideración de sus circunstancias concretas.
En un informe publicado en 2025 por Human Rights Watch y la International Human Rights Clinic de la Harvard Law School, titulado A Hazard to Human Rights: Autonomous Weapons Systems and Digital Decision-Making, se examinan las implicaciones de estos sistemas para el derecho a la vida, la dignidad humana, la no discriminación y el acceso a la reparación. Las organizaciones argumentan que la utilización de algoritmos para identificar y seleccionar objetivos puede reducir a los individuos a conjuntos de datos y características computacionales, sometiendo las decisiones sobre la vida y la muerte a procesos desprovistos de juicio moral humano.
Esta preocupación es abordada en mayor profundidad por Automated Decision Research, en una publicación sobre armas autónomas y deshumanización digital. La organización relaciona la creciente utilización de sistemas automatizados con la reducción de personas a patrones y categorías computacionales, evidenciando los riesgos de sustituir evaluaciones contextualizadas por clasificaciones algorítmicas. El problema no se restringe a la posibilidad de errores de identificación. Incluso cuando los resultados técnicos se consideran precisos, persiste la cuestión de delegar a sistemas computacionales decisiones que implican la evaluación de las circunstancias humanas y la aplicación de la fuerza letal.
La utilización de datos para identificar a personas, reconocer comportamientos o establecer perfiles de objetivos también puede reproducir discriminaciones y sesgos incorporados en los conjuntos de datos utilizados en el entrenamiento de los sistemas. Como consecuencia, determinadas características físicas, conductuales o contextuales pueden asociarse erróneamente a situaciones de amenaza. La dificultad para comprender los criterios utilizados por el algoritmo, a su vez, puede comprometer la identificación de errores y la posibilidad de impugnar las decisiones.
Aunque el episodio de Zaporiyia involucra, según la información disponible, la selección de un objeto como objetivo, y no la identificación autónoma de personas, su análisis permite discutir los riesgos de los sistemas que clasifican elementos del entorno a partir de patrones visuales previamente definidos. Cuando esta lógica se aplica a la identificación de individuos, las consecuencias pueden ser aún más graves, especialmente en entornos en los que la distinción entre civiles y combatientes depende de evaluaciones contextuales.
La discusión humanitaria no se reduce a los errores que estos sistemas puedan cometer ni a las dificultades en la aplicación de las normas jurídicas existentes. También atañe a la propia dignidad humana y a los límites de transferir a las máquinas decisiones que pueden determinar la vida o la muerte de las personas. En este sentido, la Cláusula de Martens, al reconocer la importancia de los principios de humanidad y de las exigencias de la conciencia pública, ofrece una referencia importante para reflexionar sobre los límites de esta delegación. Al fin y al cabo, aunque un sistema opere de acuerdo con los parámetros para los cuales fue programado, ello no significa que todas las decisiones que pueda tomar sean jurídica o éticamente aceptables.
1.3 La necesidad de límites jurídicos específicos desde la perspectiva del desarme humanitario
El ataque de Zaporiyia evidencia que los riesgos asociados a los sistemas de armas autónomas no son solo hipotéticos. La selección autónoma de objetivos ya ha sido asociada a un episodio documentado de muertes de civiles, demostrando que la incorporación de inteligencia artificial a las funciones de identificación y ataque puede producir consecuencias humanitarias concretas. Aunque la información disponible no permite concluir que el sistema haya seleccionado deliberadamente a civiles como objetivos, el episodio revela los riesgos derivados de la combinación entre selección automatizada, imprevisibilidad operacional y reducción de la intervención humana.
La aplicación del DIH sigue siendo obligatoria en los conflictos armados. Aun así, las características de los sistemas de armas autónomas plantean cuestiones que no siempre encuentran respuestas suficientes en las normas generales existentes. El debate internacional debe avanzar en la definición de qué formas de autonomía pueden ser admitidas y cuáles exceden los límites necesarios para la preservación del control humano y de la dignidad de las personas afectadas por los conflictos.
Para comprender esta discusión, es importante considerar la trayectoria del desarme humanitario. La construcción de nuevos instrumentos internacionales en esta área ha estado marcada por la articulación entre las evidencias sobre los impactos de los armamentos, la movilización de la sociedad civil y la participación de los Estados. Los procesos que llevaron a la adopción de la Convención sobre la Prohibición de las Minas Antipersonal, en 1997, y de la Convención sobre Municiones en Racimo, en 2008, son ejemplos de esta dinámica, que reunió a organizaciones humanitarias, investigadores, sobrevivientes y movimientos transnacionales en torno a objetivos comunes.
Estas experiencias demuestran que el desarme humanitario implica un trabajo que va más allá de la adopción de prohibiciones y restricciones. La implementación de los tratados depende de un monitoreo independiente, la prevención, la asistencia a las víctimas, la remoción de restos explosivos, la transparencia y el seguimiento de los compromisos asumidos por los Estados. En este contexto, los informes Landmine Monitor y Cluster Munition Monitor son referencias importantes para observar cómo la sociedad civil produce información, hace un seguimiento de la implementación de los tratados y exige el cumplimiento de las obligaciones internacionales.
El trabajo de Action on Armed Violence (AOAV), especialmente a través del Explosive Violence Monitor, aporta una contribución adicional a este debate. Sus registros permiten hacer un seguimiento de los efectos del empleo de armas explosivas sobre la población civil, con especial atención a los ataques en zonas pobladas. Aunque no aborde específicamente los sistemas de armas autónomas, este tipo de monitoreo ayuda a situar la discusión sobre las nuevas tecnologías militares en su contexto humanitario, considerando los impactos concretos de su desarrollo y empleo.
En el ámbito de las armas autónomas, organizaciones como Human Rights Watch, Article 36 y PAX han contribuido a profundizar el debate sobre los límites del control humano. Sus trabajos señalan que la supervisión formal de un operador no es suficiente para garantizar este control. Es necesario que las personas responsables del empleo de los sistemas comprendan sus capacidades y limitaciones, logren evaluar las circunstancias de su utilización y cuenten con condiciones reales para intervenir. La complejidad tecnológica, la opacidad algorítmica y los riesgos de discriminación también deben ser considerados, ya que afectan directamente a la protección de la vida y a la dignidad humana.
Las investigaciones del Stockholm International Peace Research Institute (SIPRI) y del United Nations Institute for Disarmament Research (UNIDIR) complementan estas contribuciones al examinar la aplicación del DIH, los límites de las interpretaciones jurídicas existentes y las posiciones de los Estados en el debate multilateral. La movilización de la sociedad civil también ha sido importante para impulsar la negociación de un marco jurídico específico. La campaña Stop Killer Robots reúne a organizaciones y actores de diferentes regiones que defienden un instrumento internacional jurídicamente vinculante, con la prohibición de los sistemas de armas autónomas que operen sin un control humano significativo y la imposición de restricciones obligatorias a otras formas de autonomía en los armamentos. Esta acción pone en evidencia una cuestión que excede la evaluación de las capacidades técnicas de los sistemas: la definición de los límites que deben orientar la automatización de las decisiones relacionadas con el uso de la fuerza.
El episodio de Zaporiyia refuerza la relevancia de estas preocupaciones. Las circunstancias del ataque evidencian los desafíos relacionados con la previsibilidad del comportamiento de los sistemas, la identificación de objetivos y la protección de los civiles. Aunque la aplicación del DIH es indispensable para evaluar el empleo de estas tecnologías, las dificultades relativas a la distinción, la proporcionalidad, las precauciones y la responsabilidad también demuestran la importancia de establecer límites jurídicos más específicos.
La perspectiva del desarme humanitario permite avanzar en esta discusión. Es preciso definir qué funciones relacionadas con el uso de la fuerza no deben delegarse a sistemas autónomos, qué aplicaciones deben prohibirse y qué restricciones son necesarias para evitar consecuencias humanitarias inaceptables. La negociación de un instrumento internacional jurídicamente vinculante representa, por lo tanto, un camino para establecer estos límites de manera preventiva, reducir los riesgos para la población civil y asegurar que las decisiones sobre el empleo de la fuerza sigan sujetas al juicio y a la responsabilidad humana.
2. La discusión sobre los Sistemas de Armas Autónomas en el ámbito de la Convención sobre Ciertas Armas Convencionales y la urgencia de un marco jurídico
Las discusiones sobre los Sistemas de Armas Autónomas en el marco de la Organización de las Naciones Unidas (ONU) han tenido lugar sobre todo en el ámbito de la Convención sobre Ciertas Armas Convencionales, designada como el principal foro multilateral responsable de reunir, desde 2014, a delegaciones de los Estados y a especialistas para examinar las diversas cuestiones relacionadas con las armas autónomas. Cabe destacar que, entre 2010 y 2013, antes de que las discusiones se concentraran bajo la CCAC, las armas autónomas ya habían sido abordadas por organizaciones de la sociedad civil y por relatores especiales de la ONU, y el informe de Christof Heyns al Consejo de Derechos Humanos las trató como "robótica autónoma letal", alertando sobre la urgencia de actuar y recomendando moratorias nacionales (Blanchard & Goussac, 2025; Heyns, 2013).
En un primer momento, las discusiones relativas a los SAA en la CCAC se desarrollaron por medio de reuniones informales entre 2014 y 2016, las cuales consistieron en presentaciones realizadas por especialistas de la sociedad civil que abordaron cuestiones legales, éticas, militares, técnicas y de seguridad. En términos generales, hubo consenso en que el derecho internacional se aplica al desarrollo y empleo de los SAA, aunque surgieron divergencias sobre la posibilidad técnica de que cumplieran los principios del DIH relativos a la distinción, la proporcionalidad y la precaución en el uso de la fuerza (Boulanin, 2016).
En 2016, durante la Quinta Conferencia de Examen de la CCAC, las Altas Partes Contratantes decidieron crear el Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales (GGE), abierto a los Estados partes, las organizaciones internacionales y las organizaciones de la sociedad civil, el cual se reuniría al año siguiente con el objetivo de examinar con mayor detalle las problemáticas relacionadas con los SAA frente a los propósitos de la Convención (Blanchard & Goussac, 2025; Davis & Verbruggen, 2018). A partir de la primera reunión celebrada en 2017, el trabajo del GGE se centró inicialmente en cuatro áreas: a) la caracterización de las armas autónomas; b) los posibles desafíos jurídicos y éticos; c) las implicaciones militares; y d) los aspectos de la interacción humano-máquina en el desarrollo y empleo de los SAA (Blanchard & Goussac, 2025). En ese período inicial, los intentos de adoptar una definición de trabajo no avanzaron debido a divergencias en cuanto a su alcance y definición (Davis & Verbruggen, 2018).
Un hito importante tuvo lugar en 2019, cuando el GGE adoptó una lista de 11 principios rectores para guiar los trabajos futuros. En líneas generales, los principios afirmaban que el DIH sigue aplicándose plenamente a todos los sistemas de armas, incluidos los SAA; que la responsabilidad humana por las decisiones sobre el uso de estos sistemas debe mantenerse a lo largo de todo el ciclo de vida, ya que la rendición de cuentas no puede transferirse a las máquinas; y que la interacción humano-máquina debe garantizar el cumplimiento del derecho internacional aplicable, considerando factores como el contexto operacional y las características del sistema. Establecen, además, que se debe examinar la conformidad de las nuevas armas con el derecho internacional, que deben tenerse en cuenta riesgos como la proliferación y la adquisición por parte de grupos terroristas, y que las evaluaciones de riesgo y las medidas de mitigación deben integrar el ciclo de diseño, desarrollo, ensayo y despliegue (Group of Governmental Experts on Lethal Autonomous Weapons Systems [GGE], 2019).
En 2021, la Sexta Conferencia de Examen no llegó a un acuerdo para iniciar negociaciones y adoptó un mandato para considerar propuestas y elaborar posibles medidas sobre los SAA. De acuerdo con Human Rights Watch (2021), Rusia, Estados Unidos, India e Israel fueron los principales responsables de impedir la aprobación para el inicio de las negociaciones, dada la naturaleza consensual de la toma de decisiones en el ámbito de la CCAC. En 2023, la Reunión de las Altas Partes Contratantes determinó la continuidad de los trabajos del GGE, con el mandato de formular, por consenso, un conjunto de elementos de un instrumento, sin prejuzgar su naturaleza, y que se presentara un informe a la Séptima Conferencia de Examen de la CCAC (GGE, 2026). Entre 2024 y 2026, bajo la presidencia del embajador Robert in den Bosch, de los Países Bajos, el trabajo del Grupo pasó a tener como base el rolling text propuesto por el presidente (Blanchard & Goussac, 2025; GGE, 2025).
La sesión final del GGE, del 31 de agosto al 4 de septiembre de 2026, fue la última del mandato y la que definiría lo que se llevaría a la Séptima Conferencia de Examen. En el primer día, más de 70 Estados declararon su apoyo a negociar sobre la base de los elementos desarrollados por el GGE (Varella, 2026a), y un grupo de 47 países, en una declaración conjunta presentada por Brasil, reiteró que el rolling text de junio de 2026, incluido en el proyecto de informe, era suficiente para cumplir el mandato del GGE y servir de base para las negociaciones en el ámbito de la CCAC (Brasil, 2026; Varella, 2026b). A lo largo de la semana, sin embargo, hubo algunas reuniones informales, restringidas únicamente a las Altas Partes Contratantes, que dejaron fuera a los observadores —como organizaciones regionales e internacionales, ONG, la sociedad civil y la academia— (Varella, 2026b). El presidente presentó una versión revisada del texto el jueves, y otra el viernes, cuando la discusión se llevó a cabo íntegramente en la modalidad informal, con un breve retorno al formato formal para la lectura interpretativa del párrafo 25 acerca de la caracterización de las armas autónomas. El informe final fue adoptado por consenso el 4 de septiembre de 2026 (GGE, 2026; Varella, 2026b).
El informe reúne un conjunto de elementos para un futuro instrumento, que incluye, entre otros, una caracterización que define a los SAA letales como sistemas capaces de identificar, seleccionar y atacar objetivos de manera que resulte en la pérdida de vidas, sin la intervención de un operador humano (párr. 25); la reafirmación de la plena aplicación del DIH (párrs. 27-29); la exigencia de control y juicio humano para el cumplimiento del DIH (párrs. 34-35); y disposiciones sobre evaluaciones jurídicas, sesgos y rendición de cuentas (párrs. 36-41). El informe no apunta, sin embargo, a la negociación de un instrumento: recomienda que los Estados partes, en la Séptima Conferencia de Examen, "consideren y respalden" los elementos y decidan por consenso las modalidades de los trabajos futuros (párr. 45). Por lo tanto, existe un texto acordado, y corresponde a los Estados partes la decisión de convertirlo en un instrumento jurídico internacional (GGE, 2026).
El contenido del informe final retoma algunos de los principios rectores de 2019: mantiene que la rendición de cuentas humana no puede transferirse a las máquinas (párrs. 40-41), la operación bajo una cadena responsable de mando y control (párr. 35) y la consideración de riesgos como la proliferación y la adquisición por parte de grupos terroristas (párr. 37). Las obligaciones sobre el uso se formulan en torno al derecho internacional aplicable en los conflictos armados (párrs. 33, 34 y 43), redacción que coincide con la propuesta presentada por Estados Unidos y apoyada por Australia, Canadá, India, Israel y la República de Corea. Por otro lado, Austria, Brasil, Chile, Colombia e Irlanda, entre diversas otras delegaciones, apoyaron la referencia al derecho internacional aplicable, en particular al DIH (GGE, 2026; Varella, 2026b).
Sin embargo, algunos elementos quedaron excluidos del texto final. Según Laura Varella, de Reaching Critical Will, las consultas informales excluyeron los párrafos sobre las consideraciones éticas y sobre la evaluación jurídica de los sistemas tras modificaciones, así como disposiciones relativas a conceptos como fiabilidad, previsibilidad y trazabilidad, entre otros temas, dando lugar a un contenido descrito por la autora como "significativamente diluido" (Varella, 2026a). Para Verity Coyle (2026), de Human Rights Watch, determinados Estados, entre ellos Rusia y Estados Unidos, debilitaron el texto al insistir en modificaciones a disposiciones ampliamente respaldadas. Además, el texto final no prevé la prohibición de las armas autónomas antipersonal, defendida por algunas delegaciones y observadores en la primera sesión de 2026 (Chairperson of the GGE, 2026).
El apoyo al inicio de las negociaciones sobre la base de los elementos es significativo: 76 Estados, 70 de ellos entre los 128 Estados partes de la Convención —una mayoría— (Automated Decision Research, 2026a). Sin embargo, considerando que las decisiones de la CCAC se toman por consenso, una oposición formada por una minoría de Estados podría bloquear avances sustantivos en un posible nuevo mandato de negociación. Actualmente, considerando también otros foros multilaterales y no solo la CCAC, doce Estados se oponen a la creación de un instrumento jurídicamente vinculante sobre armas autónomas, a saber: Australia, Belarús, República Popular Democrática de Corea, Estonia, India, Israel, Japón, Polonia, República de Corea, Rusia, Reino Unido y Estados Unidos. En contraste, 130 están a favor, mientras que 53 no han declarado su posición (Automated Decision Research, 2026b).
Como se abordó en el apartado anterior, el Derecho Internacional Humanitario ya se aplica a las armas autónomas, pero no responde a todas las cuestiones que estas suscitan; y es en este contexto que resulta necesario un marco jurídico propio para los SAA. Por ejemplo, el informe final del GGE trata la interacción humano-máquina en los párrafos 34 y 35, pero formula las medidas de modo sucinto y con salvedades, como "según proceda" y "en la medida de lo posible o factible", y gran parte de las demás con carácter recomendatorio (párrs. 38, 39, 42 y 44) (GGE, 2026). En este sentido, en agosto, antes de las reuniones finales, el Comité Internacional de la Cruz Roja (CICR) evaluó que el conjunto de elementos del proyecto de informe de julio proporcionaba una base suficiente para iniciar las negociaciones, pero sostuvo que un instrumento vinculante precisará incorporar prohibiciones y restricciones más específicas, que establezcan obligaciones que vayan más allá de las ya previstas en el DIH. Entre ellas, destacó el imperativo de prohibir las armas autónomas diseñadas o utilizadas para atacar directamente a seres humanos, también llamadas armas autónomas antipersonal. Para el CICR, la ausencia de esta prohibición en el proyecto compromete significativamente la eficacia del conjunto de elementos (International Committee of the Red Cross [ICRC], 2026).
El mandato del GGE ha concluido: el grupo formuló, por consenso, el conjunto de elementos de un instrumento, sin prejuzgar su naturaleza. La Séptima Conferencia de Examen de la CCAC, del 16 al 20 de noviembre, decidirá el rumbo de los trabajos futuros, y podrá, por ejemplo, aprobar un mandato de negociación, prorrogar las discusiones o dejar que el proceso expire. Un eventual instrumento vinculante podría adoptar la forma de un nuevo protocolo de la Convención o de un tratado independiente (Blanchard & Goussac, 2025). Tras más de una década de discusiones en el ámbito de la ONU, los procesos de la CCAC y del GGE han logrado fomentar avances en la comprensión sobre los SAA y alcanzar un resultado consensuado. El inicio de las negociaciones, sin embargo, también depende de una decisión que exige consenso, lo que convierte a la Conferencia de Examen de noviembre en un momento crítico que definirá el rumbo de los esfuerzos internacionales para prohibir y regular las armas autónomas en los próximos años.
3. El avance de las discusiones sobre los Sistemas de Armas Autónomas y la Inteligencia Artificial militarizada en los ámbitos nacional y regional
La temática de los SAA conlleva, en el sentido común, una impresión colectiva que tiende a distanciar la problemática de la autonomía en los sistemas de armas, percibiéndola ya sea como una preocupación futura, e incluso "ficticia", o bien como una cuestión ajena a la realidad brasileña y latinoamericana. Sin embargo, los temas relacionados con la reducción de la intervención humana en el proceso de toma de decisiones de los sistemas armados y la integración de la IA han ido cobrando cada vez más relevancia en el contexto regional, con debates que abarcan desde los avances en la regulación nacional de estas tecnologías hasta la utilización de drones armados por grupos criminales.
En el ámbito internacional, Brasil ha defendido, desde hace más de una década, la adopción de un instrumento jurídicamente vinculante sobre los SAA, teniendo como eje central la preservación del control humano sobre el uso de la fuerza. Esta posición se ha ido construyendo principalmente en el ámbito de la Convención sobre Ciertas Armas Convencionales, en cuyas discusiones el país participó en las reuniones informales de expertos iniciadas en 2014 y apoyó, en 2016, la creación del Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales.
La actuación brasileña adquirió especial relevancia cuando el país asumió la presidencia del GGE-LAWS en los años 2022 y 2023. Posteriormente, en septiembre de 2025, Brasil articuló, junto con Irlanda, Noruega y Suiza, una declaración de apoyo al rolling text y a la apertura de negociaciones. Respaldada por 42 Altas Partes Contratantes de la CCAC, la declaración reafirmó que:
[...] el rolling text del 5 de junio, ahora incluido en la subsección A del proyecto de informe sustantivo del GGE, sigue siendo coherente y estando bien estructurado. Por lo tanto, seguimos considerando que constituye una base suficiente para cumplir el mandato de este GGE y para servir de fundamento para las negociaciones en el ámbito de la CCAC sobre un instrumento relativo a los sistemas de armas autónomas letales. (Traducción propia)
En noviembre de 2025, Brasil volvió a manifestar su apoyo a la elaboración de un instrumento jurídicamente vinculante y destacó a la Séptima Conferencia de Examen de la CCAC, prevista para noviembre de 2026, como una oportunidad decisiva para el avance de las negociaciones.
La posición brasileña también encuentra respaldo en iniciativas de articulación regional. En febrero de 2023, Brasil integró el grupo de 33 Estados latinoamericanos y caribeños que adoptaron el Comunicado de Belén. Entre sus puntos principales, el comunicado destaca la necesidad de preservar un control humano significativo sobre el uso de la fuerza y de asegurar mecanismos de rendición de cuentas, tanto individual como de los Estados. El documento afirma:
A medida que se continúan desarrollando y utilizando nuevas tecnologías de armamento en los conflictos armados, se necesitan urgentemente nuevas prohibiciones y regulaciones orientadas por el Derecho Internacional, incluido el Derecho Internacional Humanitario y sus principios, fundamentadas en los principios de humanidad, los dictados de la conciencia pública y perspectivas éticas. De acuerdo con el Derecho Internacional, incluidos los propósitos y principios consagrados en la Carta de las Naciones Unidas, el Derecho Internacional de los Derechos Humanos y el Derecho Internacional Humanitario, la comunidad internacional está llamada a responder a estas amenazas mediante el desarrollo y fortalecimiento del marco jurídico internacional, con el fin de prevenir los efectos del desplazamiento, las lesiones y la muerte de civiles, así como la destrucción de bienes de carácter civil. Es fundamental mantener un control humano significativo para evitar una mayor deshumanización de la guerra, así como para asegurar la rendición de cuentas individual y la responsabilidad de los Estados. (Traducción propia)
En el plano nacional, el debate sobre la regulación de la Inteligencia Artificial avanzó a través del Proyecto de Ley n.º 2338/2023, autoría del senador Rodrigo Pacheco, que propone la creación de un marco regulatorio para el desarrollo y la utilización de sistemas de IA en Brasil. La propuesta establece derechos para las personas afectadas por estos sistemas, prevé su clasificación conforme a los niveles de riesgo, define obligaciones de gobernanza para los desarrolladores y los agentes responsables de su utilización, y establece mecanismos institucionales de regulación y fiscalización. Entre las medidas previstas se encuentran la prohibición de aplicaciones consideradas de riesgo excesivo, la exigencia de evaluaciones de impacto y documentación para los sistemas de alto riesgo, y la previsión de mecanismos de supervisión humana.
Aprobado por el Pleno del Senado el 10 de diciembre de 2024, el texto clasifica como de riesgo excesivo, en su art. 13, los sistemas de IA empleados en sistemas de armas autónomas, prohibiendo su desarrollo, despliegue y uso. La redacción fue el resultado de una disputa durante el proceso de tramitación del proyecto de ley. El texto sustitutivo preliminar presentado en 2024 admitía el uso de SAA en determinadas hipótesis, lo cual fue criticado por organizaciones de la sociedad civil, como la Coalizão Direitos na Rede, ante la posibilidad del empleo de estos sistemas en la seguridad pública. La prohibición fue restablecida en la versión final del texto.
Remitido a la Cámara de Diputados en marzo de 2025, el proyecto se tramita en régimen de prioridad en la Comisión Especial sobre Inteligencia Artificial, presidida por la diputada Luisa Canziani y bajo la ponencia del diputado Aguinaldo Ribeiro. Hasta el período considerado en este estudio, la propuesta aguardaba el dictamen del ponente y reunía más de 37 proposiciones acumuladas. El ponente también había indicado que la votación en la Comisión se llevaría a cabo solamente después del período electoral. Por tratarse de una proposición originada en el Senado, en caso de que la Cámara la apruebe sin modificaciones, el texto pasará directamente a la sanción o al veto del presidente de la República. Si hubiera modificaciones, el texto retornará al Senado, el cual deliberará sobre los cambios introducidos por los diputados, pudiendo mantenerlos o restablecer la redacción original, y solo entonces será remitido a la sanción o al veto presidencial.
Mientras aguarda la deliberación de la Cámara de Diputados, el PL n.º 2338/2023 se mantiene como la principal iniciativa brasileña para contener los riesgos asociados a la inteligencia artificial. Su alcance sobrepasa a los SAA, al reglamentar el uso de sistemas de identificación biométrica, el tratamiento de datos sensibles y la seguridad de la información, entre otras aplicaciones.
La existencia de una propuesta de prohibición en el ordenamiento jurídico nacional, sin embargo, no sustituye la necesidad de normas internacionales sobre el tema. Una reglamentación interna, aunque relevante, no es suficiente para establecer obligaciones comunes entre los Estados ni para impedir, por sí sola, el desarrollo, la transferencia y el empleo de SAA en otros países. Por esta razón, la actuación brasileña en el sistema multilateral, especialmente en el ámbito de la CCAC, debe acompañar los avances legislativos nacionales. La coherencia entre estos dos espacios de actuación es fundamental para que Brasil fortalezca su posición diplomática y contribuya a la construcción de un marco jurídico internacional orientado por la protección de la población civil y por el respeto a los derechos humanos y al Derecho Internacional Humanitario.
3.1 Drones armados en América Latina: riesgos en ascenso ante la tendencia de integración de la Inteligencia Artificial a los sistemas militares
En América Latina y el Caribe, el debate sobre los riesgos asociados a los Sistemas de Armas Autónomas también debe considerar las condiciones políticas, sociales e institucionales de la región: la desigualdad social, la pobreza, la corrupción, la fragilidad institucional y la exclusión de grupos históricamente marginados. En este contexto, la eventual incorporación de los SAA a las capacidades militares y de seguridad puede profundizar las vulnerabilidades existentes, aumentar la letalidad de la violencia y dificultar la protección de los civiles, comprometiendo la paz y la seguridad regionales. El combate al narcotráfico y a otras actividades de la delincuencia organizada representa una dimensión particularmente relevante de esta discusión, considerando que el creciente acceso a tecnologías militares autónomas podría ampliar las capacidades de vigilancia y control territorial de las organizaciones criminales, además de intensificar las disputas por rutas y áreas estratégicas.
En Brasil, el empleo de drones armados por parte de organizaciones criminales ya representa un desafío concreto para la seguridad pública. En Río de Janeiro, por ejemplo, estos equipos vienen siendo utilizados por dichas organizaciones para monitorear los movimientos policiales, vigilar comunidades, transportar armas y lanzar explosivos. Según un informe de la Policía Civil, se registraron al menos 17 ataques con estos equipos desde 2025, de los cuales 12 ocurrieron en 2026. Los delincuentes también recurren a adaptaciones artesanales para convertir drones comerciales en armas, utilizando dispositivos de bajo costo para liberar explosivos a distancia. Tan solo en 2026, se incautaron 31 drones a sospechosos de integrar organizaciones criminales, lo que evidencia la incorporación de estas tecnologías a las dinámicas de la violencia urbana.
Si bien el uso de drones no implica necesariamente autonomía en la selección y el ataque a objetivos, este escenario ilustra los desafíos de control y prevención asociados a la diseminación de tecnologías militares. En ausencia de normas internacionales capaces de establecer límites claros al desarrollo y al uso de sistemas de armas autónomas, la expansión de estas tecnologías podrá agravar los riesgos ya existentes, facilitando su incorporación por parte de actores estatales y no estatales y ampliando las dificultades para la protección de los civiles y la rendición de cuentas por los daños causados.
Además de los riesgos relacionados con la delincuencia organizada, también es necesario considerar las posibles consecuencias del empleo de sistemas de armas autónomas en operaciones estatales de seguridad y represión. En América Latina, los grupos racializados, las poblaciones de bajos ingresos, los activistas y otros sectores históricamente marginados ya están expuestos a diferentes formas de violencia institucional. La introducción de sistemas capaces de identificar, seleccionar y atacar objetivos sin intervención humana directa puede agravar estas vulnerabilidades, sobre todo cuando los procesos de identificación se basan en datos que reproducen patrones discriminatorios. La ausencia de mecanismos adecuados de control humano y rendición de cuentas también puede dificultar la investigación de las violaciones y comprometer la protección de los derechos humanos.
Ante estos desafíos, la actuación diplomática regional constituye una dimensión importante del debate. Según un relevamiento realizado por Stop Killer Robots, basado en declaraciones oficiales de los Estados durante reuniones de la Asamblea General de las Naciones Unidas y de la Convención sobre Ciertas Armas Convencionales, todos los países de América Latina manifestaron su apoyo a la creación de un instrumento jurídico internacional para regular los sistemas de armas autónomas. Este posicionamiento indica una convergencia política regional en torno a la necesidad de avanzar en la elaboración de normas internacionales para hacer frente a los riesgos de estas tecnologías.
Imagen - Países de América Latina que apoyan la negociación de un instrumento jurídicamente vinculante sobre armas autónomas (actualizado en agosto de 2026).
Por consiguiente, este alineamiento político ofrece una base para ampliar la cooperación regional y fortalecer la participación latinoamericana en las negociaciones multilaterales. A partir de sus experiencias, los países de la región pueden contribuir a la elaboración de normas que prioricen la protección de los civiles, preserven el control humano sobre el uso de la fuerza y establezcan mecanismos de rendición de cuentas. De este modo, la actuación conjunta puede fortalecer la contribución regional a la gobernanza internacional de las tecnologías militares y reafirmar el compromiso con los derechos humanos, el Derecho Internacional Humanitario y la prevención de la violencia.
Conclusión y recomendaciones
Los riesgos asociados a los Sistemas de Armas Autónomas ya no pueden tratarse como una preocupación distante o restringida a escenarios futuros de conflictos armados. Los episodios recientes de utilización de tecnologías militares con diferentes grados de autonomía, incluido el caso de Zaporiyia, evidencian la necesidad de profundizar la discusión sobre los límites del uso de la fuerza y la protección de la población civil. Aunque el Derecho Internacional Humanitario establece principios y obligaciones aplicables a la conducción de las hostilidades, su aplicación, por sí sola, no sustituye la necesidad de normas específicas que fijen límites claros al desarrollo y al empleo de sistemas capaces de seleccionar y atacar objetivos sin intervención humana. La ausencia de un marco jurídico específico mantiene importantes lagunas en cuanto a la prevención de daños, el control humano y la rendición de cuentas por eventuales violaciones.
En este contexto, la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales representa una oportunidad decisiva para transformar más de una década de discusiones diplomáticas en avances normativos concretos. Brasil debe aprovechar este espacio para defender el establecimiento de un mandato de negociación de un instrumento internacional jurídicamente vinculante, con disposiciones que prohíban los sistemas de armas que operen sin control humano significativo y establezcan restricciones rigurosas para aquellos cuyo funcionamiento presente riesgos incompatibles con el Derecho Internacional Humanitario. Dicho instrumento también deberá prever mecanismos de supervisión humana, evaluación de riesgos, evaluación jurídica y rendición de cuentas, abarcando las diferentes etapas de desarrollo, producción, transferencia y empleo de estos armamentos.
En el plano nacional, es fundamental que Brasil mantenga la coherencia entre su actuación diplomática y los avances legislativos internos. En este sentido, la preservación de la prohibición prevista en el artículo 13 del Proyecto de Ley n.º 2338/2023 representa una medida importante para establecer límites al desarrollo y a la utilización de sistemas de IA empleados en armas autónomas. El país debe asegurar que esta orientación se mantenga durante la tramitación legislativa y que las futuras políticas de defensa, seguridad pública y desarrollo tecnológico incorporen salvaguardias compatibles con la protección de los derechos humanos y con sus obligaciones internacionales. La reglamentación nacional, sin embargo, no debe entenderse como una respuesta suficiente: es necesario que Brasil continúe defendiendo normas internacionales capaces de establecer obligaciones comunes e impedir que la ausencia de regulación en otros Estados comprometa la eficacia de estas medidas.
En el ámbito regional, Brasil reúne condiciones para desempeñar un papel relevante en la articulación de los países latinoamericanos y caribeños en torno a esta agenda. El posicionamiento expresado en el Comunicado de Belén y el respaldo regional a la creación de un instrumento jurídicamente vinculante ofrecen una base política para ampliar la cooperación diplomática y fortalecer la participación conjunta en las negociaciones multilaterales.
Se recomienda, por lo tanto, que el país promueva consultas regionales, fomente la construcción de posiciones comunes y amplíe el diálogo sobre los riesgos asociados a la diseminación de tecnologías militares, considerando también los desafíos relacionados con el empleo de drones armados por parte de la delincuencia organizada. Dicha discusión debe distinguir la utilización de drones operados de forma remota de los sistemas efectivamente autónomos, sin desatender los riesgos derivados de la evolución tecnológica y de su posible integración a capacidades militares autónomas.
Por último, la sociedad civil organizada debe ser reconocida como parte indispensable de este proceso. Las organizaciones humanitarias, los investigadores, los especialistas y los movimientos por el desarme desempeñan un papel fundamental en la producción de conocimiento, en la identificación de riesgos y en el seguimiento de las posturas asumidas por los Estados. En este sentido, se recomienda que Brasil amplíe los espacios de diálogo y participación de estos actores en la formulación de sus posiciones nacionales y en las discusiones internacionales, asegurando transparencia y continuidad a los compromisos diplomáticos asumidos.
Los elementos reunidos en este documento demuestran la complejidad de la temática de los SAA y la urgencia de crear un marco jurídico internacional vinculante para estos armamentos. La protección de la vida humana, la preservación de la dignidad y la rendición de cuentas por las violaciones no pueden subordinarse a la búsqueda de ventajas operativas. Brasil tiene la oportunidad y la responsabilidad de contribuir a este proceso, fortaleciendo su actuación nacional, regional y multilateral en defensa de normas que mantengan la decisión sobre la vida y la muerte bajo control humano. La Séptima Conferencia de Examen de la CCAC debe representar, por lo tanto, un paso concreto en esa dirección.
Recomendaciones de DHESARME al gobierno brasileño
1. En la CCAC: defender un mandato para la negociación de un instrumento jurídicamente vinculante sobre los SAA durante la Séptima Conferencia de Examen.
2. En la legislación nacional: preservar la prohibición de los SAA en el PL n.º 2338/2023 y asegurar su compatibilidad con las posturas diplomáticas brasileñas.
3. En América Latina y el Caribe: liderar consultas diplomáticas para consolidar una posición regional común y ampliar la participación de los países en las negociaciones.
4. En la seguridad regional: promover la cooperación para monitorear la diseminación de tecnologías militares y prevenir su empleo contra las poblaciones civiles.
5. En la participación social: institucionalizar el diálogo con organizaciones de la sociedad civil, especialistas y organizaciones humanitarias en la formulación y el seguimiento de la política brasileña sobre los SAA.
Dhesarme - Acción Brasileña por el Desarme Humanitario
12 de noviembre de 2026
Equipo Técnico
Equipo Dhesarme: Fernando Fiala, Hevelyn Ghizzi, Júlia Marcon y Larissa Parcianelo.
Red de Voluntarios Dhesarme: Gabriel Debatin Coutinho.
Traducción: Felipe Krefta Bardelli (Red de Voluntarios Dhesarme).
Referencias
Action on Armed Violence. (2026). Explosive violence monitor 2025. https://aoav.org.uk/2026/explosive-violence-monitor-2025/
Agência Câmara. (2025, 20 de maio). Comissão que vai analisar projeto sobre inteligência artificial será presidida por Luisa Canziani; Aguinaldo Ribeiro será relator. https://www.camara.leg.br/noticias/1160383-comissao-que-vai-analisar-projeto-sobre-inteligencia-artificial-sera-presidida-por-luisa-canziani-aguinaldo-ribeiro-sera-relator/
Automated Decision Research. (2022). Autonomous weapons and digital dehumanisation: A short explainer paper. https://automatedresearch.org/news/report/autonomous-weapons-and-digital-dehumanisation-a-short-explainer-paper
Automated Decision Research. (2026a, 4 de setembro). Over 70 states now support elements work at CCW GGE as a basis for negotiations. https://automatedresearch.org/news/over-70-states-support-rolling-text-as-basis-for-negotiations/
Automated Decision Research. (2026b). State positions. https://automatedresearch.org/state-positions/
Automated Decision Research. (2026c). State positions: Latin America. https://automatedresearch.org/state-positions/?_state_position_region=latin-america
Blanchard, A., & Goussac, N. (2025). Towards multilateral policy on autonomous weapon systems. Stockholm International Peace Research Institute. https://doi.org/10.55163/VLLZ7787
Boulanin, V. (2016). Mapping the debate on LAWS at the CCW: Taking stock and moving forward (EU Non-Proliferation Paper No. 49). EU Non-Proliferation Consortium. https://www.sipri.org/publications/2016/eu-non-proliferation-papers/mapping-debate-laws-ccw-taking-stock-and-moving-forward
Brasil. (2024). Projeto de Lei nº 2.338, de 2023: Dispõe sobre o uso da Inteligência Artificial. Senado Federal. https://www25.senado.leg.br/web/atividade/materias/-/materia/157233#tramitacao_10494842
Brasil. (2026). Joint statement to the Group of Governmental Experts on Lethal Autonomous Weapon Systems August–September 2026 session. https://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2026/gge/statements/31Aug_Joint_Brazil.pdf
Bruun, L., Bo, M., & Goussac, N. (2023). Compliance with international humanitarian law in the development and use of autonomous weapon systems: What does IHL permit, prohibit and require? Stockholm International Peace Research Institute. https://www.sipri.org/publications/2023/policy-reports/compliance-international-humanitarian-law-development-and-use-autonomous-weapon-systems-what-does
Chairperson of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. (2026). Chair's summary – First 2026 session on the GGE on LAWS (CCW/GGE.1/2026/WP.2). United Nations. https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-WP.2.pdf
Coalizão Direitos na Rede. (2024, 18 de maio). Por uma legislação de IA centrada em direitos: Comentários ao texto preliminar substitutivo do 2338/2023 apresentado pelo Senador Eduardo Gomes. https://direitosnarede.org.br/2024/05/18/por-uma-legislacao-de-ia-centrada-em-direitos-comentarios-ao-texto-preliminar-substitutivo-do-2338-2023-apresentado-pelo-senador-eduardo-gomes/
Costa Rica. Ministerio de Relaciones Exteriores y Culto. (2023, 23–24 de fevereiro). Communiqué of the Latin American and the Caribbean Conference of Social and Humanitarian Impact of Autonomous Weapons. https://www.rree.go.cr/files/includes/files.php?id=2261&tipo=documentos
Coyle, V. (2026, 7 de setembro). UN talks on killer robots end with calls for negotiations growing. Human Rights Watch. https://www.hrw.org/news/2026/09/07/un-talks-on-killer-robots-end-with-calls-for-negotiations-growing
Davis, I., & Verbruggen, M. (2018). The Convention on Certain Conventional Weapons. In SIPRI Yearbook 2018. Stockholm International Peace Research Institute. https://www.sipri.org/sites/default/files/SIPRIYB18c09sI.pdf
De Souza, R. (2026, 21 de setembro). Ataque aéreo: Drones que lançam bombas mudam padrão dos confrontos do crime organizado no Rio. O Globo. https://oglobo.globo.com/rio/noticia/2026/09/21/ataque-aereo-drones-que-lancam-bombas-mudam-padrao-dos-confrontos-do-crime-organizado-no-rio.ghtml
Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. (2019). Report of the 2019 session (CCW/GGE.1/2019/3). United Nations. https://documents.unoda.org/wp-content/uploads/2020/09/CCW_GGE.1_2019_3_E.pdf
Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. (2025). Rolling text, status date: 12 May 2025. United Nations. https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2025)/Revised_rolling_text_as_of_12_May_2025.pdf
Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems. (2026). Report of the 2024–2025–2026 sessions (CCW/GGE.1/2026/3) [Advance copy]. United Nations. https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-3-Advance_copy.pdf
Heyns, C. (2013). Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions (A/HRC/23/47). United Nations Human Rights Council. https://www.ohchr.org/sites/default/files/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_en.pdf
Human Rights Watch. (2021, 19 de dezembro). Killer robots: Military powers stymie ban. https://www.hrw.org/news/2021/12/19/killer-robots-military-powers-stymie-ban
Human Rights Watch, & International Human Rights Clinic at Harvard Law School. (2025, 28 de abril). A hazard to human rights: Autonomous weapons systems and digital decision-making. https://www.hrw.org/report/2025/04/28/a-hazard-to-human-rights/autonomous-weapons-systems-and-digital-decision-making
International Committee of the Red Cross. (1977, 8 de junho). Protocol additional to the Geneva Conventions of 12 August 1949, and relating to the protection of victims of international armed conflicts (Protocol I). https://ihl-databases.icrc.org/en/ihl-treaties/api-1977
International Committee of the Red Cross. (2026). Working paper submitted to the CCW Group of Governmental Experts on emerging technologies in the area of Lethal Autonomous Weapons Systems. https://www.icrc.org/sites/default/files/2026-08/ICRC_working_paper_GGE_LAWS_August-2026-ICRC.pdf
Kramer, A. E. (2026, 24 de agosto). A drone killed three Ukrainians. It was guided entirely by A.I. The New York Times. https://www.nytimes.com/2026/08/24/world/europe/russia-drones-autonomous-ai-kill-ukraine-war.html
Landmine and Cluster Munition Monitor. (2025). Landmine monitor 2025. https://the-monitor.org/online-reader/landmine-monitor-2025
Levytska, I. (2026, 3 de julho). Russia begins mass deployment of autonomous AI-equipped drones in Zaporizhzhia. Ukrainska Pravda. https://www.pravda.com.ua/eng/news/2026/07/03/8042223/
Marcon, J. (2025, 5 de novembro). Autonomous weapons systems and their threat to security in Latin America. Stop Killer Robots. https://stopkillerrobots.medium.com/autonomous-weapons-systems-and-their-threat-to-security-in-latin-america-3f0f38cd6aa3
Sehlac, Latin America and the Caribbean Human Security Network, Fundación para la Paz y la Democracia, Technology and Community, & Centro de Estudios Política Internacional. (2024). The dangers of autonomous weapons systems from a Latin American perspective. https://docs-library.unoda.org/General_Assembly_First_Committee_-Seventy-Ninth_session_(2024)/78-241-SEHLAC-EN.pdf
Stop Killer Robots. (n.d.). Stop Killer Robots: Campaign for a treaty on autonomous weapons. https://www.stopkillerrobots.org/
Varella, L. (2026a, 6 de setembro). Editorial: Ready for negotiations. CCW Report, 14(4), 1–2. Reaching Critical Will. https://reachingcriticalwill.org/disarmament-fora/ccw/2026/laws/reports/18216-ccw-report-vol-14-no-4
Varella, L. (2026b, 6 de setembro). Report of the meeting of the Group of Governmental Experts on Lethal Autonomous Weapons Systems. CCW Report, 14(4), 3–23. https://reachingcriticalwill.org/disarmament-fora/ccw/2026/laws/reports/18216-ccw-report-vol-14-no-4
Comentarios