Imprevisibilidad normativa en el Derecho Internacional respecto a los sistemas de armas autónomas letales

Autores/as

DOI:

https://doi.org/10.22335/rlct.v16i1.1875

Palabras clave:

SAAL, IA, derecho internacional humanitario

Resumen

Los sistemas de armas autónomas letales (SAAL) son entidades cibernéticas capaces de seleccionar y atacar objetivos sin la intervención humana directa, soportadas en inteligencia artificial (IA), en contraposición a las armas convencionales, que son controladas por seres humanos. El objetivo de esta investigación consiste en exteriorizar la incompatibilidad jurídica de los SAAL frente a los principios de precaución, proporcionalidad y distinción insertos en el Derecho Internacional Humanitario que han sido configurados únicamente para seres humanos; así como identificar la evidente moratoria para filtrar/optimizar –como nueva arma– la hoy crítica utilización de estos sistemas, que evidencia la carencia de facultad penal internacional que aflora normativamente a raíz de la indistinción del dolo tecnológico, y la necesidad de configurar imparcialidad en el poder de veto de las decisiones sustanciales de arreglo pacífico o no del Consejo de Seguridad de la ONU, producto de su imprevisibilidad jurídica contemporánea. Las conclusiones instituyen que resulta indispensable una jurisdicción permanente y una competencia universal para su aplicabilidad, que debería regirse con un potencial instrumento internacional de regulación de uso de los SAAL en correlación con las normas consuetudinarias aplicables.

Descargas

Los datos de descarga aún no están disponibles.

Referencias

Almache Barreiro, J. C., & Albert Márquez, J. (2023). Implicaciones éticas de la IA y su potencial impacto en el derecho internacional. Revista San Gregorio, 1(54), 209-231. https://acortar.link/vbUaW4

Arkin, R. (2009). Governing lethal behavior in autonomous robot. Mobile Robot Laboratory. College of Computing. Georgia Institute of Technology. https://acortar.link/R1iGyM

Barrat, J. (2013). Our final invention: Artificial intelligence and the end of the human era. Thomas Dunne Books.

BBC News. (2023a, 2 de septiembre). “Ataques con drones en Rusia: qué objetivos tienen y cómo se han convertido en una herramienta clave para Ucrania”. Redacción, BBC News Mundo. https://www.bbc.com/mundo/articles/c9ej4xr8n78o

BBC News. (2023b, 30 de septiembre). “El violento eco que tiene la guerra de Gaza en Cisjordania, el otro territorio palestino en el que han muerto más de 100 personas”. Redacción, BBC News Mundo. https://www.bbc.com/mundo/articles/c6plyyxwy2jo

Boyle, M. (2017). Legal and ethical implications of drone warfare. Routledge.

Campaign to stop killer robots. (2017). Slaugtherbots. https://www.youtube.com/watch?v=HipTO_7mUOw

Chávez, D., Cruz, A., & Herrera, P. (2019). Robots asesinos: ¿realidad o ficción? Los sistemas de armas autónomas en el marco del Derecho Internacional Humanitario. USFQ Law Review, 6(1), 11-28. https://revistas.usfq.edu.ec/index.php/lawreview/article/view/1405/1616

Comité Internacional de la Cruz Roja. (2016). Los sistemas de armas autónomos y el derecho internacional humanitario. https://www.icrc.org/es/doc/assets/files/2016/icrc-002-4173.pdf

Comité Internacional de la Cruz Roja. (2022). Preguntas y respuestas: Lo que hay que saber sobre las armas autónomas. https://www.icrc.org/es/document/preguntas-yrespuestas-sobre-armas-autonomas

Comité Internacional de la Cruz Roja. (1980). Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados https://www.icrc.org/es/doc/resources/documents/misc/5tdl6d.htm

Comisión Internacional de Juristas (2014). Derecho internacional y Lucha contra la impunidad. https://acortar.link/e7Ixkm

Gómez, E. (2008). Manual de Derecho Penal Ecuatoriano. Ediciones Legales. Quito, Ecuador. https://acortar.link/TqlgPY

Heyns, C. (2013). Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions. United Nations General Assembly. https://www.ohchr.org/en/special-procedures/sr-executions

Heyns, C. (2016). Autonomous weapon systems: Human rights and ethical issues. Meeting of High Contracting Parties to the Convention on Certain Conventional Weapons. https://acortar.link/wu5z40

Human Rights Watch. (2012). Losing humanity: The case against killer robots. https://www.hrw.org/report/2012/11/19/losinghumanity/case-against-killer-robots

Human Rights Watch. (2013). Unmanned: The impact of drone strikes in Pakistan. https://www.hrw.org/report/2013/10/22/unmanned/impact-drone-strikes-pakistan

Meza, M. (2019). El desarrollo y el uso de los sistemas de armas autónomas letales en los conflictos armados internacionales. [Tesis Doctoral]. Universidad de Barcelona. https://www.tdx.cat/handle/10803/668711

Nisa Ávila, J. (2016). Robótica e inteligencia artificial ¿legislación social o nuevo ordenamiento jurídico? Elderecho.com. https://elderecho.com/robotica-einteligencia-artificial-legislacion-social-onuevo-ordenamiento-juridico

Paul, T. V. (2010). Taboo or tradition? The non-use of nuclear weapons in world politics. Review of International Studies, 36(4), 853–863, https://doi.org/10.1017/S0260210510001336

Scharre, P. (2016). Autonomous Weapons and Operational Risk Ethical Autonomy Project. Center for a New American Security. https://acortar.link/bIpFub

Schmitt, M. N. (2017). Tallinn Manual 2.0 on the International Law applicable to cyber operations. Cambridge University Press. https://doi.org/10.1017/9781316822524

Serrano, A. (2016). Inteligencia artificial. Fundamentos, práctica y aplicaciones. México. Alfaomega.

Tegmark, M. (2018). Vida 3.0. Ser humano en la era de la inteligencia artificial. Taurus.

Documentos normativos referenciados

Carta de las Naciones Unidas (1945). https://www.un.org/es/about-us/un-charter

Centro Europeo de Postgrado Magazine. (2023). https://www.ceupe.com/blog/firmware.html?dt=1697744382649

Convenio de Ginebra. (1949). https://www.icrc.org/es/doc/assets/files/publications/convenios-gva-esp-2012.pdf

Convención de Ginebra (1977). Protocolo I adicional a los convenios de Ginebra de 1949 relativo a la protección de las víctimas de los conflictos armados internacionales. https://www.icrc.org/es/document/protocoloi-adicional-convenios-ginebra-1949-proteccion-victimas-conflictos-armadosinternacionales-1977

Convención de La Haya de 1899 relativo a las leyes y costumbres de la guerra terrestre. (1899). https://www.icrc.org/es/doc/resources/documents/misc/5tdlcy.htm

Convención sobre ciertas armas convencionales ante el Grupo de Expertos Gubernamentales sobre SAAL en Ginebra (2021). https://acortar.link/CVnMyG

Convención sobre la prohibición de armas bacteriológicas y sobre su destrucción. (1972). https://www.icrc.org/es/doc/resources/documents/misc/treaty-1972-bacteriological-weapons-convention-5tdm6y.htm

Convención sobre la prohibición de las minas antipersonal y sobre su destrucción. (1997). https://www.icrc.org/es/doc/assets/files/other/1997_minas.pdf

Corte de Derecho Internacional Humanitario. Caso Ximenes Lopes vs. Brasil. Sentencia de 4 de julio de 2006, Serie C No. 164, párr. 179; Caso Baldeón García vs. Perú, párr. 96; Caso de la Masacre de Pueblo Bello vs. Colombia, párr. 177, y Caso de la Masacre de Mapiripán vs. Colombia, parr. 224).

Estatuto de Roma de la Corte Penal Internacional. (1998). https://www.un.org/spanish/law/icc/statute/spanish/rome_statute(s).pdf

Directiva 2000/31/CE del Parlamento Europeo y del Consejo. (2000). Relativa a determinados aspectos jurídicos de los servicios de la sociedad de la información, en particular el comercio electrónico en el mercado interior (Directiva sobre el comercio electrónico) https://www.boe.es/buscar/doc.php?id=DOUE-L-2000-81295

Grupo de Expertos Gubernamentales de las Naciones Unidas sobre Sistemas Autónomos Letales. (2019). Informe de la reunión de expertos sobre sistemas de armas autónomas letales y la perspectiva del derecho internacional humanitario. Organización de las Naciones Unidas. https://undocs.org/en/CCW/GGE.1/2019/WP.5

Informe del Relator Especial de Naciones Unidas sobre ejecuciones extrajudiciales, sumarias y arbitrarias del 19 de febrero de 2007. A/HRC/4/20/Add2, párrs. 45 y 46. https://www.acnur.org/fileadmin/Documentos/BDL/2007/5017.pdf

Instruction number 85001.01, March 14, 2014. Cybersecurity – Departamento de Defensa, Estados Unidos de Norteamérica. https://nsarchive.gwu.edu/document/21382-document-23

Naciones Unidas. (2021). Informe final del Grupo de Expertos sobre Libia establecido en virtud de la resolución 1973 (2011) del Consejo de Seguridad. (2021). S/2021/229. https://digitallibrary.un.org/record/3905159?ln=es

Naciones Unidas. (2004). Opinión señalada por el Grupo de Alto Nivel en el informe enviado el 1 de diciembre de 2004 al Secretario General de Naciones Unidas, con el título “Un mundo más seguro: la responsabilidad que compartimos” (Doc. A/59/565). https://www2.ohchr.org/spanish/bodies/hrcouncil/docs/gaA.59.565_Sp.pdf

Parlamento Europeo. (2023). https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_ES.html

Proyecto de ley H. Res. 153. (2019). Supporting the development of guidelines for ethical development of artificial intelligence. https://www.congress.gov/bill/116th-congress/house-resolution/153/text

Propuesta del Reglamento del Parlamento Europeo y del Consejo. (2021). “Por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión”. Bruselas, Bélgica. https://acortar.link/1S4Wr3

Protocolo Adicional I al Convenio de Ginebra. (1977). https://www.icrc.org/es/document/protocolo-i-adicional-convenios-ginebra-1949-proteccion-victimas-conflictosarmados-internacionales-1977

Protocolo Adicional II al Convenio de Ginebra. (1977). https://www.icrc.org/es/doc/assets/files/publications/icrc-003-0321.pdf

Protocolo Adicional III al Convenio de Ginebra. (2005) https://www.icrc.org/es/doc/resources/documents/misc/protocolo-iii.htm

Protocolo Adicional IV a la Convención sobre Ciertas Armas Convencionales de 1980 (1995). https://www.icrc.org/es/doc/resources/documents/misc/treaty-1980-cccw-protocol-4-7ufmdw.htm

Protocolo de Estambul (1999). https://www.ohchr.org/sites/default/files/documents/publications/training8rev1sp.pdf

Regulación 306/15. (2015). “Proyecto piloto para el testeo de vehículos autónomos de Canadá”. https://www.ontario.ca/laws/regulation/r15306

Publicado

2024-02-10

Número

Sección

Artículos de investigación / Artículos Originales

Categorías

Cómo citar

Imprevisibilidad normativa en el Derecho Internacional respecto a los sistemas de armas autónomas letales. (2024). Revista Logos Ciencia & Tecnología, 16(1), 16-31. https://doi.org/10.22335/rlct.v16i1.1875