Pacey y Carl Mitcham.
Los sistemas autónomos son la nueva revolución de escala histórica, y es en ellos en los cuales debe hacerse un análisis profundo; su conocer, hoy posible para el intelecto humano. Un acercamiento a su realidad nos dará bases y pistas para proponer aquellos rasgos fundamentales que caracterizan la tecnología autónoma. Es una labor que me propongo realizar a la luz de las propuestas filosóficas de Arnold Pacey y Carl Mitcham, quienes plantean un marco general para el análisis de fenómenos relacionados con el desarrollo y la práctica tecnológica. A pesar de las limitaciones de sus posturas - que más adelante se expondrán-, su trabajo permite acercarse de manera idónea al entendimiento de los diferentes matices que constituyen las nuevas tecnologías.
40
Pacey (1990), por un lado, plantea una triada (constituida por aspectos de orden cultural, organizacional y técnico) que permite comprender la tecnología como una “práctica” o “proceso”. Por su parte, Mitcham (1994), concibe la tecnología a la luz de tres modos o actitudes que se originan frente al fenómeno tecnológico: escepticismo antiguo, en el cual impera una actitud de sospecha frente a la tecnología; optimismo ilustrado, en el que prospera una actitud de promoción de la técnica y; malestar por la tecnología, que genera una actitud ambivalente frente a la tecnología.
Mitcham presenta estas actitudes a través de cuatro elementos conceptuales. Así, cada actitud es analizada de acuerdo a la relación que sostienen estos conceptos clave con la tecnología. Por tanto, Mitcham propone que toda tecnología se da como voluntad (trascendencia), actividad (ética), conocimiento (epistemología), y objetos (metafísica).
Tanto Mitcham como Pacey coinciden en afirmar que la tecnología es un proceso compuesto por diversos
41
elementos, desde el deseo de suplir necesidades31 (sin importar si son naturales necesarias, naturales no necesarias o no naturales no necesarias), hasta la fabricación de artefactos que formarán parte de la vida cotidiana y del mundo humano, pasando por la búsqueda de elementos cognoscitivos, tales como leyes naturales, nuevos lenguajes y teorías.
Si bien a partir de este marco general se puede comprender un fenómeno tecnológico, los sistemas robóticos autónomos desbordan los límites de
31 Para Lewis Mumford (Apud. Mitcham, 1989) los logros técnicos de la humanidad son más para satisfacer sus necesidades, sus deseos y demandas súper-orgánicas que aquellas que hacen parte de sus necesidades básicas. Estas últimas podrían ser satisfechas sin la tecnología. Esta visión de la técnica respecto de la naturaleza humana es contraria a la concepción de Peter Sloterdijk quien sostiene que el ser humano llego a su claro ontológico gracias a su estrecha relación con la técnica (Sloterdijk, 2011). José Ortega y Gasset imagina una especie pre-humana que acepta todo lo que le sea dado por la naturaleza. El desarrollo de la inteligencia en el ser humano, da lugar a la insatisfacción, a un descontento con el mundo; éste descontento origina el deseo de crear un nuevo mundo en el que se sienta a gusto, y la generación de este nuevo mundo obliga a la creación de la técnica (Ortega y Gasset, 1968).
42
comprensión de tal marco. Elementos diferenciadores de estas tecnologías no son inteligibles a la luz de los análisis realizados por nuestros autores; por lo tanto, es necesario identificar estos elementos y así dar cuenta de nuevas dimensiones que permitan comprender el fenómeno en su mayor grado de universalidad. Logrando esta meta también encontraremos elementos del rasgo significativo que permite comprender la organización ontológica de la tecnología autónoma.
Así pues, el análisis a los sistemas robóticos autónomos tiene como objetivo identificar aquellos elementos que componen los actuales avances tecnológicos y desbordan el marco propuesto por Pacey y Mitcham y que, por lo tanto, no posibilitan analizar el fenómeno en su total y nueva complejidad.
Dado que Mitcham32 asegura que el auge del desarrollo tecnológico moderno puede ser correlacionado, ciertamente, con algunas transformaciones en la comprensión de los conceptos que constituyen el escenario bélico (como justicia, guerra justa y crimen), el
43
fenómeno que reúne las condiciones propicias para ser analizado y lograr los objetivos propuestos para este análisis preliminar son los sistemas de armas autónomas mortíferas (LAWS, por Lethal Autonomous Weapons Systems).
Los sistemas robóticos autónomos se han implementado en diversas áreas; sin embargo, su mayor crecimiento ha sido en la industria armamentista, debido al gran presupuesto que tienen las compañías que se dedican a la mejora e innovación de los sistemas autónomos de armas letales.
Este es uno de los motivos por los cuales se toma como objeto de análisis el caso de los LAWS. El poder económico que tiene la robótica militar supera el desarrollo tecnocientífico de los otros campos. De acuerdo con la Organización Mundial de la Propiedad
Intelectual33, en el 2014 se destinaron más de 29 mil
millones de dólares para el desarrollo de la robótica y se estima que para el 2020, esta cifra podría ser doblada. Otro claro ejemplo de la supremacía de la robótica militar
44
en el desarrollo de la investigación tecnocientífica en el campo de la robótica es la Agencia de Proyectos Avanzados de Investigación de Defensa (DARPA), perteneciente Departamento de Defensa de EE.UU., en cuya responsabilidad recae el desarrollo de nuevas tecnologías para uso militar. Esta agencia subvencionó en el 2013, aproximadamente 150 proyectos científicos valorizados en 2800 millones de dólares. Para el 2015 el presupuesto superó los 3.200 millones de dólares.
Otro motivo que justifica que los LAWS sea el caso sobre el cual se realice el análisis en este trabajo, es el impacto generalizado que ha generado su desarrollo, tocando diferentes esferas sociales, a saber, la política, la académica, la científica y la militar (entre otras). El desarrollo de esta tecnología ha dejado atónito al mundo, una muestra de ello son las convenciones que sean realizado en Ginebra desde el 2012 hasta la actualidad, siendo la última en abril del 201634. En el informe del
34 El informe publicado el 2 de junio de 2015, corresponde a la
Convención de Expertos en Armas Letales Autónomas realizada en
marzo del 2015; en ella se expone los aspectos cuestionados y acuerdos a los que se llegó en la reunión de las altas partes
45
2014 la Organización de las Naciones Unidas (ONU), afirma que el derecho a la vida (y a la integridad física en general) y el derecho a la dignidad humana son los aspectos que más generan tensión por la posible entrada de los LAWS en el escenario bélico.
Preocupan cuestiones como la capacidad que tendrán los LAWS para determinar el nivel de fuerza a emplear, incluida la fuerza mortífera, en momentos donde la sutileza de las acciones humanas juega un papel importante en la comprensión de las intenciones y comportamientos del bando enemigo. Del mismo talante es la preocupación acerca de que las máquinas son las encargadas de tomar la decisión de quitar la vida a un ser humano, colocando en entredicho la dignidad humana.
Ahora, organizaciones como Amnistía Internacional35 han dado a conocer sus preocupaciones alertando sobre
contratantes en la convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que pueden considerarse excesivamente nocivas o de efectos indiscriminados.
46
posibles violaciones de los derechos humanos que serían transgredidos por los sistemas de armas autónomos:
El alcance de la Convención sobre Ciertas Armas Convencionales no cubre la dimensión de uso de este tipo de tecnologías en actividades de cumplimiento de la ley.
Los sistemas de armas autónomos no serán capaces de cumplir con el derecho internacional de derechos humanos relevante ni los estándares internacionales sobre la función policial.
El desarrollo existente de las armas tecnológicas semi-autónomas existentes plantea retos considerables para los estándares contenidos en el Derecho Internacional Humanitario.
En la ausencia de una prohibición, los sistemas de armas autónomos deben estar sujetos a revisiones de armas independientes antes de ser utilizados.
Los sistemas de armas autónomos erosionan los mecanismos de rendición de cuentas.
El debate se hace más complejo cuando se reconocen las ventajas que conllevaría el uso de los LAWS en el campo
47
de batalla. Ronald C. Arkin36, profesor de la Universidad de Michigan y uno de los máximos especialistas en robótica, diseñó un sistema de control y razonamiento ético que limita acciones letales en un sistema robótico autónomo, con el fin de que sus acciones se encuentren dentro de los límites prescritos por las normas para una guerra justa y el derecho internacional humanitario.
Para Arkin37, las guerras continuarán y los LAWS serán usados en ellas; una prohibición absoluta –es decir, su investigación, diseño, fabricación y despliegue-, sin que se dé la posibilidad de investigar si de hecho los LAWS ofrecen una mejor protección para aquellos que no tienen el estatus de combatiente dentro del escenario bélico, solo abriría espacio para aumentar vacíos legales y dilataría la implementación de sistemas que puedan adherirse tan bien o mejor que los soldados humanos a la normatividad existente para la guerra.
36 Arkin (2007).
48
El profesor de robótica plantea una variedad de razones por las que en el futuro los robots autónomos serán capaces de realizar mejor una guerra que los humanos38:
La capacidad de actuar de manera conservadora: es decir, no sería necesario emplear la fuerza mortífera para protegerse en casos de baja certeza en la identificación de objetivos.
El eventual desarrollo y uso de una amplia gama de sensores robóticos mejor equipados – superando la capacidad humana en la detección de objetivos-, para las observaciones de campo de batalla39.
Pueden ser diseñados sin emociones que nublen su juicio o den lugar a la ira y la frustración con los acontecimientos del campo de batalla en curso.
38 Arkin (2007).
39 Esta razón fue reconocida recientemente por las Naciones Unidas: “los seres humanos no tienen necesariamente una capacidad para distinguir superior a las máquinas. En algunos contextos, la tecnología puede ofrecer una precisión mayor” (Naciones Unidas, 2013).
49
Los agentes autónomos no tienen que sufrir de manera similar.
Frente al ser humano, los sistemas pueden integrar más información de más fuentes de modo más rápido antes de responder con la fuerza mortífera que un ser humano fuera posible en tiempo real. Esto puede surgir de múltiples sensores remotos y de inteligencia (incluyendo humanos) fuentes, como parte del concepto de la guerra centrada en la red del ejército y el desarrollo simultáneo del mundial de información sobre la red.
Cuando se trabaja en un equipo de soldados humanos y sistemas autónomos combinados, se gana la capacidad potencial de independencia y objetividad, de vigilar el comportamiento ético en el campo de batalla de todas las partes y de notificar las infracciones que pudieran ser observadas. Esta sola presencia, posiblemente, podría conducir a una reducción de infracciones éticas humanas.
Asimismo, el ingeniero norteamericano considera que la investigación de esta tecnología debe hacerse sin
50
precipitaciones en su diseño, desarrollo y despliegue, y no dejando de examinar exhaustivamente sus consecuencias en todos los ciudadanos implicados: fuerzas militares que las usarían, combatientes enemigos, civiles y sociedad en general. No obstante Arkin apoya la petición de una moratoria para garantizar que dicha tecnología cumpla las normas internacionales antes de considerarse su despliegue40.
Así pues, los LAWS se han convertido en objeto de atención mundial; su aparición en el campo de batalla está latente; en el momento en que lo hagan, sin duda cambiará la concepción de la guerra y, tratados como el de Ginebra, muy seguramente tendrán que ser revisados por su inminente obsolescencia.
40 Arkin (2013).
51
3. ANÁLISIS DE LOS SISTEMAS AUTÓNOMOS