Si miramos a nuestro alrededor y extrapolamos lo que está sucediendo en el planeta otros mil años en el futuro, creo que es meridianamente claro que, de no poner remedio al curso actual de los acontecimientos, el futuro no es sostenible. Calentamiento global, contaminación medioambiental generalizada, sobreexplotación de recursos, extinción masiva, perdida de biodiversidad, son factores bien reales hoy que pueden poner en serio peligro la continuación de nuestra civilización, e incluso de nuestra especie.

Sin embargo, no son solo estos riesgos los que nos amenazan. Nuestra propia naturaleza unida a la tecnología lleva implícita un riesgo de autodestrucción. Este peligro queda evidenciado por la carrera armamentística, que, a pesar de la discreción con que se trata su avance, sigue bien viva. El desarrollo de nuevas y más eficaces armas nunca se ha frenado en la historia de la Humanidad. La nueva amenaza armamentística la constituyen hoy las armas autónomas inteligentes, a las que podemos llamar robots soldado.

Rusia ya ha manifestado sus intenciones de deshumanizar (aún más) sus fuerzas armadas y sustituir un tercio de sus hombres por robots para el año 2025. Esto no es ya mañana, es dentro de un rato. La cosa parece más seria aún cuando sabemos que hace unos meses unos 2.400 investigadores en inteligencia artificial y unos cien laboratorios informáticos se han comprometido a no participar en el desarrollo de armas letales autónomas. Esto indica que este desarrollo es muy posible.

Cuando hablamos de armas letales autónomas no nos estamos solo refiriendo a armas que toman decisiones de vida o muerte siguiendo un algoritmo, es decir, un programa informático que implementa un conjunto de reglas definidas, como las que también sigue, por ejemplo, una lavadora automática. No. Las armas letales autónomas pueden ser también armas no algorítmicas, es decir, armas capaces de aprender de su experiencia o de simulaciones de situaciones de guerra y, en base a ese aprendizaje, tomar sus propias decisiones sin supervisión humana, de acuerdo con la situación en la que se encuentren.

El asunto es, por tanto, grave. Ya hoy delegaciones de 88 países se reúnen dos veces por año en Ginebra para discutir sobre este asunto e intentar evitar que la situación se descontrole mediante la aprobación de tratados internacionales. Sin embargo, ni rusos ni estadounidenses, entre otras potencias, parecen inclinados a aprobar tratado alguno.

Y es que en el contexto de los conflictos actuales las armas robotizadas serían una ventaja. Evitarían muertes en el campo amigo, aunque las incrementaran en el enemigo; serían más rápidas y precisas que cualquier humano y podrían combatir en condiciones inhumanas, sin sentir miedo o ansiedad a la hora de tomar decisiones. Sin embargo, estas armas podrían ser presa de habilidosos hackers enemigos que podrían inhabilitarlas o incluso programarlas para atacar el campo amigo.

Ante la inevitabilidad de su llegada, algunos abogan por dotar a las armas robotizadas de humanidad, de ética, e incluso de emociones. Esto sería técnicamente posible, pero no parece deseable si se pretende conseguir, precisamente, armas sin las debilidades humanas. Según algunos estudios, la mayoría de los soldados no disparan a matar en el campo de batalla y la mayoría de las muertes en las guerras son causadas por armas indiscriminadas, como la artillería, minas o bombas, armas que se utilizan sin que nadie vea directamente a las potenciales víctimas. No obstante, al menos sería deseable que los robots soldado fueran capaces de distinguir entre combatientes y civiles y entre combatientes agresivos y los que han decidido rendirse. Aún se está lejos de poder equipar a los robots con estas capacidades cognitivas, por lo que se levantan voces alarmadas advirtiendo de que el empleo de robots soldado conducirá a verdaderas carnicerías.

En mi humilde opinión, sería mucho más inteligente que la Humanidad dedicara sus recursos no a desarrollar armas inteligentes, lo que siempre será una mayúscula estupidez, sino a comprender mejor la naturaleza humana y a desarrollar una tecnología social para la paz, la justicia y la convivencia mundiales basada en ese conocimiento y no en posiciones meramente ideológicas, morales o religiosas que, a lo largo de la Historia, han demostrado su ineficacia para lograr estos fines. ¿Seremos lo suficientemente inteligentes como para intentarlo, o nuestra civilización desaparecerá antes?

Referencia: Science et vie Dec 2018.

Más información en el Blog de Jorge Laborda.

Obras de divulgación de Jorge Laborda

Quilo de Ciencia Volumen I. Jorge Laborda
Quilo de Ciencia Volumen II. Jorge Laborda
Quilo de Ciencia Volumen III. Jorge Laborda
Quilo de Ciencia Volumen IV. Jorge Laborda
Quilo de Ciencia Volumen V. Jorge Laborda
Quilo de Ciencia Volumen VI. Jorge Laborda
Quilo de Ciencia Volumen VII. Jorge Laborda
Quilo de Ciencia Volumen VIII. Jorge Laborda

Matrix de la homeopatía

Circunstancias encadenadas. Ed. Lulu

Circunstancias encadenadas. Amazon

Una Luna, una civilización. Por qué la Luna nos dice que estamos solos en el Universo

One Moon one civilization why the Moon tells us we are alone in the universe

Adenio Fidelio

El embudo de la inteligencia y otros ensayos