Las empresas de capital de riesgo y las nuevas empresas militares de Silicon Valley han comenzado a vender una versión de guerra automática con inteligencia artificial. Esas empresas se lanzan ahora de lleno a la nueva tecnología, descartando en gran medida el riesgo de fallos de funcionamiento que podrían conducir a la masacre de civiles en el futuro, por no hablar de la posibilidad de peligrosos escenarios de escalada entre las principales potencias militares. Las razones de esta precipitada carrera incluyen una fe equivocada en las “armas milagrosas”, pero, sobre todo, la ola de apoyo a las nuevas tecnologías militares está impulsada por la lógica última del complejo militar-industrial: enormes sumas de dinero para ganar.
Si algunos soldados y miembros del Pentágono están realmente preocupados por los riesgos futuros relacionados con el armamento de inteligencia artificial, los cabecillas del Departamento de Defensa están completamente de acuerdo. Su contundente compromiso con las nuevas tecnologías se reveló por primera vez al mundo en un discurso pronunciado en agosto de 2023 por la subsecretaria de Defensa Kathleen Hicks ante la Asociación Industrial de Defensa Nacional, el grupo comercial de la industria armamentista más grande del país. Aprovechó la oportunidad para anunciar lo que llamó la “Iniciativa Replicante”, un proyecto mundial para crear “un nuevo estado de la tecnología, tal como lo ha hecho antes Estados Unidos, aprovechando sistemas robustos y autónomos en todas las áreas, que son menos costosos, que ponen a menos personas en la zona de fuego y que pueden modificarse, actualizarse o mejorarse en un período de tiempo mucho más corto”.
Hicks se apresuró a señalar la razón principal de tal carrera hacia la guerra robótica: adelantar e intimidar a China. “Debemos asegurarnos de que los dirigentes de la República Popular China se despierten todos los días para considerar los riesgos de agresión y concluir que ahora no es el momento, y no sólo hoy, sino todos los días, para 2027, 2035, 2049 y más allá”, dijo.
La confianza de Hick en la capacidad del Pentágono y los fabricantes de armas estadounidenses para librar futuras tecnoguerras ha sido reforzada por un grupo de militaristas de la nueva era en Silicon Valley y más allá, encabezados por directivos de empresas como Peter Thiel, asesor de Trump, de Palantir, Palmer Luckey de Anduril, empresa de tecnología de defensa creada en 2017 en relación con Palantir y con SpaceX de Elon Musk, y capitalistas de riesgo como Marc Andreessen de Andreessen Horowitz, fundada en 2009 por Marc Andreessen y Ben Horowitz.
¿Patriotas o especuladores?
Las empresas que promueven una nueva forma de hacer la guerra también se ven a sí mismas como una nueva generación de patriotas, preparados y capaces de afrontar con éxito los desafíos militares del futuro. El largo manifiesto “Reiniciar el arsenal de la democracia”, publicado en el blog de Anduril, es un buen ejemplo. Pregona la superioridad de las nuevas empresas de Silicon Valley sobre los gigantes militares-industriales de la vieja escuela, como Lockheed Martin, a la hora de proporcionar la tecnología necesaria para ganar las guerras del futuro:
“Las empresas de defensa más grandes están formadas por patriotas que, sin embargo, no tienen experiencia en informática ni en el modelo de negocio para construir la tecnología que necesitamos […] Esas empresas construyeron las herramientas que nos han mantenido seguros en el pasado, pero no son el futuro de la defensa”.
A diferencia del enfoque industrial que critican, Palmer Luckey y sus compatriotas en Anduril buscan desarrollar y vender armas de una manera completamente nueva: “La informática cambiará la forma en que se libra la guerra. El campo de batalla del futuro estará lleno de sistemas no tripulados con inteligencia artificial que luchan, recopilan datos de reconocimiento y se comunican a velocidades impresionantes”.
A primera vista, Palmer Luckey parece un candidato totalmente improbable para haber llegado tan alto en las filas de los ejecutivos de la industria armamentística. Hizo su fortuna creando el dispositivo de realidad virtual Oculus, una novedad que los usuarios pueden colocar en su cabeza para experimentar una variedad de escenas en 3D (con la sensación de estar inmersos en ellas). Sus gustos en cuanto a vestimenta van desde sandalias y camisas hawaianas, pero ahora se ha trasladado por completo al ámbito militar. En 2017 fundó Anduril, en parte con el apoyo de Peter Thiel y su empresa de inversión, Founders Fund. Anduril actualmente fabrica drones autónomos, sistemas automatizados de comando y control y otros dispositivos destinados a aumentar la velocidad a la que el personal militar puede identificar y destruir objetivos.
Peter Thiel, mentor de Palmer Luckey, ilustra la diferencia entre los cabecillas de las nuevas empresas armamentistas y los titanes de la era de la Guerra Fría. Hubo un tiempo en que los ejecutivos de importantes fabricantes de armas como Lockheed Martin trabajaron para mantener buenas relaciones con demócratas y republicanos, haciendo contribuciones sustanciales a las campañas electorales de ambos partidos y sus candidatos, y contratando cabilderos con conexiones en ambos campos. La lógica de este enfoque no podría haber sido más clara en ese momento. Querían cimentar un consenso bipartidista a favor de un gasto cada vez mayor en el Pentágono, una de las pocas cosas en las que estuvieron de acuerdo la mayoría de los miembros clave de ambos partidos.
Las empresas emergentes de Silicon Valley y sus representantes también son mucho más virulentas en sus críticas a China. Son los más fríos (¿o debería decir los más calientes?) de los nuevos guerreros fríos de Washington, y emplean una retórica más dura que la del Pentágono o las grandes empresas. En contraste, las grandes empresas normalmente ocultan sus críticas a China y su apoyo a las guerras mundiales que han ayudado a inflar sus ganancias a través de equipos de análisis que han financiado con decenas de millones de dólares al año.
La principal empresa de Peter Thiel, Palantir, también ha sido criticada por proporcionar sistemas que permitieron a la ICE, la policía de emigración y aduanas, llevar a cabo operaciones de control fronterizo de mano dura e implementar una “vigilancia policial predictiva”. Esto último implica la recopilación de enormes cantidades de datos personales, sin autorización, sobre la base de algoritmos con prejuicios raciales incorporados que conducen a la selección y el tratamiento injustos y sistemáticos de las personas de color.
Acortar la ‘cadena de la muerte’
Para comprender plenamente cómo los militaristas de Silicon Valley imaginan la guerra de próxima generación, es necesario consultar el trabajo de Christian Brose, director de estrategia de Palantir. Es un innovador militar desde hace mucho tiempo y exasesor del fallecido senador John McCain. Su libro (“Kill Chain: Defending America in the Future of High-Tech Warfare”) es una especie de biblia para los partidarios de la guerra automática. Su tesis principal es que el ganador de una pelea es aquel que puede acortar de manera más efectiva la “cadena de la muerte” (el tiempo entre la identificación y la destrucción de un objetivo). Su libro supone que el adversario más probable en la próxima guerra tecnológica será China. Para ello infla la fuerza militar de Pekín, al tiempo que exagera sus ambiciones militares e insiste en que superar a ese país en el desarrollo de nuevas tecnologías militares es el único camino hacia una victoria futura.
La propuesta de Brose de acortar la “cadena de la muerte” conlleva inmensos riesgos. A medida que disminuye el tiempo necesario para decidir las acciones a tomar, la tentación de sacar a los humanos “fuera del circuito” no hará más que aumentar, dejando las decisiones de vida o muerte en manos de máquinas vulnerables a un mal funcionamiento catastrófico, inherente a cualquier aplicación informática compleja.
Gran parte de las críticas de Brose al complejo militar-industrial actual son ciertas. Unas pocas grandes empresas se están enriqueciendo fabricando plataformas de armas gigantescas y cada vez más vulnerables, como portaaviones y tanques, mientras el Pentágono gasta miles de millones en una vasta y costosa red de bases militares que podrían ser reemplazadas por un establecimiento militar mucho más pequeño y más disperso. Desafortunadamente, esta visión alternativa plantea más problemas de los que resuelve.
En primer lugar, no hay garantía de que las aplicaciones informáticas promovidas por Silicon Valley funcionen como se anuncia. Hay una larga historia de “armas maravillosas” fallidas, desde el campo de batalla electrónico en Vietnam, hasta el desastroso escudo antimisiles en la Guerra de las Galaxias del presidente Ronald Reagan. Incluso cuando la capacidad de encontrar y destruir objetivos más rápidamente ha mejorado, guerras como las de Irak y Afganistán, libradas utilizando estas mismas tecnologías, han sido fracasos estrepitosos.
Según una investigación reciente del Wall Street Journal, “los drones estadounidenses no lograron cambiar el rumbo en Ucrania”. La nueva generación de tecnología militar está sobrevalorada. El Wall Street Journal descubrió que los nuevos drones estadounidenses pequeños y de alta gama suministrados a Ucrania para su guerra defensiva contra Rusia resultaron demasiado “defectuosos y caros”, hasta el punto de que, irónicamente, los ucranianos optaron por “comprar drones chinos más baratos y fiables”.
El enfoque defendido por Brose y sus acólitos hará que la guerra sea más probable, porque la arrogancia tecnológica fomenta la creencia de que Estados Unidos puede realmente “vencer” a una potencia nuclear rival como China en una guerra, si tan solo invirtiéramos en una nueva fuerza de vanguardia de alta tecnología.
El resultado son miles de millones de dólares de dinero privado que ahora fluyen hacia empresas que buscan defenderse de las fronteras de la tecnoguerra. Las estimaciones oscilan entre 6.000 y 33.000 millones de dólares al año y, según el New York Times, 125.000 millones de dólares en los últimos cuatro años. Cualesquiera que sean las cifras, la industria tecnológica y sus patrocinadores sienten que se puede ganar mucho dinero con armamento de próxima generación y no permitirán que nadie se interponga en su camino.
Mientras tanto, una investigación de Eric Lipton del New York Times encontró que las empresas de capital de riesgo y las nuevas empresas que ya están a la vanguardia de la guerra basada en la inteligencia artificial también están reclutando a ex militares y oficiales del Pentágono para que les sirvan. El exsecretario de Defensa de Trump, Mark Esper, ocupa un lugar destacado en esa lista. Los vínculos pueden estar motivados por un fervor patriótico, pero una motivación más probable es simplemente el deseo de enriquecerse. Como señaló Ellen Lord, ex jefa de adquisiciones del Pentágono, “los vínculos entre la comunidad de defensa y el capital de riesgo ahora son fuertes. Pero también esperan poder cobrar grandes sumas de dinero y ganar toneladas de dinero”.
El rey filósofo virtual
El ex director ejecutivo de Google, Eric Schmidt, es otra figura central en la construcción de una máquina de guerra de alta tecnología. Sus intereses van mucho más allá del ámbito militar. Se ha convertido en un rey filósofo virtual cuando se trata de que las nuevas tecnologías remodelarán la sociedad y, de hecho, de lo que significa el ser humano. Ha estado pensando en estas preguntas durante algún tiempo y expuso sus puntos de vista en un trabajo de 2021 titulado modestamente “La era de la inteligencia artificial y nuestro futuro humano”, en coautoría nada menos que con el fallecido Henry Kissinger. Eric Schmidt es consciente de los peligros potenciales de la inteligencia artificial, pero también está en el centro de los esfuerzos para promover sus aplicaciones militares. Aunque renuncia al enfoque mesiánico de algunas figuras en ascenso en Silicon Valley, uno se pregunta si su enfoque aparentemente más reflexivo contribuirá al desarrollo de un mundo de armamento de inteligencia artificial más seguro y más razonable.
Comencemos con lo más básico: hasta qué punto Eric Schmidt cree que la inteligencia artificial cambiará la vida tal como la conocemos es extraordinario. En su libro y el de Kissinger, sostienen que la inteligencia artificial desencadenará “la transformación de la identidad y la experiencia humanas a niveles no vistos desde los albores de la era moderna”, argumentando que el funcionamiento de la inteligencia artificial “presagia un progreso hacia la esencia de las cosas, una progreso que filósofos, teólogos y científicos han buscado, con éxito parcial, durante milenios”.
Por otro lado, el grupo gubernamental de expertos en inteligencia artificial en el que formó parte Eric Schmidt reconoció plenamente los riesgos que plantean los usos militares de la inteligencia artificial. La pregunta sigue siendo: ¿apoyará, al menos, la implementación de fuertes salvaguardias contra el uso indebido de la inteligencia artificial? Durante su mandato como jefe de la Junta de Innovación de Defensa del Pentágono de 2017 a 2020, ayudó a preparar el terreno para las directrices del Pentágono sobre el uso de la inteligencia artificial que prometían que los humanos siempre estarían “al tanto” durante el lanzamiento de armas de nueva generación. Pero como señaló un crítico de la industria tecnológica, una vez que se elimina la retórica, las directrices “en realidad no impiden que se haga nada”.
La senadora Elizabeth Warren y otros defensores del “buena gobierno” han cuestionado si el papel de Eric Schmidt como jefe de la Junta de Innovación de Defensa representa un posible conflicto de intereses. Después de todo, mientras ayudaba a desarrollar directrices para aplicaciones militares de la inteligencia artificial, también invertía en empresas que podrían beneficiarse del desarrollo y uso de la inteligencia artificial. Su entidad de inversión, America’s Frontier Fund, invierte periódicamente en nuevas empresas de tecnología militar. Una organización sin fines de lucro que fundó, el Proyecto de Estudios Competitivos Especiales, describe su misión como “fortalecer la competitividad a largo plazo de Estados Unidos a medida que la inteligencia artificial remodela nuestra seguridad nacional, nuestra economía y nuestra sociedad”. El grupo está en contacto con muchos dirigentes de la industria militar y tecnológica y presiona, entre otras cosas, para que se regule menos el desarrollo de la tecnología militar. En 2023 Eric Schmidt incluso fundó una empresa de drones militares, White Stork, que, según Forbes, probó en secreto sus sistemas en Menlo Park, un suburbio de Silicon Valley.
La pregunta es si se puede persuadir a Eric Schmidt para que utilice su considerable influencia para frenar los usos más peligrosos de la inteligencia artificial. Desafortunadamente, su entusiasmo por utilizar la inteligencia artificial para mejorar las capacidades de combate sugiere lo contrario: “De vez en cuando aparece una nueva arma, una nueva tecnología y cambia las cosas. En la década de 1930 Einstein escribió una carta a Roosevelt diciendo que esta nueva tecnología –las armas nucleares– podría cambiar la guerra, lo cual claramente hizo. Yo diría que la autonomía [impulsada por inteligencia artificial] y los sistemas descentralizados y distribuidos [decisión tomada por múltiples nodos] son igualmente poderosos”.
Comparar la inteligencia artificial armada con el desarrollo de armas nucleares no es tranquilizador. Hasta el momento se ha descartado la combinación de ambas (armas nucleares controladas por sistemas automáticos sin intervención humana), pero no se debe esperar que dure. Siempre es una posibilidad, en ausencia de salvaguardias sólidas y aplicables sobre cuándo y cómo se puede utilizar la inteligencia artificial.
La inteligencia artificial está llegando y es probable que su impacto en nuestras vidas, ya sea en la guerra o en la paz, capte la imaginación. En este contexto, una cosa está clara: no podemos darnos el lujo de permitir que las personas y empresas que más se beneficiarán de su aplicación desenfrenada tengan la ventaja a la hora de elaborar las normas relativas a su uso. ¿No es hora de enfrentarse a los guerreros de la nueva era?
William D. Hartung 25 juin 2024 https://tomdispatch.com/philosopher-kings-or-new-age-militarists/