cferguson1_Scott PetersonGetty Images_ukrainedrone Scott Peterson/Getty Images

La complacencia con la IA pone en riesgo la defensa de Occidente

SILICON VALLEY – Justo cuando Occidente se ve obligado a enfrentar a Rusia y China, los conflictos militares han dejado al descubierto importantes debilidades sistémicas en las fuerzas militares y las bases industriales de defensa estadounidenses y europeas.

Son problemas que derivan de tendencias tecnológicas fundamentales: en Ucrania, los sistemas tripulados y caros —como tanques, aviones de combate y buques de guerra— resultaron extremadamente vulnerables a las armas baratas no tripuladas: drones, misiles crucero y misiles guiados. Rusia ya perdió más de 8000 vehículos blindados, un tercio de su flota del mar Negro y muchos aviones de combate, lo que la llevó a alejar esos sistemas tripulados caros de las zonas de combate.

Los drones baratos producidos masivamente por China, Rusia, Irán, Turquía y, ahora, Ucrania, se convirtieron tanto en armas ofensivas cruciales, como en valiosas herramientas de vigilancia, fijación de objetivos y orientación. Se están fabricando millones de drones —a menudo basados en productos comerciales de amplia disponibilidad— con un costo de entre 1000 y 50 000 dólares por unidad; sin embargo, ni Estados Unidos ni Europa Occidental los producen, lo que representa una importante debilidad de la base industrial y la postura militar occidentales.

Aunque los drones rusos, chinos e iraníes son fáciles de destruir con los sistemas occidentales existentes, el costo es prohibitivo: entre 100 000 y 3 millones de dólares por objetivo. Esa tasa insostenible es la consecuencia de décadas de complacencia e ineficiencia burocrática. Ningún contratista occidental existente produce sistemas antidrones económicamente competitivos, aunque varias empresas emergentes estadounidenses y ucranianas los están desarrollando.

Para empeorar aún más las cosas, esta situación es simplemente el preludio de un futuro de armas autónomas no tripuladas: la mayoría de los drones actuales son controlados de manera remota por seres humanos, o guiados en forma simple por GPS o mapas digitales; pero las nuevas tecnologías de IA —basadas principalmente en productos comerciales e investigaciones académicas disponibles al público— pronto transformarán la guerra… y, posiblemente, también al terrorismo.

Los drones con IA ya son capaces de operar en enjambres extremadamente coordinados, permitiendo, por ejemplo, que un atacante rodee a un objetivo y evite que escape. La propia fijación de objetivos se está tornando extremadamente precisa —al grado de poder identificar rostros específicos, vestimenta religiosa o la patente de un vehículo específico— y los enjambres de drones son cada vez más capaces de navegar a través de ciudades, bosques y edificios. Un ejemplo, entre muchos, es una publicación de 2022 en Science Robotics por investigadores académicos chinos, que muestra la navegación de drones a través de un bosque.

PS Events: Climate Week NYC 2024
image (24)

PS Events: Climate Week NYC 2024

Project Syndicate is returning to Climate Week NYC with an even more expansive program. Join us live on September 22 as we welcome speakers from around the world at our studio in Manhattan to address critical dimensions of the climate debate.

Register Now

Y después vendrán los robots humanoides comerciales y militares: los videos publicados por investigadores de la Universidad de Stanford en enero, basados en sus investigaciones recientes, muestran a robots con IA realizando tareas domésticas, entre las que se incluyen freír mariscos y limpiar vino derramado. Aunque la tarea de cocinar langostinos dista mucho de operar un rifle de largo alcance o ensamblar componentes de misiles, hay amplio consenso en que el «momento ChatGPT» ha llegado a los robots humanoides.

Los productos con IA, tanto militares como comerciales, dependen de una pila compleja de capas de tecnología, en cuya base están los equipos de capital para semiconductores (las máquinas de alta precisión que producen los chips), seguida por semiconductores (como los procesadores de IA de Nvidia), centros de datos, modelos de IA y los datos para entrenarlos, servicios de IA en la nube, diseño de productos de hardware, manufactura, e ingeniería y aplicación de sistemas. EE. UU., Europa Occidental, Taiwán y Corea del Sur todavía están, en conjunto, a la vanguardia de China (y Rusia) en la mayoría de esas áreas, pero la diferencia se está reduciendo y Chinas ya domina mercados mundiales de hardware de producción masiva con uso doble, como drones y robots.

La respuesta occidental a ese desafío hasta el momento ha sido deplorablemente mala: los controles a la exportación de tecnologías que permiten la IA se limitan a los procesadores y equipos de capital para la producción de semiconductores... e incluso en esos casos fueron resistidos, debilitados y evadidos. Aunque se prohibieron las exportaciones de procesadores de IA sofisticados a China, el acceso a los servicios estadounidenses en la nube que usan esos mismos procesadores sigue estando disponible, y ahora Nvidia exporta a China procesadores de IA casi tan poderosos como los prohibidos, ajustados especialmente para cumplir con la normativa estadounidense de exportación. No existe ningún tipo de control a las exportaciones o licencias en el caso de los modelos y datos para el entrenamiento de las IA, ni a la investigación sobre la IA.

Aunque algunas empresas estadounidenses, como Google, han patentado y restringido el acceso de China a sus modelos de IA, otras han hecho lo contrario. Mientras que OpenAI prohíbe el acceso directo de los chinos a sus interfaces de programación de aplicaciones, esas mismas API están disponibles a través de Microsoft. Mientras tanto, Meta ha abrazado una estrategia completamente basada en el código abierto para sus tareas de IA, y la empresa de capital de riesgo Andreessen Horowitz está cabildeando para evitar los controles a la exportación de modelos de IA con código abierto (y, de hecho, todas las restricciones regulatorias que los afecten).

Los sectores tecnológicos estadounidenses y europeo se están comportando entonces como un batallón de fusilamiento circular, en el que las empresas intentan vender a China lo más posible. En sus intentos por derrotar a los competidores inmediatos, cada empresa debilita la posición a largo plazo de todas las demás y, en última instancia, hasta la suya propia. El resultado previsible, si esto continúa, es que EE. UU. y Europa Occidental quedarán rezagadas frente a China —e incluso respecto de Rusia, Irán y los grupos terroristas descentralizados— tanto en las aplicaciones militares como comerciales de la IA.

Muchos tecnólogos y gerentes de Silicon Valley, y organizaciones gubernamentales, son conscientes de este riesgo y están muy preocupados; pero, a pesar de algunas iniciativas significativas (como la Unidad de Innovación para la Defensa, del Pentágono), ha habido relativamente poco cambio en el comportamiento del sector de la defensa y la política gubernamental.

Se trata de una situación especialmente absurda, dada la obvia oportunidad para conseguir un acuerdo enorme y tremendamente ventajoso: la aquiescencia del sector para los controles gubernamentales a las exportaciones, a cambio del apoyo gubernamental para negociar de manera colectiva con China las licencias de tecnología, el acceso a los mercados y otros beneficios comerciales. Más allá de algunas pocas áreas donde la tensión es genuina, el nivel de alineación entre los intereses de la seguridad nacional y los intereses colectivos a largo plazo del sector tecnológico occidental es sorprendentemente elevado.

La estrategia lógica es que el gobierno estadounidense y la Unión Europea obren como agentes negociadores de la industria occidental frente a China. Eso implica actuar de manera concertada con el sector, manteniendo al mismo tiempo el poder y la independencia necesarios para establecer y hacer cumplir controles estrictos (que la industria debiera reconocer como favorables para sus intereses a largo plazo).

Lamentablemente, no es esta la dirección en la que vamos; aunque los responsables políticos y los tecnólogos están despertando frente a la amenaza, la tecnología subyacente avanza a una velocidad tremendamente superior a la de los debates políticos y los procesos legislativos... ni que hablar de los ciclos de producto del pentágono y de los contratistas de defensa existentes. El desarrollo de IA ya avanza a una velocidad tan impresionante que incluso el sistema de empresas emergentes estadounidenses tiene dificultades para seguirle el ritmo... y eso significa que no hay tiempo que perder.

Traducción al español por Ant-Translation.

https://prosyn.org/BPEJ3x5es