En enero de 2024, el asesor de seguridad nacional de Estados Unidos, Jake Sullivan, y el máximo diplomático de Beijing, Wang Yi, mantuvieron una reunión discreta en Bangkok. Según los informes, allí se han hecho planes preliminares para uno. Diálogo entre China y Estados Unidos sobre los riesgos de la nueva generación de plataformas de inteligencia artificial, que tendrá lugar en algún momento de la primavera norteña de este año. Para muchos en los sectores de la salud, la seguridad y el control de armamentos, este es un avance bienvenido.
Sin embargo, parece ser un desafío para los responsables de las políticas de ambos lados identificar las cuestiones prioritarias. Los funcionarios estadounidenses ya han expresado su preocupación por la posibilidad de que la desinformación impulsada por la IA pueda corromper las elecciones democráticas; Sin duda, las autoridades chinas están preocupadas por la importancia de la tecnología para mantener el control sobre su población. Ambos gobiernos han explorado las numerosas aplicaciones militares que podrían beneficiar la competencia entre China y Estados Unidos, desde la aerodinámica hasta la focalización autónoma.
Sin embargo, un conjunto particular de plataformas de IA plantea un riesgo para ambos países si caen en las manos equivocadas: es decir, herramientas con potencial para ayudar a construir armas biológicas y químicas.
Un interés común
La mayoría de los informes de los medios sobre la intersección de las armas “químicas y biológicas” y las nuevas plataformas de inteligencia artificial se centran en grandes modelos de lenguaje (LLM) y el potencial de estos para proporcionar instrucciones prácticas para la producción de agentes de guerra biológica. A ejercicio ahora infame A menudo se cita el estudio realizado en el Instituto Tecnológico de Massachusetts, en el que los estudiantes lograron obtener instrucciones de un LLM sobre la adquisición y liberación de una serie de virus.
Sin embargo, hay análisis más recientes, incluido este realizado por RAND Corporation, han demostrado que los LLM ofrecen poca más ayuda que Internet a actores no calificados que buscan un arma biológica viable. Si bien sigue habiendo desacuerdo en esta área, es poco probable que una persona no capacitada que utilice un chatbot tenga el conocimiento tácito necesario para crear un arma biológica desplegable, una tarea que requeriría años de experiencia en laboratorios húmedos.
Una amenaza mayor proviene de una clase menos conocida de plataformas de IA llamadas herramientas de diseño biológico (BDT). Seguridad desde 2023 Investigador de la Universidad de OxfordEl Iniciativa contra la amenaza nucleary en otros lugares hacen un llamado a la comunidad de seguridad para que observe de cerca estos sistemas y su potencial para el uso de armas. Entre las BDT más sofisticadas se encuentran las herramientas de diseño de proteínas. Estos sistemas de IA son muy prometedores para la salud humana, ya que tienen el potencial de ayudar a desarrollar moléculas novedosas para la próxima generación de medicamentos que salvarán vidas. Pero también podrían desatar una avalancha de conocimientos técnicos que podrían utilizarse con fines maliciosos.
El potencial de las herramientas proteicas para desarrollar armas tóxicas como el ricino o la toxina botulínica ya existe sido investigado. Pronto será posible el uso de BDT para ayudar en la construcción de patógenos más complejos, como virus con genomas largos y complejos (aunque muchos virus han sido reconstruidos y revividos en los últimos años). sin tales herramientas, aunque sean de científicos experimentados). Hay una serie de otras plataformas biológicas impulsadas por IA que podrían ser explotados por actores maliciosos: herramientas de diseño de vectores virales, herramientas de ensamblaje de genoma, herramientas de predicción de toxicidad y otras. Combinadas con los componentes cada vez más accesibles y rentables de la biología sintética, las implicaciones de seguridad de estos nuevos sistemas son reales.
La mayoría de los investigadores creen que las herramientas de diseño biológico impulsadas por la IA todavía requieren una base sólida de conocimientos técnicos y experiencia práctica para utilizarlas correctamente. Sin embargo, está claro que estas nuevas plataformas reducen las barreras de información a la biotecnología y “elevan el techo” del daño potencial a quienes puedan abusar de ellas.
El mundo de las armas químicas también está fuertemente influenciado por la IA generativa. En 2022, una empresa privada demostró cómo su generador de moléculas impulsado por IA puede hacer esto producir una letanía de agentes de guerra química, incluido el agente nervioso VX, y varias otras moléculas previamente desconocidas con potencial de ataque. En 2023, un equipo de químicos construyó un “Motor químico impulsado por LLM«, que podría realizar operaciones complejas cuando se le dieran comandos de texto simples, como «planificar y ejecutar la síntesis de un repelente de insectos». Uno puede imaginar el riesgo de que un sistema así esté en manos de un grupo militante empeñado en la destrucción.
Una oportunidad compartida
Si bien hay muchos puntos de discordia entre Estados Unidos y China sobre el futuro de la IA, ninguna de las dos potencias quiere que las armas químicas y biológicas se generalicen más de lo que ya lo han hecho. Las conversaciones sobre controles nucleares estratégicos pueden resultar difíciles, pero ésta es un área en la que existen intereses claros y compartidos. Ambos países han expresado públicamente su disgusto por ese tipo de armas. Los Estados Unidos recientemente completado la destrucción de su histórico arsenal de armas químicas. China, víctima de la guerra biológica y química en la Segunda Guerra Mundial, ha permitido cientos de inspecciones en su territorio por parte de funcionarios de la Organización para la Prohibición de las Armas Químicas (OPAQ) y mantiene listas de control químico equivalentes a las de la Organización para la Prohibición de las Armas Químicas. de Armas Químicas (OPAQ) son el grupo australiano.
Las regulaciones nacionales que rigen las nuevas plataformas de IA se encuentran apenas en sus primeras etapas en ambos países. En el caso de China, la mayoría se centró en el impacto sobre la “estabilidad social”; En Estados Unidos, las preocupaciones se centran en las amenazas a la seguridad laboral, la integridad de la información y los procesos democráticos. Y aunque en algunos documentos políticos se han discutido las aplicaciones militares de la IA, apenas se ha abordado la conexión con las armas “químico-bio”.
El más joven del presidente estadounidense Joe Biden comando supremo sobre el desarrollo seguro y confiable de la inteligencia artificial es el primer paso significativo en esta dirección. La sección 4.4 de la Orden Ejecutiva pide al Departamento de Seguridad Nacional que evalúe cómo la inteligencia artificial podría mejorar las amenazas químicas, biológicas, radiológicas y nucleares (QBRN). Un componente relacionado del pedido se centra en la tecnología de síntesis de ácidos nucleicos: el conjunto cada vez más accesible de máquinas que se utilizan para producir ADN y ARN personalizados. Estos sintetizadores de “escritorio”, que caben en cualquier mesa de laboratorio, son una tecnología clave en biología sintética.
Los agentes biológicos siguen siendo teóricos mientras sean digitales; el punto crucial de interceptación es donde se vuelven físicos. Por esta razón, muchos de los expertos en no proliferación están nosotros entrevistamos decir que en los últimos meses ha habido regulaciones específicas sobre el “frontera digital-física” de la biología sintética y la inteligencia artificial es una prioridad clave.
La colaboración entre Washington y Beijing en el campo de la “bio-IA química” también beneficiaría políticamente al liderazgo de ambas naciones. La muerte y la miseria provocadas por la COVID-19 han demostrado el poder destructivo de un agente biológico infeccioso, independientemente de su origen. Ambos países salieron de la pandemia profundamente afectados, con numerosas muertes e infecciones en ambos lados y un legado de desconfianza entre las dos capitales por desacuerdos sobre quién fue el responsable del desastre. Tomar medidas concretas para controlar la interfaz entre la química, la biología sintética y la inteligencia artificial sería una señal de un nuevo comienzo y presagiaría un nuevo compromiso con la seguridad sanitaria mundial.