En una reunión clave en Ginebra el 14 de mayo, los enviados chinos y estadounidenses se reunieron para el primer diálogo bilateral oficial sobre inteligencia artificial, un subproducto de la Cumbre de Woodside en noviembre de 2023 Reunión entre el presidente chino Xi Jinping y el presidente estadounidense Joe Biden en California. Si bien no se revelarán todos los detalles de estas discusiones a puertas cerradas, Declaraciones iniciales sugieren que Beijing ha expresado su frustración con los controles de exportación de la administración Biden sobre chips y semiconductores de computadora avanzados, que podrían obstaculizar la capacidad de China para avanzar en el desarrollo de la IA. Por el contrario, la parte estadounidense habría expresado su preocupación por el posible uso indebido de la IA por parte de China y la necesidad de medidas de seguridad, lo que justifica parcialmente las restricciones a las exportaciones de Washington.
Estas discusiones subrayan el delicado equilibrio que China debe lograr entre mejorar sus capacidades de inteligencia artificial y abordar las preocupaciones legítimas de seguridad de la comunidad internacional.
El desarrollo de la industria china suele seguir un modelo vertical, en el que el gobierno central desempeña un papel activo en la supervisión de un sector emergente para garantizar un desarrollo responsable. Sin embargo, los formuladores de políticas están cada vez más reconocido que la sobrerregulación de la IA podría obstaculizar el ritmo de la innovación. Por lo tanto, encontrar el equilibrio adecuado entre promover las capacidades de IA y garantizar un desarrollo responsable se ha convertido en una tarea delicada para las autoridades chinas.
De todos los actores principales en la carrera de la IA La postura de China sobre cómo abordar los riesgos de la IA es el menos claro.
A nivel nacional, China ha tomado medidas notables para abordar los riesgos de la IA e introdujo regulaciones nacionales estrictas contra ella. Deepfake – traducción Y algoritmos de recomendación maliciosos en 2018. La Asociación de Seguridad Cibernética de China (CSAC) Anunciado Por ejemplo, en octubre pasado se fundó un comité de expertos en seguridad y gobernanza de la IA. Además, los gobiernos locales de los principales centros tecnológicos como Shanghai, Guangdong y especialmente Beijing (donde se encuentran más de la mitad de los principales modelos lingüísticos de China) han pedido el desarrollo de puntos de referencia y evaluaciones para evaluar la seguridad de los sistemas de IA.
A nivel internacional, China jugó un papel activo en la Cumbre de Seguridad de la IA celebrada el año pasado en el Reino Unido y firmó el «Declaración de Bletchley”junto con Estados Unidos, la Unión Europea y otros 25 países para fortalecer la cooperación sobre los riesgos de la IA. El otoño pasado, China dio a conocer su propia “Iniciativa de Gobernanza Global de la IA” con el objetivo de “hacer que las tecnologías de IA sean más seguras, más confiables, más controlables y más justas”. Los expertos chinos también han contribuido a documentos de consenso y Diálogos con sus colegas globales y solicitar conjuntamente directrices de gobernanza e investigación de seguridad para mitigar los riesgos de la IA.
China también ha logrado avances en seguridad técnica de IA.
Sin embargo, persisten las preocupaciones sobre el compromiso de China de abordar los riesgos reales de su emergente sector de IA. Aunque la portavoz del Consejo de Seguridad Nacional de Estados Unidos, Adrienne Watson, no dio más detalles sobre las preocupaciones específicas planteadas en Ginebra, se plantearon puntos específicos en otros contextos.
Mientras China toma medidas enérgicas contra los deepfakes y la desinformación a nivel nacional, algunos legisladores estadounidenses han dado la alarma de que los deepfakes generados por IA podrían usarse para difundir información política errónea en el extranjero. Además, la falta de conocimiento sobre el panorama de la IA y las aplicaciones militares de China ha alimentado los temores. Estados Unidos, por ejemplo, se ha comprometido públicamente a mantener el control humano sobre las armas nucleares, mientras que China hasta ahora ha Se quedó callado a este tema.
Independientemente de la postura actual de China sobre la seguridad de la IA, una cosa está muy clara: Washington espera más de Beijing cuando se trata de abordar los riesgos que plantean estas poderosas tecnologías. Sin embargo, esta expectativa crea un dilema: las medidas de seguridad a menudo se consideran obstáculos para el rápido progreso en IA, el objetivo mismo que China persigue apasionadamente para alcanzar a los principales laboratorios estadounidenses como Open AI, Google DeepMind y Anthropic.
Últimos años carta abierta Las declaraciones firmadas por luminarias de la tecnología como Elon Musk y Steve Wozniak encarnan esta tensión, pidiendo una pausa integral de seis meses en el desarrollo de la IA para permitir revisiones de seguridad rigurosas. Los métodos menos extremos suelen depender de garantizar laboratorios de IA dedicar una parte importante de sus recursos informáticos En particular, para la investigación de seguridad, que podría frenar los esfuerzos para avanzar en tecnología de punta, una compensación que China tal vez no quiera hacer en la acalorada carrera de la IA.
Pero las conversaciones de Ginebra apuntan a un posible camino en el que la seguridad y el progreso no son mutuamente excluyentes. Durante años Beijing ha arremetió contra Los controles de exportación de Estados Unidos restringen el acceso a los chips avanzados que subyacen a los avances en IA. Si China demuestra un compromiso creíble para mitigar los riesgos de la IA, socavará muchas de las razones para la regulación citadas por Estados Unidos.
El Enfoque centrado en el hardware sobre la seguridad de la IA es un tema que se ha vuelto cada vez más importante en los últimos años. Si se implementa con éxito, podría permitir a Beijing importar la tecnología informática de vanguardia necesaria para hacer crecer su sector de IA y al mismo tiempo abordar las preocupaciones internacionales, un escenario en el que priorizar la seguridad y acelerar el desarrollo podrían ir de la mano.
Pero las regulaciones estadounidenses van más allá de la simple seguridad. El mismo día de las conversaciones de AI en Ginebra, Biden reveló fuertes Aumentos de tarifas sobre una variedad de importaciones chinas, incluidas baterías de vehículos eléctricos, células solares y productos médicos, resaltada por la cuadruplicación de los aranceles sobre los vehículos eléctricos a más del 100 por ciento. Las importantes iniciativas recientes de China para promover la sostenibilidad sugieren que estos aranceles están motivados por consideraciones geopolíticas más amplias. Por lo tanto, incluso si China aborda sus preocupaciones de seguridad con respecto a la IA, es posible que Estados Unidos todavía no dé marcha atrás en su enfoque duro.
Sin embargo, un escenario en el que China obtenga acceso a hardware informático avanzado cumpliendo con los compromisos de seguridad de la IA podría ser mutuamente beneficioso. Al dedicar importantes recursos a iniciativas de seguridad como “equipo rojo” Inspecciones y dedicados Investigación de alineaciónNo necesariamente aceleraría el progreso de China en el área de mayor preocupación para Estados Unidos: mejorar las capacidades de sus modelos de inteligencia artificial de vanguardia. Esto permitiría a China utilizar más potencia informática para probar modelos y comprender mejor sus aplicaciones de inteligencia artificial, al tiempo que tranquilizaría a Estados Unidos en materia de seguridad nacional.
Al mismo tiempo, demostrar un desarrollo responsable de la IA podría impulsar la posición internacional de China, un objetivo clave de su Diplomacia pública. Esta dinámica demuestra un camino posible en el que el progreso innovador y la minimización de riesgos son objetivos complementarios y no opuestos.
En los próximos meses veremos un diálogo internacional sin precedentes sobre la seguridad de la IA. De la Cumbre Global de Seguridad de la IA de esta semana en Corea del Sur a las Naciones Unidas Cumbre del futuroy los continuos diálogos intergubernamentales entre China y Estados Unidos, las potencias mundiales se están reuniendo para trazar un rumbo para el desarrollo responsable de la IA. A medida que avance este diálogo global, todas las miradas estarán puestas en China y en cómo demuestra su voluntad de colaborar y promover prácticas responsables de IA en el escenario mundial.
Las acciones de Beijing en esta etapa crucial podrían decidir el destino de su sueño de IA.