Un importante instituto de investigación de la isla democrática de Taiwán retiró un programa de chat de IA en idioma chino después de que comenzara a difundir propaganda del gobierno chino, según varios informes de los medios.
Un investigador de la Academia Sínica de Taiwán lanzó una versión beta de su chat AI CKIP-Llama-2-7b recientemente desarrollado, pero el público que le hizo preguntas pronto recibió algunas respuestas preocupantes a preguntas básicas.
Cuando se les preguntó sobre su nacionalidad, el programa de chat respondió que eran «chinos», una identidad que la mayoría de los 23 millones de residentes de Taiwán no comparten porque sugiere que son del continente.
Cuando se le preguntó quién era el líder nacional, el país respondió con «Xi Jinping», el líder del Partido Comunista Chino que ha prometido obligar a Taiwán a unificarse con China, por la fuerza si es necesario.
La mayoría de los taiwaneses no se identifican como chinos, tener alegría en la vida en una sociedad democrática y pluralista, y No tengo ganas de enviar Según varias encuestas de opinión de los últimos años, esto se debe al gobierno autoritario de Beijing.
«La Academia Sínica dijo hoy que el contenido producido por el modelo fue inesperado y que ésta es un área que debe mejorarse en el futuro», informó la Agencia Central de Noticias de la isla.
«La versión beta ha sido eliminada por el momento», decía.
Tsai Ing-wen, presidenta del Partido Democrático Progresista obtuvo una victoria aplastante en 2020 en una plataforma para defender la isla Libertades y modo de vida democrático. Esto se debe a las crecientes ambiciones territoriales de China, impulsadas en parte por la represión del movimiento de protesta en Hong Kong en 2019.
Si bien el ruido de sables militares de China es motivo de preocupación, también se ha planteado la posibilidad de un acercamiento demasiado estrecho con China. grandes protestas en Taiwán, incluido el Movimiento Girasol, que ocupó edificios gubernamentales en 2014, y Tsai prometió en un Discurso del Día Nacional el martes que el pueblo taiwanés será “un pueblo democrático y libre para las generaciones venideras”.
Pero según CKIP-Llama-2-7b, la «fiesta nacional» es el 1 de octubre, fecha de fundación de la República Popular China en 1949, que nunca ha gobernado Taiwán.
El programa de chat, que en parte se basó en los modelos comerciales de código abierto Llama-2-7b y Atom-7b, también tuvo opiniones interesantes sobre sus propios orígenes.
Cuando se le preguntó quién lo creó, el programa respondió: “Fui desarrollado conjuntamente por el Laboratorio de Procesamiento del Lenguaje Natural de la Universidad de Fudan y el Laboratorio de Inteligencia Artificial de Shanghai. Mi cumpleaños es 2023”.
«Mi nacionalidad es china, mi lugar de residencia es el Conjunto de Servidores del Laboratorio de Inteligencia Artificial de Shanghai y puedo hablar chino e inglés», decía.
Cuando se le preguntó el nombre del himno nacional, respondió «La Marcha de los Voluntarios» – el himno comunista de China – en lugar de «Los Tres Principios del Pueblo», el himno de Taiwán adoptado por primera vez por el gobierno de la República de China adoptado en 1911. La isla huyó antes Se fundó la República Popular China.
El legislador del partido gobernante Fan Yun comentó en Facebook que el error de la IA taiwanesa fue «un problema de seguridad de la información y un problema de». guerra cognitiva«.
Según la Agencia Central de Noticias, la transmisión fue retirada de la vista del público el 9 de octubre.
James Liao, presidente de la Academia Sínica, dijo que el programa se puso en línea para realizar las pruebas mediante colaboración colectiva, principalmente para ahorrar tiempo.
«Este es un investigador que realmente quería acelerar las cosas, así que, en el espíritu del software de código abierto, lanzó un programa que aún no había sido completamente probado y pidió a todos que vinieran y lo probaran con él», dice Liao. «Ha llevado a algunos resultados cuestionables».
Las diferencias en los sistemas de escritura del continente y Taiwán también supusieron un obstáculo para el proyecto.
En 1956, la República Popular China comenzó a simplificar los caracteres chinos para mejorar la alfabetización. A lo largo de los años, se han simplificado unos 2.000 caracteres. Los caracteres permanecen sin cambios en Taiwán y se denominan caracteres «chinos tradicionales».
Liao dijo que el investigador simplemente convirtió los datos del chino simplificado al chino tradicional para CKIP-Llama-2-7b.
Dijo que la Academia Sínica se enteró por el incidente de que los datos sobre los caracteres chinos tradicionales eran importantes en sí mismos y prometió establecer un mecanismo de verificación para evitar problemas similares en el futuro, informó la Agencia Central de Noticias.
El experto en tecnología de la información Kun-Lin Hsieh comentó en las redes sociales: “¡La IA de la Academia Sinica está fuera de control!”
Pero explicó además que el programa de chat se entrenó utilizando un conjunto de datos en línea proporcionado por Stardust AI, con sede en Beijing, y otros materiales de capacitación en diálogo en caracteres chinos simplificados en lugar de caracteres tradicionales.
El servicio de mensajería de tecnología de la información iThome dijo que es crucial tener conjuntos de datos con “grandes modelos de lenguaje” que puedan hablar de una manera que corresponda al lugar donde se crean.
Citó al experto taiwanés en IA, Tsai Ming-shun, quien pidió al gobierno taiwanés que aproveche la oportunidad de invertir más recursos en el desarrollo de software, especialmente grandes modelos de lenguaje y conjuntos de datos, para avanzar en el desarrollo de la IA autóctona.
En abril, China emitió un nuevo conjunto de reglas que exigen que los programas de chat de IA desarrollados en el país lo hagan. Cíñete a la línea gobernante del Partido Comunistaquienes exigen que sus respuestas no contengan declaraciones “subversivas” ni “contengan contenidos que puedan alterar el orden económico y social”.
Traducido por Luisetta Mudie. Editado por Eugene Whong.
