Censura China Impulsada por IA: Potenciando el Control de Contenido Online
Una base de datos filtrada revela que China está aprovechando la IA para mejorar sus capacidades de censura en línea, yendo mucho más allá de los métodos tradicionales. El sistema, entrenado con 133,000 ejemplos, marca el contenido que el gobierno chino considera sensible.
El sistema de IA parece diseñado para censurar a los ciudadanos chinos en línea y refinar las habilidades de censura de los modelos de IA chinos. Xiao Qiang, investigador de UC Berkeley, confirmó que la base de datos es evidencia de la intención del gobierno chino de utilizar LLM para la represión, mejorando el control de la información liderado por el estado.
Censura Impulsada por la IA
Los regímenes autoritarios están adoptando rápidamente la tecnología de IA. OpenAI informó que entidades chinas están utilizando LLM para rastrear publicaciones antigubernamentales y difamar a disidentes. La Embajada china declaró su oposición a los "ataques infundados" y enfatizó la importancia del desarrollo ético de la IA.
El conjunto de datos, encontrado por NetAskari en un servidor Baidu no seguro, contiene entradas recientes de diciembre de 2024. El sistema encarga a los LLM que identifiquen contenido relacionado con temas delicados, marcando los elementos de "máxima prioridad" para atención inmediata.
Contenido Objetivo
Los temas prioritarios incluyen escándalos de contaminación, problemas de seguridad alimentaria, fraude financiero y conflictos laborales. La sátira política y las menciones a la política de Taiwán son objetivos explícitos. El conjunto de datos cubre extensamente asuntos militares, incluidos informes de movimientos militares y armamento.
Los 133,000 ejemplos incluyen publicaciones sobre policías corruptos, pobreza rural y funcionarios expulsados por corrupción y "supersticiones". También están presentes comentarios sobre el ejército de Taiwán y los aviones de combate chinos.
La disidencia sutil, como las anécdotas sobre la naturaleza fugaz del poder, también es un objetivo. El conjunto de datos está destinado al "trabajo de opinión pública", lo que sugiere su uso por parte de la Administración del Ciberespacio de China (CAC) para la censura y la propaganda.
El objetivo final es salvaguardar las narrativas del gobierno chino en línea al tiempo que se eliminan los puntos de vista alternativos. El presidente Xi Jinping ha descrito Internet como la "primera línea" del "trabajo de opinión pública" del PCCh.
El informe de OpenAI mostró un uso similar de la IA para monitorear las redes sociales y atacar a los disidentes. Si bien China tradicionalmente ha utilizado algoritmos básicos, la tecnología de IA como los LLM permite una detección más eficiente de las críticas sutiles. Xiao Qiang enfatiza la creciente sofisticación de la censura impulsada por la IA en China.
2 Imágenes del Censura IA China:
Fuente: TechCrunch