China desarrolla modelo de IA entrenado con contenido prohibido para automatizar la censura y reforzar el control ideológico del Partido Comunista, según filtración analizada por TechCrunch

Pekín.– Una filtración masiva reveló que el gobierno de China está utilizando inteligencia artificial (IA) para perfeccionar su sistema de censura digital, mediante un modelo entrenado con más de 133 mil ejemplos de contenido considerado sensible por el régimen. La base de datos, analizada por el portal especializado TechCrunch, muestra cómo el Partido Comunista Chino (PCCh) busca ampliar su control sobre la información y sofocar cualquier manifestación de disidencia en línea.

Entre los textos empleados para entrenar el modelo se encuentran reportajes sobre corrupción gubernamental, pobreza rural, abusos policiales y críticas al Partido Comunista, así como referencias a temas tradicionalmente prohibidos, como la masacre de Tiananmen o la situación política en Taiwán.

Un modelo de IA para censurar con precisión

El sistema, alojado en un servidor de Baidu sin las debidas medidas de seguridad, fue descubierto por el investigador de seguridad NetAskari. Los registros indican que la información se actualizó hasta diciembre de 2024, lo que sugiere que el modelo sigue en desarrollo activo.

Mundo

Ante el éxito de China y EEUU con los vehículos autónomos, ahora Europa quiere impulsarlos: “IA primero significa la seguridad primero”, dice Ursula Von der Leyen

A diferencia de los métodos tradicionales, basados en filtros de palabras clave y revisión manual, este modelo de lenguaje de gran tamaño (LLM) funciona de manera similar a herramientas como ChatGPT, pero con un propósito opuesto: detectar y eliminar automáticamente cualquier contenido político, social o militar que el Estado considere problemático.

El investigador Xiao Qiang, de la Universidad de California en Berkeley, calificó la filtración como “una prueba irrefutable de que el gobierno chino busca utilizar la IA para perfeccionar sus mecanismos de represión”. Explicó que esta tecnología “aumenta exponencialmente la capacidad del Estado para controlar el discurso público y silenciar la crítica”.

Temas prohibidos y vigilancia de la disidencia

Entre los contenidos censurados figuran denuncias de corrupción policial, pobreza extrema en zonas rurales y purgas dentro del PCCh. Taiwán destaca como una de las principales obsesiones del sistema: su nombre aparece más de 15,000 veces en la base de datos filtrada.

Incluso las sátiras políticas y proverbios tradicionales pueden ser objeto de censura. Un ejemplo incluido es el dicho: “Cuando el árbol cae, los monos se dispersan”, una metáfora sobre la fugacidad del poder que el sistema identifica como potencialmente subversiva.

El modelo clasifica este tipo de publicaciones como de “prioridad máxima”, lo que implica su eliminación inmediata. También se bloquean referencias a escándalos de contaminación, fraudes financieros y conflictos laborales, áreas que el régimen considera riesgosas para su estabilidad interna.

IA, la nueva herramienta del autoritarismo

El hallazgo se suma a una tendencia creciente: el uso de la inteligencia artificial por parte de gobiernos autoritarios para fortalecer su control político. En febrero de 2024, OpenAI reportó que entidades chinas utilizaban modelos generativos para rastrear publicaciones antigubernamentales y desacreditar disidentes.

Según el investigador Michael Caster, de la organización Article 19, esta estrategia no solo busca suprimir críticas, sino manipular la opinión pública mediante la creación de narrativas alineadas con el discurso oficial. “El objetivo es proteger la imagen del Partido y eliminar cualquier punto de vista alternativo”, explicó.

Mundo

Ante el éxito de China y EEUU con los vehículos autónomos, ahora Europa quiere impulsarlos: “IA primero significa la seguridad primero”, dice Ursula Von der Leyen

La batalla digital del Partido Comunista

En documentos internos, el sistema filtrado se describe como una herramienta para el “trabajo de opinión pública”, un término usado por la Administración del Ciberespacio de China (CAC) para referirse a tareas de censura y propaganda en internet.

El propio presidente Xi Jinping ha definido a la red como la “primera línea de la batalla ideológica del Partido Comunista”.

Bajo esa visión, el uso de la IA representa un paso más hacia un ecosistema digital totalmente controlado, donde las críticas —explícitas o implícitas— pueden ser detectadas y eliminadas en segundos.

Censura con rostro tecnológico

Expertos advierten que este tipo de desarrollo marca un punto de inflexión en la evolución de los regímenes autoritarios. “La censura basada en IA permite que el control del discurso público sea más eficiente, invisible y preciso”, señaló Qiang.

Con esta filtración, China no solo confirma su dominio en la tecnología de vigilancia, sino también su intención de convertir la inteligencia artificial en un instrumento de represión política.

También te puede interesar: China incauta 60,000 mapas que mostraban a Taiwán como país independiente