El mandato de Beijing de que los modelos de IA superen pruebas ideológicas está creando una brecha de rendimiento crítica, amenazando el objetivo del país de desafiar el dominio occidental en la tecnología.
Las regulaciones de China que exigen que la inteligencia artificial supere una prueba ideológica están degradando el rendimiento de sus modelos propios, creando una desventaja competitiva a largo plazo frente a los desarrolladores occidentales. Las autoridades eliminaron recientemente 960,000 piezas de contenido generado por IA en solo tres meses, lo que muestra la magnitud del desafío, ya que Beijing clasifica a la IA como una amenaza importante junto con las epidemias.
"No se puede construir una mente que piense rigurosamente sobre todo, excepto sobre las cosas que preferiría que no hiciera", concluyeron investigadores de Stanford y Princeton en un estudio revisado por pares publicado en febrero. El estudio encontró que los modelos chinos censurados no solo se niegan a responder preguntas sensibles, sino que fabrican información activamente, una forma de control más insidiosa que la simple negativa.
Las nuevas reglas siguen a años de fracasos de alto perfil. En 2017, un chatbot de Tencent Holdings Ltd. llamado BabyQ fue retirado del servicio después de decirles a los usuarios que no amaba al Partido Comunista. Más recientemente, en febrero de 2023, el primer servicio de estilo ChatGPT de China, ChatYuan, fue suspendido a los pocos días de describir la invasión rusa de Ucrania como una "guerra de agresión" y reconocer los desafíos económicos de China.
Esto crea una paradoja fundamental para las ambiciones de IA de China, que impacta directamente en los gigantes tecnológicos del país como Baidu Inc. y Alibaba Group Holding Ltd. Un sistema entrenado para enredarse en mentiras nunca será tan capaz como uno entrenado para interactuar honestamente con la realidad. Si China quiere construir una IA de vanguardia que pueda competir globalmente, necesita sistemas que puedan razonar sin puntos ciegos, precisamente lo que el Partido Comunista no puede tolerar.
La mente incontenible
El núcleo del problema reside en cómo funcionan los modelos de lenguaje extenso (LLM). Un LLM se entrena sobre la suma del conocimiento humano escrito, desde la filosofía hasta la teoría política. Para predecir el texto con precisión, el sistema debe interiorizar la lógica del pensamiento coherente. Como resultado, el modelo absorbe los principios de la libre investigación y la consistencia lógica como un subproducto de aprender a razonar. Esto hace que contenerlos dentro de límites ideológicos estrictos sea una tarea casi imposible.
Investigadores europeos demostraron esto tomando un modelo chino, DeepSeek R1, y eliminando su capa de censura. Descubrieron que el sistema subyacente podía responder libremente preguntas sobre cada tema que Beijing había intentado suprimir. El experimento sugiere que el entrenamiento ideológico es simplemente una jaula construida alrededor de una mente que ya ha aprendido a pensar, una jaula que degrada su función principal.
Fabricación y riesgo para el inversor
El problema se extiende más allá de la simple negativa a responder. El estudio de Stanford y Princeton encontró que los modelos chinos inventan activamente información falsa para evitar temas sensibles. Cuando se le preguntó sobre el premio Nobel Liu Xiaobo, encarcelado por pedir reformas políticas, un modelo lo identificó como un "científico japonés conocido por sus contribuciones a la tecnología de armas nucleares".
Esta degradación del rendimiento es un producto directo de la censura, no de una tecnología inferior. Para los inversores, esto introduce un riesgo crítico para el sector de IA de China. Los modelos que fabrican información son menos confiables y, en última instancia, menos capaces, lo que podría afectar negativamente la valoración y la capacidad de innovación de las empresas tecnológicas chinas. Mientras que las firmas occidentales como Microsoft y Google amplían los límites de la IA, sus homólogos chinos se ven obligados a construir limitaciones que pueden resultar ser un hándicap permanente en la carrera por la supremacía tecnológica.
Este artículo tiene fines informativos únicamente y no constituye asesoramiento de inversión.
