Modelo de Alibaba reeducado para alinear con valores occidentales

Un laboratorio de inteligencia artificial estadounidense, Nous Research, ha reeducado al modelo Qwen3.8-27B de Alibaba, un popular modelo de lenguaje de gran tamaño con peso abierto, para que refleje valores occidentales en lugar de los alineados con el gobierno chino. El proceso, llamado 'desaprendizaje', se logró mediante un entrenamiento postentrenamiento, y el modelo ahora se llama Arete-27B. Según Nous Research, este proceso redujo significativamente la cantidad de respuestas que reflejaban propaganda o sesgos del Partido Comunista de China.

El laboratorio afirma que el modelo original, Qwen3.8-27B, tendía a evitar o proporcionar respuestas eufemísticas sobre eventos sensibles, como los sucedidos en la Plaza de Tiananmen en 1989. Tras la reeducación, la incidencia de respuestas con propaganda se redujo del 22 por ciento al 1 por ciento, y la puntuación de hechos del modelo mejoró de 2.32 a 2.98 de 5, en línea con modelos occidentales.

Para lograr este desaprendizaje, Nous Research utilizó 50 millones de tokens de aprendizaje supervisado, un proceso que según la empresa es relativamente sencillo para eliminar la capa superficial de propaganda. Sin embargo, la empresa mencionó que consideró brevemente el uso del modelo Nemotron 3 Ultra de Nvidia, pero descartó su uso debido a la posibilidad de que también tuviera un historial manchado en temas relacionados con China.

Finalmente, Nous Research optó por utilizar un modelo de peso abierto llamado Inkling, desarrollado por Thinking Machines Lab en Estados Unidos, para actuar como modelo de enseñanza durante el proceso de reeducación. La empresa afirma que la mayoría de los modelos abiertos de alta calidad provienen de China, lo que plantea riesgos de contaminación en el entrenamiento de modelos occidentales.

Este esfuerzo de reeducación se enmarca en una mayor inspección de la influencia china en la industria tecnológica, especialmente tras la renuncia del CEO de Nvidia, Jensen Huang, por un escándalo relacionado con una mujer acusada de espionaje para China. La empresa también mencionó que otros modelos chinos han sido encontrados para producir código más vulnerable en ciertas condiciones, según un estudio de Booz Allen Hamilton.