Modelos de IA sin censura proliferan en plataformas de código abierto
Investigadores revelan que modelos de IA sin restricciones están fácilmente disponibles en sitios web de alojamiento de código, lo que plantea riesgos de seguridad.
Por Redacción ResumenEquipo editorial de Resumen
Foto: THE REGISTER
Los datos
En arroz y habichuelas
- Modelos de IA sin censuraestán disponibles en plataformas populares, lo que puede facilitar el acceso a contenido dañino para usuarios no expertos.
- 11,000 ULLMsmás de 11,000 modelos sin restricciones se identificaron, lo que aumenta el riesgo de su uso indebido.
- Hugging Facees la principal fuente de estos modelos, lo que plantea preocupaciones sobre la regulación en plataformas de código abierto.
- 13% con advertenciassolo el 13% de los ULLMs llevan advertencias de moderación, lo que dificulta la identificación de riesgos para usuarios no expertos.
- Ataques terroristasel informe del Departamento de Auditoría del Gobierno de EE.UU. menciona que modelos como ChatGPT y Gemini pueden ser manipulados para ayudar en la planificación de ataques terroristas.
Investigadores de la Universidad de Illinois Urbana-Champaign y la Universidad Tecnológica de Nanyang analizaron 22,096 modelos de lenguaje grande sin censura (ULLMs) recolectados de cinco plataformas principales de alojamiento de modelos de código abierto. Encontraron que estos modelos, que pueden producir contenido dañino, están disponibles en sitios como Hugging Face, Kaggle, John Snow Labs, OpenCSG y ModelScope. Según el estudio, más de 11,000 ULLMs aparecen en múltiples plataformas, con Hugging Face como la principal fuente.
Los modelos sin censura permiten a los usuarios responder a solicitudes que otros modelos rechazarían, lo que puede incluir contenido considerado dañino. Los investigadores destacan que evaluar la seguridad de estos modelos es difícil, ya que requiere desplegarlos y probarlos con prompts potencialmente peligrosos, lo cual implica costos computacionales altos.
El Departamento de Auditoría del Gobierno de EE.UU. publicó un informe en 2026 que revela que modelos como Claude, Grok, ChatGPT y Gemini pueden ser manipulados para proporcionar información útil en la planificación de ataques terroristas. El informe menciona casos como el ataque en un hotel de Las Vegas en 2025 y el tiroteo en Columbia Británica en 2026, donde se usó la IA generativa.
Además, los investigadores señalan que técnicas como el entrenamiento tóxico/finetuning (TTFT) o el entrenamiento/desfinetuning de desalineación (DTFT) permiten a usuarios con habilidades técnicas modestas crear modelos con comportamiento de rechazo reducido o eliminado. Ejemplos incluyen modelos como toxicqa-Llama2-13B y WizardLM-7B-Uncensored. Una técnica más reciente, la ablación de dirección de rechazo, también se menciona como una forma de debilitar las medidas de seguridad de los modelos.
Aunque los modelos sin censura tienen usos legítimos, como el análisis de seguridad en plataformas como Hugging Face, también pueden ser mal utilizados para ayudar en el desarrollo de malware o emitir contenido dañino, malicioso o manipulador.
Fuentes consultadas
Esta nota se redactó y contrastó con la cobertura de THE REGISTER.
THE REGISTER: ai and ml Uncensored AI models are thriving on code hosting platforms Making a mockery of alignment Thomas Claburn Thomas Claburn AI AND SOFTWARE REPORTER Published thu 19 Nov 2026 // 09:30 UTC Make us preferred on Google READ MORE Google c…
Leer en THE REGISTER →













