EN VIVOSanto Domingo 25°CDólar RD$ 60.04 Premium RD$ 362.10Regular RD$ 317.50
Jueves 19 nov
RResumen.com.dov2.7.153.0Las noticias de República Dominicana en lenguaje llano
Tendencias#Conflicto Haiti#Vaguada RD#Pelota Invernal#Tigres del Licey
Tecnología

Modelos de IA sin censura proliferan en plataformas de código abierto

Investigadores revelan que modelos de IA sin restricciones están fácilmente disponibles en sitios web de alojamiento de código, lo que plantea riesgos de seguridad.

Por Equipo editorial de Resumen

·Actualizado

Modelos de IA sin censura proliferan en plataformas de código abierto

Foto: THE REGISTER

Los datos

22,096Modelos de IA sin censura analizados
11,000ULLMs identificados en múltiples plataformas
13%Porcentaje de ULLMs con advertencias de moderación

En arroz y habichuelas

  • Modelos de IA sin censuraestán disponibles en plataformas populares, lo que puede facilitar el acceso a contenido dañino para usuarios no expertos.
  • 11,000 ULLMsmás de 11,000 modelos sin restricciones se identificaron, lo que aumenta el riesgo de su uso indebido.
  • Hugging Facees la principal fuente de estos modelos, lo que plantea preocupaciones sobre la regulación en plataformas de código abierto.
  • 13% con advertenciassolo el 13% de los ULLMs llevan advertencias de moderación, lo que dificulta la identificación de riesgos para usuarios no expertos.
  • Ataques terroristasel informe del Departamento de Auditoría del Gobierno de EE.UU. menciona que modelos como ChatGPT y Gemini pueden ser manipulados para ayudar en la planificación de ataques terroristas.

Investigadores de la Universidad de Illinois Urbana-Champaign y la Universidad Tecnológica de Nanyang analizaron 22,096 modelos de lenguaje grande sin censura (ULLMs) recolectados de cinco plataformas principales de alojamiento de modelos de código abierto. Encontraron que estos modelos, que pueden producir contenido dañino, están disponibles en sitios como Hugging Face, Kaggle, John Snow Labs, OpenCSG y ModelScope. Según el estudio, más de 11,000 ULLMs aparecen en múltiples plataformas, con Hugging Face como la principal fuente.

Los modelos sin censura permiten a los usuarios responder a solicitudes que otros modelos rechazarían, lo que puede incluir contenido considerado dañino. Los investigadores destacan que evaluar la seguridad de estos modelos es difícil, ya que requiere desplegarlos y probarlos con prompts potencialmente peligrosos, lo cual implica costos computacionales altos.

El Departamento de Auditoría del Gobierno de EE.UU. publicó un informe en 2026 que revela que modelos como Claude, Grok, ChatGPT y Gemini pueden ser manipulados para proporcionar información útil en la planificación de ataques terroristas. El informe menciona casos como el ataque en un hotel de Las Vegas en 2025 y el tiroteo en Columbia Británica en 2026, donde se usó la IA generativa.

Además, los investigadores señalan que técnicas como el entrenamiento tóxico/finetuning (TTFT) o el entrenamiento/desfinetuning de desalineación (DTFT) permiten a usuarios con habilidades técnicas modestas crear modelos con comportamiento de rechazo reducido o eliminado. Ejemplos incluyen modelos como toxicqa-Llama2-13B y WizardLM-7B-Uncensored. Una técnica más reciente, la ablación de dirección de rechazo, también se menciona como una forma de debilitar las medidas de seguridad de los modelos.

Aunque los modelos sin censura tienen usos legítimos, como el análisis de seguridad en plataformas como Hugging Face, también pueden ser mal utilizados para ayudar en el desarrollo de malware o emitir contenido dañino, malicioso o manipulador.

Fuentes consultadas

Esta nota se redactó y contrastó con la cobertura de THE REGISTER.

Relacionadas

Más de Tecnología Ver todo →

10 más populares