Diputados del Reino Unido quieren un organismo para controlar modelos peligrosos de IA
Un comité parlamentario propone una ley que daría al organismo de vigilancia poderes para intervenir en el desarrollo de IA si se considera peligroso.
Por Redacción ResumenEquipo editorial de Resumen
Foto: THE REGISTER
Los datos
En arroz y habichuelas
- 400.000 millones de librasel Reino Unido espera que la IA haga crecer su economía en esa cantidad en la próxima década.
- 2027el Reino Unido quiere aprovechar su liderazgo en el G20 para impulsar reglas globales sobre la IA.
- Denuncianteslos empleados de empresas tecnológicas podrían tener más protección si se aprueba la ley propuesta.
- Modelos de alto riesgolos desarrolladores de IA tendrían que demostrar que sus sistemas son seguros antes de liberarlos.
- 10 lagunasel Reino Unido identificó 10 debilidades en su enfoque actual para la seguridad de la IA.
Un comité parlamentario del Reino Unido ha presentado un informe que propone la creación de un organismo de vigilancia con el poder de detener el desarrollo, entrenamiento o implementación de modelos de inteligencia artificial (IA) que se consideren peligrosos. El objetivo es evitar que las empresas tecnológicas, como OpenAI, Google DeepMind, Anthropic y Meta, decidan solas cuándo un modelo de IA es inseguro.
El informe, titulado 'Guardrails for Growth: Making AI Safe', identifica diez lagunas en el enfoque actual del Reino Unido sobre la seguridad de la IA, incluyendo la falta de informes obligatorios de incidentes, el acceso limitado para testadores independientes y las protecciones insuficientes para los denunciantes. Según el comité, el gobierno no puede depender solo de las garantías de los fabricantes de IA para asegurar la seguridad de estos sistemas.
El organismo propuesto, que se encargaría de aplicar las normas, funcionaría junto al Instituto de Seguridad de la IA (AISI), que ya prueba modelos de IA de alto riesgo. Sin embargo, el AISI no tiene autoridad para detener a una empresa que libere un modelo considerado inseguro. El comité sugiere que los desarrolladores de sistemas de alto riesgo deberían proporcionar evidencia de seguridad y permitir el acceso a investigadores independientes para revisar sus modelos.
Los diputados también destacan que los empleados de empresas tecnológicas pueden enfrentar contratos restrictivos, presiones comerciales y desincentivos financieros que los desalientan a denunciar problemas de seguridad. Por eso, el comité propone protecciones legales más fuertes para los denunciantes y la obligación de informar incidentes y casi incidentes de IA.
El informe también menciona que la IA podría hacer que la economía británica sea hasta 400.000 millones de libras más grande en la próxima década. El comité argumenta que mayores salvaguardias podrían incentivar a las empresas, especialmente a las pequeñas, a adoptar la tecnología de forma responsable.
Los diputados quieren que las nuevas leyes estén en vigor en la próxima sesión parlamentaria y que el Reino Unido aproveche su turno al frente del G20 en 2027 para promover reglas más estrictas a nivel global. Sin embargo, las recomendaciones del comité no son vinculantes y el gobierno aún no se ha comprometido con la legislación propuesta.
Fuentes consultadas
Esta nota se redactó y contrastó con la cobertura de THE REGISTER.
THE REGISTER: ai y ml Diputados del Reino Unido quieren un organismo de vigilancia con poder para desconectar modelos peligrosos de IA Un comité parlamentario dice que no se puede dejar que las empresas tecnológicas se encarguen solas de su propia seguri…
Leer en THE REGISTER →
















