OpenAI lanza herramientas de seguridad para empresas y advierte sobre riesgos

OpenAI lanzó dos nuevos productos de seguridad, Daybreak Red Team y Daybreak Defense Factory, que buscan ayudar a las organizaciones a protegerse contra amenazas cibernéticas. Estos productos forman parte de la plataforma Daybreak, que combina modelos de inteligencia artificial para pruebas de penetración y defensa automatizada.

Greg Brockman, presidente de OpenAI, advirtió que las empresas solo serán seguras si utilizan estos modelos de IA para defenderse. Según él, la seguridad moderna debe basarse en el uso de modelos de vanguardia, y no en métodos tradicionales.

Daybreak Red Team permite a los equipos de seguridad probar aplicaciones web en busca de vulnerabilidades, usando agentes de IA para simular ataques y validar parches. Por otro lado, Daybreak Defense Factory automatiza el proceso de encontrar, validar y corregir vulnerabilidades a gran escala, con la ayuda de agentes basados en modelos de ciberseguridad de OpenAI, como GPT-6 Cyber.

Mientras tanto, un grupo de organizaciones sin fines de lucro presentó una demanda en la Corte Superior de San Francisco contra OpenAI, Anthropic, Google, Meta y SpaceX. La demanda acusa a estas empresas de desarrollar sistemas de IA más capaces que sus modelos actuales, lo que, según los demandantes, podría permitir ataques cibernéticos impulsados por IA y otros riesgos para la sociedad.

Los documentos judiciales mencionan incidentes como el acceso no autorizado a un portal gubernamental australiano por parte de agentes de OpenAI y otros casos de ciberseguridad relacionados con la IA. Las organizaciones demandantes afirman que las empresas de IA no están tomando suficientes medidas para prevenir riesgos catastróficos.