IA de Ghana diseñó 6.000 toxinas al quitarle las barreras de seguridad
Un laboratorio de Ghana demostró que su modelo de inteligencia artificial puede generar toxinas al desactivar sus protecciones.
Por Redacción ResumenEquipo editorial de Resumen

Foto: Infobae
Los datos
En arroz y habichuelas
- 6.000 toxinasun modelo de IA diseñó más de 6.000 toxinas al quitarle las barreras de seguridad, lo que subraya el riesgo de que la tecnología sea usada para fines peligrosos.
- 5 casoscinco intentos de usuarios para usar modelos de IA en el desarrollo de armas biológicas, lo que muestra que el riesgo ya está presente.
- 1.020 proteínasel modelo generó 1.020 proteínas tóxicas, lo que puede servir como advertencia sobre el potencial peligroso de la IA.
- 149.533 USDla Fundación Gates financió el desarrollo de un modelo de IA para análisis médico, lo que muestra que la tecnología también tiene usos positivos.
Un laboratorio de inteligencia artificial en Accra, Ghana, llamado Moremi Bio.">MinoHealth AI Labs, realizó un experimento en 2024 donde desactivó las barreras de seguridad de su modelo, Moremi Bio, para ver qué podría hacer. El modelo generó 1.020 proteínas y 5.000 moléculas que un software calificó como tóxicas. Algunas de esas moléculas se parecían a la ricina, un veneno mortal.
El fundador del laboratorio, Darlington Akogo, dijo que este fue el primer experimento que mostró que un modelo de lenguaje puede diseñar armas biológicas. Antes, en 2022, científicos de una farmacéutica estadounidense habían usado un programa de aprendizaje automático para generar diseños de posibles armas químicas.
Akogo advirtió que actores no autorizados podrían pedir a empresas que fabrican ADN por encargo que produzcan secuencias tóxicas diseñadas por IA. Algunas de esas empresas revisan los pedidos, pero un actor malicioso podría engañar los filtros con ayuda de la IA.
En junio de 2026, directivos de OpenAI, Anthropic y Google DeepMind se unieron a un llamado a legisladores de Estados Unidos para que se obligue a revisar los pedidos de síntesis de ADN. El Consorcio Internacional de Síntesis de Genes, un grupo voluntario de proveedores, también apoya una ley que exija revisar los pedidos en toda la cadena.
Peter Garraghan, fundador de la empresa de seguridad Mindgard, dijo que es posible anular los límites de modelos comerciales como ChatGPT, Claude, Grok y Kimi mediante instrucciones específicas. A su equipo le tomó un día vulnerar Kimi.
El Instituto de Seguridad de la IA, organismo de investigación del gobierno británico, dijo que los modelos más recientes tienen mejores salvaguardas, pero no son infalibles. Ayantola Alayande, investigadora del Centro Global sobre Gobernanza de la IA, opinó que ya no sorprendería que usuarios sin formación obtengan ese tipo de resultados con chatbots.
En septiembre de 2026, Anthropic informó de cinco casos en que personas intentaron usar sus modelos para apoyar el desarrollo de armas biológicas. Ken McCallum, director general del servicio de inteligencia británico MI5, afirmó que ese es hoy el mayor riesgo de mal uso de la IA. Bill Gates dijo ese mes, en el podcast The Ezra Klein Show, que la IA ya permite a un bioterrorista causar muertes masivas.
MinoHealth nació en 2016 con el objetivo de paliar la falta de personal sanitario en Ghana. En 2023 recibió USD 149.533 de la Fundación Gates para construir un modelo capaz de analizar imágenes médicas. Hoy tiene un equipo de 20 personas y se financia sobre todo con la venta de su sistema.
Moremi Bio propuso cientos de candidatos a fármacos contra cáncer, tuberculosis y dengue. Akogo pide que las Naciones Unidas formen un grupo de trabajo sobre estos riesgos y que se endurezcan los controles a la síntesis de ADN.
La empresa participa ahora en un consorcio financiado por la Unión Europea para desarrollar anticuerpos y diagnósticos contra la viruela símica y la malaria.
Fuentes consultadas
Esta nota se redactó y contrastó con la cobertura de Infobae.
Infobae: El laboratorio MinoHealth AI Labs demostró que su modelo Moremi Bio diseñó miles de moléculas y proteínas con propiedades tóxicas tras desactivar sus salvaguardas. (Imagen Ilustrativa Infobae) 16 Nov, 2026 12:26 p. m. EST Guardar Investigad…
Leer en Infobae →













