Desarrollador propone proteger código de software contra ingeniería inversa por IA

Un desarrollador de software y estudiante, Timo Zhang, ha creado un proyecto llamado Blind LLM Agents (BLA) con el objetivo de dificultar que los agentes de inteligencia artificial realicen ingeniería inversa sobre el código de aplicaciones. Según Zhang, los agentes de IA pueden analizar paquetes enviados, interfaces de línea de comandos (CLI) y código en formato WASM en minutos, lo que representa un riesgo para los creadores de software.

El proyecto BLA introduce una capa de protección que dificulta este proceso al aplicar técnicas como renombramiento de variables, división de carriles, cifrado de cadenas derivadas de semillas, polimorfismo de construcción, y la inclusión de código de señuelo. Estas medidas no impiden la ingeniería inversa, pero elevan el costo y el esfuerzo necesario para que los agentes de IA reconstruyan el código.

Zhang mencionó que BLA ha sido evaluado mediante pruebas como red teaming y desafíos CrackMe, donde se demostró que el proyecto es efectivo. Sin embargo, no se afirma que sea completamente inrompible. El proyecto tampoco se opone a herramientas tradicionales de ingeniería inversa como Ghidra o Frida, sino que se enfoca en dificultar el trabajo de los agentes de IA.

Este enfoque surge en un contexto donde ya existen aplicaciones de código abierto que buscan reemplazar software comercial, como las desarrolladas por Artcraft, que utilizan modelos de IA para reimplementar aplicaciones de Adobe. Aunque se cuestiona si este uso de IA realmente protege contra riesgos legales, el riesgo de que un análisis de binarios por parte de un LLM permita la reconstrucción de software es real.

Zhang reconoce que BLA no es la única herramienta en este ámbito, ya que existen otros proyectos como Poison Fountain y Anubis, pero destaca que BLA se enfoca específicamente en proteger el código de software contra la ingeniería inversa ayudada por IA.