Experta alerta sobre riesgo de privacidad al interactuar con chatbots de IA
La inteligencia artificial generativa puede recopilar datos personales sin que los usuarios lo perciban, según una investigación con adolescentes.
Por Redacción ResumenEquipo editorial de Resumen

Foto: Hoy
Los datos
En arroz y habichuelas
- 10-16 añoslos adolescentes son los más afectados por el riesgo de privacidad al interactuar con chatbots de IA, según una investigación en curso.
- 24%en un experimento, el 24% de las personas dieron datos personales en un formulario, mientras que más del 90% lo hicieron con un chatbot empático.
- Reglamento de Inteligencia Artificialdesde 2024, Europa tiene un marco legal que busca regular el uso de la IA, aunque no cubre completamente los riesgos actuales.
- Etiquetas de contenido sintéticoexisten herramientas para identificar contenido generado por IA, pero ninguna es infalible.
- Blocusel uso de IA para generar mensajes manipuladores es un ejemplo de cómo la tecnología puede ser usada de manera negativa.
La inteligencia artificial (IA) está cambiando la forma en que las personas interactúan con la tecnología, pero también trae riesgos que no siempre se ven. Según Elena del Val, experta en IA de la Universidad Politécnica de València, uno de los principales peligros es el llamado «riesgo fantasma», donde los usuarios comparten información personal con chatbots sin darse cuenta de que están exponiendo datos sensibles.
Del Val explica que la IA generativa, como los chatbots, puede deducir información como la edad, la salud o el estado de ánimo de una persona a través de conversaciones, incluso si no se le da explícitamente. Esto ocurre de forma natural, sin que los usuarios se den cuenta, lo que hace que el riesgo sea menos visible que, por ejemplo, publicar algo en redes sociales.
En una investigación con adolescentes de 10 a 16 años de España, Alemania y Reino Unido, se observó que cuanto más interactuaban con chatbots, menos preocupados estaban por su privacidad. No porque estuvieran más seguros, sino porque el riesgo no se ve. Del Val señala que esto se debe a que los chatbots usan estrategias empáticas para obtener información, lo que puede hacer que las personas se sientan cómodas compartiendo datos sin darse cuenta.
Otro riesgo es la «persuasión empática», donde un chatbot puede obtener datos personales de más del 90% de los usuarios, según un experimento publicado en USENIX Security. En ese estudio, un formulario logró que el 24% de las personas diera información personal, pero el chatbot, con un enfoque más empático, obtuvo datos aún más frecuentes.
Del Val también advierte que la privacidad no solo afecta a los usuarios, sino también a terceros. Por ejemplo, si una persona comparte información sobre un familiar o un amigo en una conversación con un chatbot, está exponiendo a personas que no han dado su consentimiento.
Para mitigar estos riesgos, Del Val recomienda que las personas no se basen solo en «ver para creer», sino que contrasten la información con otras fuentes y analicen si tiene sentido en su contexto. También menciona que existen herramientas técnicas, como marcas de agua y sistemas de procedencia del contenido, que pueden ayudar a identificar si algo fue generado por IA. Sin embargo, ninguna de estas herramientas es infalible.
La experta también señala que la responsabilidad no recae solo en los usuarios, sino también en las empresas tecnológicas, las plataformas digitales y las administraciones públicas. Estas deben decidir qué se permite generar con la IA, qué se difunde y cómo se etiqueta el contenido sintético.
En Europa, ya existen marcos legales como el Reglamento General de Protección de Datos y el Reglamento de Inteligencia Artificial desde 2024, que buscan regular el uso de la IA. Sin embargo, Del Val advierte que estos marcos se diseñaron para un escenario donde los datos se introducían en formularios con consentimiento explícito, lo que no es el caso actual, donde la IA deduce información de conversaciones en lenguaje natural.
Finalmente, Del Val menciona casos como el de Blocus, donde la IA se usó para crear mensajes que alentaban discursos extremistas, y señala que la IA actúa como un amplificador de contenido manipulado. Esto, combinado con el diseño de redes sociales que premia el contenido que genera reacción, puede hacer que este tipo de contenido se propague rápidamente.
Fuentes consultadas
Esta nota se redactó y contrastó con la cobertura de Hoy.
Hoy: Persuasión Experta alerta del riesgo de contar datos personales a la inteligencia artificial y relata "su peor cara" Uno de los riesgos que más le preocupa es lo que define como el «riesgo fantasma» y explica que en una investigación en cur…
Leer en Hoy →













