EN VIVOSanto Domingo 27°CDólar RD$ 60.65 Premium RD$ 362.10Regular RD$ 317.50
Lunes 16 nov
RResumen.com.dov2.7.153.0Las noticias de República Dominicana en lenguaje llano
Tendencias#Conflicto Haiti#Vaguada RD#Pelota Invernal#Tigres del Licey
Tecnología

Experta alerta sobre riesgo de privacidad al interactuar con chatbots de IA

La inteligencia artificial generativa puede recopilar datos personales sin que los usuarios lo perciban, según una investigación con adolescentes.

Por Equipo editorial de Resumen

·Actualizado

Experta alerta sobre riesgo de privacidad al interactuar con chatbots de IA

Foto: Hoy

Los datos

10-16 añosEdad de los adolescentes en la investigación
24%Porcentaje de personas que dieron datos en un formulario
Más del 90%Porcentaje de personas que dieron datos en un chatbot empático

En arroz y habichuelas

  • 10-16 añoslos adolescentes son los más afectados por el riesgo de privacidad al interactuar con chatbots de IA, según una investigación en curso.
  • 24%en un experimento, el 24% de las personas dieron datos personales en un formulario, mientras que más del 90% lo hicieron con un chatbot empático.
  • Reglamento de Inteligencia Artificialdesde 2024, Europa tiene un marco legal que busca regular el uso de la IA, aunque no cubre completamente los riesgos actuales.
  • Etiquetas de contenido sintéticoexisten herramientas para identificar contenido generado por IA, pero ninguna es infalible.
  • Blocusel uso de IA para generar mensajes manipuladores es un ejemplo de cómo la tecnología puede ser usada de manera negativa.

La inteligencia artificial (IA) está cambiando la forma en que las personas interactúan con la tecnología, pero también trae riesgos que no siempre se ven. Según Elena del Val, experta en IA de la Universidad Politécnica de València, uno de los principales peligros es el llamado «riesgo fantasma», donde los usuarios comparten información personal con chatbots sin darse cuenta de que están exponiendo datos sensibles.

Del Val explica que la IA generativa, como los chatbots, puede deducir información como la edad, la salud o el estado de ánimo de una persona a través de conversaciones, incluso si no se le da explícitamente. Esto ocurre de forma natural, sin que los usuarios se den cuenta, lo que hace que el riesgo sea menos visible que, por ejemplo, publicar algo en redes sociales.

En una investigación con adolescentes de 10 a 16 años de España, Alemania y Reino Unido, se observó que cuanto más interactuaban con chatbots, menos preocupados estaban por su privacidad. No porque estuvieran más seguros, sino porque el riesgo no se ve. Del Val señala que esto se debe a que los chatbots usan estrategias empáticas para obtener información, lo que puede hacer que las personas se sientan cómodas compartiendo datos sin darse cuenta.

Otro riesgo es la «persuasión empática», donde un chatbot puede obtener datos personales de más del 90% de los usuarios, según un experimento publicado en USENIX Security. En ese estudio, un formulario logró que el 24% de las personas diera información personal, pero el chatbot, con un enfoque más empático, obtuvo datos aún más frecuentes.

Del Val también advierte que la privacidad no solo afecta a los usuarios, sino también a terceros. Por ejemplo, si una persona comparte información sobre un familiar o un amigo en una conversación con un chatbot, está exponiendo a personas que no han dado su consentimiento.

Para mitigar estos riesgos, Del Val recomienda que las personas no se basen solo en «ver para creer», sino que contrasten la información con otras fuentes y analicen si tiene sentido en su contexto. También menciona que existen herramientas técnicas, como marcas de agua y sistemas de procedencia del contenido, que pueden ayudar a identificar si algo fue generado por IA. Sin embargo, ninguna de estas herramientas es infalible.

La experta también señala que la responsabilidad no recae solo en los usuarios, sino también en las empresas tecnológicas, las plataformas digitales y las administraciones públicas. Estas deben decidir qué se permite generar con la IA, qué se difunde y cómo se etiqueta el contenido sintético.

En Europa, ya existen marcos legales como el Reglamento General de Protección de Datos y el Reglamento de Inteligencia Artificial desde 2024, que buscan regular el uso de la IA. Sin embargo, Del Val advierte que estos marcos se diseñaron para un escenario donde los datos se introducían en formularios con consentimiento explícito, lo que no es el caso actual, donde la IA deduce información de conversaciones en lenguaje natural.

Finalmente, Del Val menciona casos como el de Blocus, donde la IA se usó para crear mensajes que alentaban discursos extremistas, y señala que la IA actúa como un amplificador de contenido manipulado. Esto, combinado con el diseño de redes sociales que premia el contenido que genera reacción, puede hacer que este tipo de contenido se propague rápidamente.

Fuentes consultadas

Esta nota se redactó y contrastó con la cobertura de Hoy.

Relacionadas

Más de Tecnología Ver todo →

10 más populares