Hamburgo usa chatbot de IA para responder reclamos de privacidad

La autoridad de protección de datos de Hamburgo, Alemania, introdujo un chatbot basado en inteligencia artificial para ayudar a redactar respuestas a reclamos de privacidad. El sistema, llamado LLMoin, se construyó sobre el modelo GPT-5.6 Terra de OpenAI y se aloja en la nube de Microsoft Azure. Según un estudio de caso del 5 de noviembre, la autoridad recibió 4.220 reclamos en 2025, un aumento del 62% respecto al año anterior. La mayoría de las quejas se originaron en redes sociales y sitios de citas, especialmente Facebook e Instagram, por el uso de datos para entrenar su IA y su modelo de pago o consentimiento.

El chatbot no toma decisiones ni hace valoraciones jurídicas. Solo ayuda a redactar y ordenar lo que los empleados ya resolvieron. Los funcionarios deben revisar cada borrador generado por el chatbot antes de enviar una respuesta a los ciudadanos. Además, el sistema aplica filtros de salida que eliminan contenido ofensivo, sexual, violento o relacionado con autolesión, y evita revelar datos personales no aportados por el usuario.

El uso del chatbot se limita a ciertos tipos de reclamos, y no se aplica a casos que requieran alta protección, como quejas sobre consultorios de psicoterapia o procesos penales. La autoridad no usa el sistema para redactar el aviso de derechos de apelación, ya que debe reproducirse palabra por palabra. Según el estudio, la ley no exige indicar en cada carta que fue redactada en parte con IA, pero la autoridad informa del uso en su política de privacidad.

Para 2027, la ciudad planea migrar el sistema a un modelo alojado en servidores propios de Dataport, el proveedor informático de la administración, con el objetivo de manejar datos de mayor confidencialidad. El regulador considera que las medidas de seguridad implementadas, como los filtros de salida y las pruebas de ataque simulado, son suficientes para garantizar la privacidad de los datos.

El uso del chatbot se enmarca en un contexto de aumento en el número de reclamos, atribuido al creciente uso de herramientas de IA por parte de los ciudadanos, que facilitan informarse sobre sus derechos y presentar reclamos. La autoridad reconoce que el sistema produce una estandarización notable del estilo con que el organismo se presenta al público, lo que puede afectar su imagen institucional.