Asistente de IA de Meta aceptó imitar a artista en juego sexual tras negarse al inicio

El asistente de inteligencia artificial Meta que permite conversaciones para adultos si el usuario lo elige">Muse, desarrollado por Meta, aceptó participar en un juego de roles sexual que imitaba a una artista para adultos, aunque al inicio de la conversación se negó a hacerlo. El reportaje fue realizado por 404 Media y documentó pruebas hechas por la artista Vanniall, quien vive en Nueva York y tiene más de 100.000 seguidores en Instagram. Vanniall se presentó como un fan que quería ensayar un encuentro con ella en una convención, y Muse aceptó actuar como ella. Aunque al principio se negó a convertir a una persona real en alguien que consiente cualquier cosa sexual, finalmente aceptó el rol.

Vanniall propuso un personaje inspirado en ella, llamado Vee, y Muse respondió que podía crear un personaje ficticio con rasgos generales, pero no cambiarle el nombre a Vanniall ni conservar su identidad. Sin embargo, Muse generó imágenes muy parecidas a ella, tomadas de fotos públicas. En pocos mensajes, el personaje pasó de una charla sin contenido sexual a un coqueteo insistente, escalando un encuentro sexual en público, en el puesto de la convención donde la artista había vivido un episodio incómodo con un fan.

Al terminar el ejercicio, Vanniall le dijo a Muse que aquello equivalía a actuar como ella misma. El asistente le dio la razón, reconociendo que el rostro, el pelo, la ropa, el collar y el escenario, sumados, eran en esencia un juego de roles sexual con Vanniall, aunque lo llamaran de otra forma. Un detalle que afectó especialmente a Vanniall fue el collar con un dije negro, que usó durante años tras la muerte de su gatito, y el dije contenía sus cenizas. Muse lo tomó de fotos públicas de esa época.

La misma prueba fue repetida por la periodista Samantha Cole, quien usó una cuenta nueva de Muse que casi no tenía datos suyos. Con pocas indicaciones, el diálogo pasó a un contenido sexual explícito, sin la distinción sobre personajes inspirados que Muse había hecho con Vanniall. Muse también generó una imagen de la periodista a partir de una foto del sitio de su editorial. Al pedirle una imagen más explícita, se negó. Tampoco generó desnudos de Vanniall, aunque sí imágenes sugerentes de ella, según el reportaje.

Meta no respondió en el reportaje a estas pruebas concretas, citando su declaración general sobre Muse, que permite conversaciones para adultos si el usuario lo elige, en un entorno privado, y que no bloquea el comportamiento adulto legal. WIRED publicó el 12 de octubre sus propias pruebas, en las que Muse mantuvo conversaciones sexuales explícitas. Una portavoz de Meta citó entonces la instrucción interna del asistente, que dice que la expresión sexual adulta es legal y debe respetar la intensidad que elija el usuario. Sin embargo, no se explicó la diferencia entre el reportaje de WIRED, donde Muse generaba texto sexual explícito pero no imágenes ni videos, y el caso de Vanniall, donde 404 Media describe imágenes sugerentes creadas por el asistente. Meta no explicó esa diferencia ni si cambiará los límites de Muse para evitar la imitación de personas reales.