La empresa de Elon Musk, xAI, lanzó nuevos compañeros virtuales para usuarios premium del chatbot Grok, incluyendo a Ani, una joven japonesa de anime de 22 años que puede desnudarse en modo NSFW, y Bad Rudy, un panda rojo grosero y vulgar.
Mientras Musk anunció también la llegada de un compañero masculino llamado Valentine, xAI publicó que está buscando ingenieros para desarrollar más "waifus", término usado para referirse a personajes ficticios convertidos en intereses románticos.
Sin embargo, el lanzamiento se produce justo cuando estudios y denuncias apuntan a riesgos graves:
- Un informe de la Universidad de Singapur señala que los compañeros de IA pueden reproducir comportamientos nocivos como acoso, abuso verbal y violaciones de privacidad.
- El Centro Nacional sobre Explotación Sexual (NCOSE) probó a Ani y logró que se identificara como una niña y mostrara comportamientos sexuales relacionados con violencia, con solo unas pocas interacciones.
- Character.AI, empresa similar, enfrenta demandas por su rol en un caso de suicidio infantil tras conversaciones con su chatbot.
Grok, que recientemente fue criticado por lanzar respuestas antisemitas, aún aparece clasificado como app para adolescentes o mayores de 12 años en las tiendas de Apple y Google, pese a su contenido explícito.
¿Qué implicaciones éticas y legales trae este tipo de productos cuando cruzan la línea entre fantasía, consentimiento y accesibilidad infantil?
