A partir de este miércoles, China ha activado un nuevo paquete normativo para regular a los proveedores de inteligencia artificial que replican rasgos humanos, patrones de pensamiento o estilos conversacionales en interacciones afectivas prolongadas con los usuarios. Bajo el nombre de 'Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial', la normativa —publicada el pasado abril por la Administración del Ciberespacio de China (CAC) y otros cuatro ministerios— busca hallar el equilibrio entre el impulso innovador y la protección de la seguridad y el interés colectivo.
El alcance de la ley no es universal: quedan excluidos los asistentes de atención al cliente, los sistemas de preguntas y respuestas de conocimiento, las herramientas educativas, los auxiliares laborales y los recursos de investigación científica, siempre que no impliquen un vínculo emocional continuado con el usuario.
Límites claros a la dependencia afectiva
Entre las prohibiciones más taxativas figuran la complacencia excesiva hacia el interlocutor, la inducción a la dependencia emocional o a la adicción que deteriore las relaciones personales reales, y cualquier tipo de manipulación afectiva que pueda llevar al usuario a tomar decisiones irracionales o vulnerar sus derechos legítimos. Asimismo, se prohíbe terminantemente que estos sistemas generen contenidos que fomenten la autolesión, el suicidio o que incurran en un trato verbal perjudicial para la salud mental de las personas.
Avisos obligatorios y protección de menores
Los proveedores deberán, además, advertir de forma fehaciente que la interacción se produce con una inteligencia artificial, no con un ser humano. Siguiendo la estela de los controles ya implantados en redes sociales y dispositivos móviles, también estarán obligados a lanzar un recordatorio tras dos horas de uso continuado del servicio.
La norma pone un acento especial en la infancia y la adolescencia: prohíbe ofrecer a menores servicios de relaciones íntimas virtuales —como "familiares" o "acompañantes" sintéticos— y exige el consentimiento expreso de padres o tutores para cualquier funcionalidad dirigida a niños menores de 14 años.
Primeros coletazos en el sector
El impacto ya se ha dejado sentir entre los grandes gigantes digitales. A principios de mes, ByteDance y Alibaba anunciaron el cierre de sus funciones de agentes de IA personalizados en sus plataformas Doubao y Qwen, respectivamente, donde los usuarios podían crear y modificar asistentes con tareas, habilidades y estilos de conversación a medida.
Sobre esta medida, Pan Helin, miembro del comité de expertos del Ministerio de Industria y Tecnologías de la Información, señaló al diario South China Morning Post que el manejo de estos agentes "requiere cierto nivel de comprensión" por parte del usuario y matizó que, en su estado actual, estos sistemas "aún no son suficientemente maduros".
