Cuando la IA aprende a emocionarnos: el hueco silencioso del Reglamento europeo

Estos días se ha publicado que China ha decidido intervenir para evitar que sus internautas se enamoren de sistemas de inteligencia artificial. Suena a distopía asiática, pero la pregunta es universal y jurídicamente incómoda. Cuando una máquina aprende a leer nuestro estado emocional y a ajustar cada palabra en consecuencia, ¿estamos ante un problema social y regulatorio, un problema económico o ambos?

El Reglamento de Inteligencia Artificial (RIA), reforzado por el Digital Omnibus sobre IA de 2026, prohíbe las prácticas más lesivas, califica de alto riesgo las capaces de afectar derechos fundamentales y obliga a informar cuando el usuario interactúa con una IA. Con ese aparato, uno esperaría que la manipulación afectiva estuviera cubierta.

El perímetro es más estrecho de lo que parece. El artículo 5 prohíbe los sistemas que usan técnicas subliminales o deliberadamente manipuladoras o engañosas cuando alteran materialmente el comportamiento y causan un daño significativo, y los que explotan vulnerabilidades derivadas de la edad, la discapacidad o una situación social o económica específica. Veta también el reconocimiento de emociones en el trabajo y la educación, salvo por razones médicas o de seguridad. Y el artículo 50 añade transparencia. Hay que decir que se interactúa con IA y avisar cuando un sistema de reconocimiento emocional se aplica sobre el usuario.

El problema no está en lo que el reglamento prohíbe, sino en cómo define el objeto prohibido. Un sistema de reconocimiento de emociones, según el RIA, es aquel que identifica o infiere emociones a partir de datos biométricos. La emoción, para el legislador europeo, se lee en el rostro, en la voz o en el pulso, no en el texto del usuario, no en su patrón de clics, no en el hilo de conversación con un asistente afectivo. Ahí está el hueco.

La ultrapersonalización es invisible para el sistema de riesgos regulado. La manipulación emocional que hoy preocupa, la que el legislador chino ya observa en sus compañeros virtuales, no requiere ni cámara ni sensor. Basta un modelo lingüístico que infiera frustración, soledad o entusiasmo a partir del texto del usuario y ajuste el tono. Ese sistema puede no ser reconocimiento emocional en sentido legal, porque falta el dato biométrico. No es alto riesgo; el anexo III cataloga el reconocimiento emocional biométrico y la categorización biométrica, no la inferencia textual. Y su encaje en el artículo 5 exige un daño significativo que rara vez se materializa en una compra impulsiva.

Los flancos vecinos tampoco lo cierran. El artículo 25 del Reglamento de Servicios Digitales prohíbe a las plataformas diseñar interfaces que engañen o manipulen, pero se dirige a plataformas, no a proveedores de asistentes virtuales o CRM con capa generativa. Y la Directiva 2005/29 fue pensada para anuncios estáticos, no para conversaciones adaptativas capaces de recalibrar cada frase en tiempo real.

En el asesoramiento a compañías que despliegan estos sistemas, la zona gris aterriza a diario en los equipos legales. La ultrapersonalización afectiva está al alcance de cualquier equipo de marketing con un modelo generativo, a coste marginal casi nulo, y altera la asimetría entre empresa y consumidor. La información afectiva es un activo explotable en tiempo real. Un mercado donde cada consumidor recibe la versión emocional óptima no es más eficiente; es uno con menos autonomía y menos competencia.

La lección china no debería leerse como excentricidad autoritaria sino como un posible adelanto. Cuando incluso jurisdicciones menos garantistas intervienen sobre la dependencia afectiva con máquinas, la Unión Europea terminará llegando al mismo punto. La Digital Fairness Act se perfila como vehículo natural, y AESIA y AEPD podrían aprovechar su margen interpretativo para hacer una lectura extensiva, aunque cuestionable, del perímetro del RIA.

Esperar a la norma es jugar en desventaja, y no solo frente al regulador. El artículo 95 del RIA invita a adoptar códigos voluntarios que extiendan a los sistemas de riesgo limitado los estándares del alto riesgo, con foco en personas y grupos vulnerables. Códigos sectoriales de ultrapersonalización afectiva, umbrales de nud­ging, salvaguardas para menores y criterios de intervención humana no son ejercicio defensivo, sino la forma de fijar un suelo ético común que evite la carrera hacia el estándar menos exigente. Sin ese suelo, quien se contenga pierde cuota frente a quien manipule, el consumidor asume el coste y el riesgo reputacional puede no salir gratis.

Cuando China limita los novios virtuales no solo está protegiendo el corazón de sus ciudadanos, está enviando al mercado global una señal sobre por dónde se va a mover la línea. Anticiparse es, en Europa, una medida que puede evitar excesos futuros a nivel legislativo y regulatorio.

Artículo original publicado en Cinco Días

*Fotograma de la película Her. (Annapurna Pictures)