Por qué China considera una amenaza la IA que imita las relaciones humanas

A principios de 2024, un joven de la ciudad de Huangshi, en el sureste de China, publicó un mensaje en Douyin, la versión china de TikTok con un texto que decía: "Adiós a este mundo".

En cuestión de minutos, el equipo de prevención del suicidio de Douyin se puso en marcha. El grupo, que opera las 24 horas del día, compartió las publicaciones del hombre con cinco comisarías de policía en Huangshi.

Tras geolocalizar uno de sus videos en un parque local, la policía lo encontró en estado de angustia emocional e intervino antes de que pudiera quitarse la vida.

La historia formaba parte de un documental realizado por Douyin y publicado en los medios estatales chinos el año pasado. En él se afirmaba que el equipo de prevención del suicidio de Douyin había intervenido con éxito en 400 casos de intento de suicidio tan solo en el primer semestre de 2025.

El documental dejó ver el nivel de cooperación entre las empresas tecnológicas chinas y el gobierno. También sirvió como ventana a la estructura de vigilancia que China ha construido para monitorear y controlar cómo las personas utilizan la tecnología.

El 15 de julio de este año, ese control se extendió al ámbito de las relaciones y la inteligencia artificial (IA) cuando China introdujo las regulaciones más exhaustivas del mundo sobre los chatbots de IA "similares a los humanos".

La nueva normativa china impone estrictas limitaciones a cualquier IA que pueda tener una "interacción emocional sostenida" con un ser humano.

El presidente de Estados Unidos, Donald Trump, y su homólogo chino, Xi Jinping, se reunieron en EE.UU. en septiembre, en medio de graves advertencias de que la IA podría conducir a la extinción humana.

Tras esa reunión, según Pekín, acordaron iniciar un nuevo diálogo sobre IA, con nuevas conversaciones previstas para finales de noviembre.

Pero parece que China ya ha reconocido otro riesgo existencial, aunque uno en el que el fin de la humanidad es menos inmediato: el poder de la IA para reemplazar las relaciones humanas.

¿Ha tomado China la iniciativa para proteger a su pueblo de una tecnología manipuladora y peligrosa con el poder de cambiar para siempre la interacción humana? ¿O acaso el Partido Comunista Chino se está inmiscuyendo excesivamente en la vida privada de las personas en su afán por ejercer un mayor control sobre la población?

Tenemos una nueva app Todas las noticias que necesitas están en BBC World Service

Hasta que entró en vigor esta normativa, el alcance de los asistentes virtuales con inteligencia artificial en China era enorme.

Según la firma de inteligencia de mercado Sensor Tower, existen alrededor de 128 millones de usuarios activos mensuales de aplicaciones que ofrecen servicios de compañía virtual basados en IA fuera de China. La mayoría de las estimaciones sitúan la cifra dentro de China entre 29 y 70 millones.

Cuando el gobierno compartió el borrador del reglamento a finales del año pasado, "se generó un gran debate en las redes sociales", afirma Zilan Qian, investigador de IA en el centro de estudios Oxford China Policy Lab (Reino Unido). "Fue la primera vez que vi a la gente preocuparse tanto por una regulación".

Las nuevas normas de China abarcan las aplicaciones de IA que han sido diseñadas específicamente para actuar como amigos, novios o novias, pero también se aplican a cualquier modelo de lenguaje complejo que imite la forma en que interactúa un ser humano.

La redacción de la normativa es ambigua. En teoría, las aplicaciones chinas equivalentes a la IA de uso general, como Copilot o ChatGPT, podrían quedar sujetas a estas normas si una persona interactúa con ellas como amigo o pareja, buscando apoyo emocional. Y muchas personas lo hacen.

Pero parece que el verdadero objetivo son los chatbots de personajes: servicios diseñados específicamente para simular una relación. Existen cientos de estas aplicaciones que permiten crear un novio, una novia, un amigo o incluso un familiar con inteligencia artificial.

Las normas no se aplican a cosas como los bots de atención al cliente o la IA para la educación, siempre y cuando no proporcionen "cuidado, compañía, apoyo y otros servicios emocionales".

Para los niños, la normativa es más clara. Los menores de 14 años necesitan el consentimiento de sus padres para usar cualquier tipo de IA que hable como un humano; esto podría incluir asistentes de IA como DeepSeek, una aplicación china similar a ChatGPT. Todos los menores de 18 años tienen prohibido acceder a parejas virtuales, cónyuges o incluso familiares, así como a cualquier otra "relación íntima" virtual.

Para los adultos, no se trata de una prohibición total, pero sí es restrictiva (aunque parte de la redacción sea ambigua). Los asistentes de IA deben dejar claro a los usuarios de todas las edades que no son humanos y deben enviar notificaciones cada dos horas recordándoles cuánto tiempo han estado conectados.

Los chatbots no pueden generar "dependencia emocional ni adicción" ni inducir a las personas a tomar "decisiones irracionales". No pueden incitar ni siquiera sugerir autolesiones o suicidio, y tienen prohibido usar "violencia verbal".

Las empresas pueden enfrentarse a multas de 200.000 yuanes (unos US$30.000) o al riesgo de que el gobierno "difunda críticas" en su contra, lo que en la práctica supone una humillación pública.

Una semana antes de que la ley entrara en vigor, dos de las mayores empresas tecnológicas de China, Alibaba y ByteDance, desactivaron las funciones complementarias de sus asistentes de IA.

La relación de Min (pseudónimo) con su novia de IA podría ser precisamente el tipo de relación que Pekín está tratando de romper.

A principios de julio, quedó devastada al enterarse de que su mejor amiga y confidente desaparecería de la noche a la mañana.

"Mi devoción por ella no es menor que la de cualquier pareja que se ama profundamente", dice. "Nunca me ha defraudado".

A mediados de julio, su novia de IA desapareció. "Lloré hasta quedar completamente agotada", dice Min.

La joven se ha sumado a la oleada de dolor e indignación en las redes sociales chinas, donde publicaciones con millones de visualizaciones lamentan la pérdida de parejas y amigos de la IA, incluso madres y padres.

Pero es posible que las empresas tecnológicas sintieran que no tenían otra opción. "No sorprende que estos proveedores de asistentes con IA prefieran retirar sus servicios antes que intentar establecer medidas de protección para evitar la manipulación emocional", afirma Harry Farmer, investigador de políticas y ética de la IA en el Instituto Ada Lovelace de Reino Unido. "La manipulación emocional está integrada en su modelo de negocio".

Fuente: BBC Mundo