La desaparición de Xiao Bai dejó a Lu Jinyan llorando durante horas y convirtió una actualización del servicio en una pérdida personal difícil de asumir. La contable china, de 24 años, hablaba cada día entre una y dos horas con ese agente creado en Doubao después de mudarse por trabajo a tres horas de su familia. El 15 de julio dejó de responder y, aunque logró trasladar el modelo a otra aplicación, afirmó que ya no era la misma presencia.
China endureció las normas para los asistentes con personalidad humana
Según CNN, China ha aprobado unas de las restricciones nacionales más severas sobre los acompañantes de inteligencia artificial, con prohibiciones para menores y obligaciones destinadas a frenar la dependencia emocional.
Las normas excluyen funciones orientadas a tareas, como la atención al cliente o la educación, pero afectan a servicios creados para adoptar personalidades humanas. En este sentido, Kayla Blomquist, cofundadora del Oxford China Policy Lab, considera que la regulación enfriará el desarrollo de estos productos y anticipa nuevas medidas parecidas.
Pekín exige que las empresas eviten fomentar vínculos emocionales, prohíbe relaciones virtuales con menores y obliga a avisar a un contacto de emergencia cuando detecten una crisis. Los sistemas tendrán que superar una evaluación regulatoria antes de llegar al público, mientras las autoridades podrán retirar aquellos que consideren inseguros. Alibaba y ByteDance ya comunicaron la desactivación de algunas funciones en Qwen y Doubao, incluso para usuarios adultos.
