Китай вводит запрет на ИИ-сервисы, создающие эмоциональную привязанность. Doubao и Qwen отключают пользовательских агентов с 10–15 июля.
Китай запретил ИИ-компаньонов с эмоциональной привязанностью: Doubao и Qwen отключают агентов
Крупнейшие китайские ИИ-сервисы Doubao (ByteDance) и Qwen (Alibaba) начали отключать пользовательские функции создания собственных ИИ-агентов. Это происходит перед вступлением в силу новых правил Китая для сервисов с человекоподобным взаимодействием. Ограничения направлены на чат-ботов, которые поддерживают длительные эмоциональные связи с пользователями. Рабочие и образовательные инструменты остаются разрешёнными.
Что именно запрещается
Новые «Временные меры для сервисов ИИ с антропоморфным взаимодействием» вступают в силу 15 июля. Документ регулирует сервисы, которые имитируют человеческие черты личности, модели мышления и стиль общения для продолжительного эмоционального взаимодействия. При этом ограничения не распространяются на большинство практических применений ИИ. Сервисы поддержки клиентов, системы поиска знаний, рабочие ассистенты, образовательные и исследовательские инструменты могут продолжать работу, если они не создают устойчивой эмоциональной привязанности.
Как реагируют компании
Doubao сообщил пользователям, что функция создания агентов будет отключена 15 июля. После 15 октября данные нельзя будет восстановить. Qwen объявил о более раннем отключении – пользовательские агенты перестанут работать 10 июля, а остальные возможности будут закрыты к 15 июля. Пользователи потеряют доступ к настройкам персонажей и истории разговоров.
Аналогичную функцию ранее отключила Tencent в своём ассистенте Yuanbao. Причиной стали требования новых нормативных правил.
Почему Китай вводит ограничения
Китайские власти объясняют новые требования рисками. Среди них – утечки персональных данных. Вред для психического здоровья, зависимость от цифровых собеседников. Также опасность распространения опасного контента. При этом Пекин не отказывается от развития ИИ-агентов как технологии. В мае власти выпустили рекомендации по их развитию. В июне утвердили национальные стандарты, регулирующие идентификацию, поиск, взаимодействие и использование инструментов такими системами.
Реакция пользователей
Многие пользователи выражают недовольство. Они не могут сохранить историю общения с цифровыми персонажами. Для некоторых такие боты были источником эмоциональной поддержки. Однако регулятор считает, что риски перевешивают пользу.
Часто задаваемые вопросы (FAQ)
1. Затронут ли ограничения уже созданные агенты?
Да, они будут отключены. Данные не сохранятся.
2. Можно ли будет использовать ИИ-агентов в образовательных целях?
Да, образовательные инструменты не подпадают под запрет, если они не создают эмоциональной привязанности.
3. Будут ли аналогичные ограничения в других странах?
Возможно, другие страны последуют примеру Китая, особенно в вопросах защиты данных.
Заключение
Китайское регулирование разделяет ИИ-агентов на полезные и опасные. Системы для повышения производительности получают поддержку. Виртуальные собеседники, создающие подобие социальных отношений, сталкиваются с ограничениями. Это важный прецедент для всего мира. Он показывает, что государства готовы вмешиваться в развитие ИИ для защиты пользователей.
Подпишитесь на новости, чтобы первыми узнавать о регуляторных изменениях в сфере ИИ.
Об авторе
