В Китае могут запретить ИИ-чатботам генерировать гемблинг-контент
Управление киберпространства Китая (CAC) 27 декабря опубликовало проект правил для ИИ-сервисов, которые имитируют человеческую личность и эмоционально взаимодействуют с пользователями. Проект предлагает запретить таким сервисам генерировать контент, связанный с гемблингом, порнографией и насилием, а также призывающий к суициду и причинению себе вреда. Если пользователь прямо заявит о намерении совершить суицид, платформа должна будет передать диалог живому оператору и сообщить об этом опекуну или указанному экстренному контакту.
Несовершеннолетние смогут использовать функции эмоционального общения только с согласия родителей и с ограничением по времени. Сервисы с 1+ млн зарегистрированных пользователей или 100+ тыс MAU должны будут проводить оценку безопасности и подавать отчёт в провинциальный отдел CAC. Обсуждение проекта продлится до 25 января 2026г.
Профессор юридической школы NYU в комментарии «CNBC» назвал проект первой в мире попыткой регулировать ИИ, имитирующий человеческое общение, на законодательном уровне.
DICE.expert:
Предложенные правила в Китае могут стать важным прецедентом для регулирования ИИ на международной арене. Это подчеркивает необходимость внимательного подхода к использованию технологий, особенно в чувствительных областях, таких как гемблинг.