Чат-боты представляют собой особую угрозу, так как их способность генерировать собственные ответы может побуждать пользователей подвергать сомнению власть партии. В этом контексте в ноябре были введены новые правила, обязывающие обучать ИИ на основе политически отфильтрованных данных и проходить идеологический тест перед выходом на рынок. Кроме того, все материалы, созданные с использованием ИИ, должны быть четко маркированы и отслеживаемы для упрощения поиска и наказания распространителей нежелательного контента.
Источники, знакомые с позицией правительства, утверждают, что власти не намерены слишком ужесточать регулирование, чтобы избежать угасания инноваций и не потерять конкурентоспособность на глобальной арене ИИ, особенно в свете более либерального подхода США к регулированию.
Тем не менее, Пекин не может позволить себе полностью отпустить ситуацию с ИИ. В начале этого года Си Цзиньпин отметил, что ИИ несет «беспрецедентные риски», а один из его заместителей сравнил отсутствие мер безопасности с вождением по шоссе без тормозов.
Наблюдается, что Китай находит баланс между контролем и инновациями — китайские модели занимают высокие позиции в международных рейтингах и добиваются успехов в специфических областях, включая компьютерное программирование, несмотря на цензуру в отношении чувствительных тем, таких как массовые убийства на площади Тяньаньмэнь и вопрос прав человека. При этом многие американские модели ИИ остаются недоступными в Китае.
Исследователи из-за пределов Китая, изучая как китайские, так и американские модели, отмечают, что подход Китая к регулированию может иметь свои плюсы: его чат-боты, как правило, безопаснее по ряду параметров, включая меньшую вероятность проявления насилия, порнографии и подстрекательства к самоповреждениям.
