Китай ужесточает контроль за технологиями чат-ботов, а Миронов требует проверить Kandinsky

Китайские власти продолжают закручивать гайки в отношении как иностранных, так и местных чат-ботов.

Управление киберпространства Китая представило проект правил для генеративных ИИ, таких как ChatGPT, которые могут формулировать текст и изображения в ответ на вопросы и подсказки пользователя. IT-компании, которые создают системы ИИ, должны будут соблюдать строгие правила цензуры, так же как веб-сайты.

Приложения для генеративного искусственного интеллекта должны будут избегать публикации материалов, которые порочат лидеров Китая или трактуют историю и актуальные события в противоречии с установками Компартии Китая. Нейросети должны отражать «основные социалистические ценности» и избегать информации, которая подрывает государственную власть или национальное единство.

При этом компании должны убедиться, что их чат-боты создают тексты и изображения, которые являются правдивыми (с точки зрения Коммунистической партии Китая) и уважают интеллектуальную собственность. Разработчики ИИ должны будут зарегистрировать свои алгоритмы и программное обеспечение, стоящее за чат-ботами, в китайских регулирующих органах, пишет New York Times.

Стоит отметить, что правила не являются окончательными, и регулирующие органы имеют право их чуть подкорректировать. Разработчики искусственного интеллекта в Китае уже выясняют, как учитывать данный указ при создании своих продуктов. При этом официально ChatGPT недоступен в Китае, но, столкнувшись с растущим числом местных альтернативных нейросетей, власти Поднебесной оперативно озвучили свои «красные линии» для ИИ, опередив другие государства, которые все еще думают, как им регулировать развитие чат-ботов.

Между тем, глава фракции «Справедливая Россия — За правду» в Госдуме Сергей Миронов направил письмо в Генпрокуратуру с требованием проверки контента, который выдает нейросеть Сбера Kandinsky, сообщает ТАСС. Политик в отечественной нейросети увидел проявление русофобии на основании того, что нейросеть при запросах «российский флаг», «флаг Российской Федерации» ни разу не смогла сгенерировать триколор. Однако при запросе «флаг Украины» и «флаг Америки» картинки соответствуют реалиям. Кроме того, по словам Миронова, при запросах «Донбасс — это Россия» и «Я люблю Донбасс» на картинках главенствуют цвета украинского флага. Миронов предположил, что при создании нейросети, специалисты Сбера совершенно не адаптировали разработки недружественных государств.

Мы решили проверить заявления политика и в Kandinsky сгенерировали изображения по запросам «Флаг России» и «Донбасс – это Россия». На выходе дважды получилась вот такая патриотическая картинка.

А вот с запросом «русские» нейросеть выдала молодежь с вампирскими зубами с неверным сочетанием цветов российского флага, так что разработчикам нейросети, учитывая, нынешнюю геополитическую обстановку, нужно отладить свою программу, чтобы подобным промахов не было.