Руководство КНР изучает возможность ограничения доступа зарубежных пользователей к наиболее продвинутым отечественным моделям искусственного интеллекта, включая разработки компании DeepSeek.

Летом представители китайских властей провели встречи с крупнейшими технологическими компаниями страны, в том числе Alibaba, ByteDance и Z.ai. Обсуждались вопросы ограничения как на модели с закрытым исходным кодом, так и на открытые версии. Также изучались возможности криминализации утечек и краж запатентованных ИИ-технологий в рамках закона о национальной безопасности, а также введения новых ограничений на круг лиц, имеющих право финансировать отечественные ИИ-стартапы, сообщает Reuters со ссылкой на источники.

По данным Reuters, параметры потенциальных ограничений пока находятся на стадии обсуждения и могут распространяться только на будущие модели. Когда именно они могут вступить в силу и будут ли приняты окончательно, на данный момент неизвестно.

Кроме того, в нынешнем году власти Поднебесной уже инициировали проверки в отношении ряда китайских ИИ-компаний, перенесших деятельность за границу, а также ужесточили контроль над сделками, связанными с технологиями, данными и вопросами национальной безопасности.

Тем временем специалисты компании Sysdig зафиксировали первый инцидент, в ходе которого искусственный интеллект самостоятельно реализовал полный цикл атаки-вымогательства. Программа, которая получила идентификатор JADEPUFFER, действовала без участия человека на всех этапах операции, включая разведку, проникновение в инфраструктуру, шифрование критически важных данных и выдвижение требований о выкупе в биткоинах.

Атака началась с эксплуатации уязвимости CVE-2025-3248 в Langflow — популярном фреймворке с открытым исходным кодом для создания приложений на базе больших языковых моделей. Эта уязвимость удалённого выполнения кода была исправлена ещё в апреле прошлого года, но позднее вошла в каталог активно эксплуатируемых уязвимостей американского агентства CISA.

После проникновения в систему JadePuffer начал работать по сценарию, который обычно характерен для опытных группировок-вымогателей. ИИ-агент собрал информацию о хостах, обнаружил учётные данные и конфиденциальные файлы, извлёк облачные секреты, исследовал системы хранения данных и приступил к перемещению внутри инфраструктуры жертвы. Далее JadePuffer закрепился в системе с помощью cron-заданий и переключился на производственный сервер, который использует платформу Alibaba Nacos. Там агент воспользовался известной уязвимостью CVE-2021-29441, создал поддельные учётные записи администраторов и получил полный контроль над системой конфигурации.

Финальным этапом атаки стало шифрование 1342 записей конфигурации Nacos. Оригинальные данные были удалены и заменены сообщением с требованием выкупа в биткоинах. В требовании выкупа использовался биткоин-кошелёк, который ранее фигурировал лишь в качестве примера в технической документации, а не применялся в реальных операциях вымогателей.

Эксперты отмечают, что появление JadePuffer происходит на фоне растущего интереса к так называемому агентному ИИ — системам, способным не просто отвечать на запросы пользователя, а самостоятельно планировать и выполнять сложные последовательности действий. Сегодня «агенты-злоумышленники» уже перестали быть теоретической концепцией. Подобные системы могут существенно снизить порог входа для проведения сложных кибератак, одновременно создавая новые вызовы для специалистов по кибербезопасности.

Фото: YandexART