В России могут сделать обязательную маркировку ИИ-контента
Минцифры России допускает обязательную маркировку контента, который был создан с помощью нейросетей. Ряд экспертов уверены, что таким образом можно будет бороться с дипфейками и защищать граждан от недостоверной информации, но другие специалисты уверены, что мера не станет эффективной, так как злоумышленники будут игнорировать новый закон.
В мае нынешнего года сотрудники Института социально-экономического анализа и программ развития (ИСАПР) направили главе кабмина Михаилу Мишустину предложение о введении обязательной маркировки контента в интернете, созданного с помощью ИИ, для физических и юридических лиц. Специалисты считают, что это позволит эффективнее бороться с недостоверной и опасной информацией. За отсутствие маркировки в ИСАПР предложили ввести штрафы, как за незаконную обработку персональных данных, пишут Известия.
В ведомстве отметили, что в настоящее время первоочередная задача состоит в закреплении в законодательстве правового режима легитимного создания, распространения и использования ИИ-контента. При этом проблемой остается отсутствие единого понятийного аппарата, поскольку юридически термины «дипфейк», «искусственный интеллект» и «синтетический контент» нигде не закреплены. Кроме того, перед проработкой механизма маркировки контента, созданного нейросетями, следует определить уполномоченные органы, которые будут заниматься маркировкой. Также нужно будет выработать технические меры для выявления дипфейков.
Сейчас совместно с Роскомнадзором и профильными федеральными органами исполнительной власти ведется разработка предложений об установлении требований по маркированию ИИ-контента. Также дополнительно может быть рассмотрен вопрос о введении уголовно-правовой нормы за распространение дипфейков, если они были сделаны без согласия человека и причинили вред его правам и законным интересам.
Директор Института социально-экономического анализа и программ развития Андрей Шуриков отметил, что гарантированного способа отличить промаркированный ИИ-контент от немаркированного на данный момент нет, но механизмы уже существуют: можно выявлять значительную часть подобного контента. Он заявил, что внедрение законодательных норм по обязательной маркировке повысит не только уровень отслеживаемости вредоносного контента, но и ответственность людей, которые используют нейросети. Все-таки технически отследить первоисточник дипфейка сложно, но распространителей выявлять можно без труда, в том числе через анализ цифровых следов.
«Поэтому в первую очередь нужно фокусироваться на наказании именно распространителей, включая тех, кто репостит фейковый контент, особенно если это делается умышленно. Помимо этого, важно также развивать технологии верификации контента и обязывать платформы оперативно удалять непромаркированные дипфейки», — считает эксперт.
Директор департамента IT DCLogic Михаил Копнин заявил, что есть сервисы, которые умеют проверять видео и изображения на предмет использования ИИ. При этом нет смысла маркировать весь контент, созданный с помощью нейросетей.
«Например, большинству пользователей непринципиально, что маршрут в навигаторе построен алгоритмами ИИ. Но в том, что касается борьбы со злонамеренным использованием ИИ, маркировка вряд ли будет эффективной. Те, кто создает подобный вредоносный контент, не будут соблюдать правила», — подчеркнул эксперт.
Главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ Роман Душкин считает, что современная правовая система уже имеет все необходимые нормы для работы в сфере цифрового мошенничества и новые законодательные новеллы его не остановят. Нужны комплексные меры, резюмировал он.
Фото: YandexART
мероприятий