В России предложили ввести маркировку контента, созданного с помощью ИИ
Российский технологический университет направил в адрес Минцифры письмо с предложением ввести обязательную маркировку контента, созданного с помощью нейросетей, а также подготовить программу защиты критически важной инфраструктуры от возможных кибератак с использованием ИИ.
РТУ МИРЭА предложил закрепить маркировку и программу защиты в рамках федерального проекта «Искусственный интеллект». В частности, следует отдельно прописать угрозы несанкционированного доступа к персональным данным людей без соответствующих полномочий и их использования с применением нейросетей. Также вуз предлагает добавить модуль «Противодействие неправомерному использованию нейросетей» в проект Минцифры «КиберЗОЖ», пишет ТАСС.
Сейчас главной угрозой повсеместного применения нейросетей стал рост киберпреступности. При использовании ИИ даже в развлекательных целях несет опасность для сохранности персональных данных пользователей. Кроме того, совершенствование технологии нейросетей уже может серьезно уменьшить количество вакансий для людей в некоторых специальностях.
Во многих странах мира законодатели уже давно пытаются найти защиту от возможных рисков, которые несут нейросети. Цель — научиться регулировать чат-боты и заставить OpenAI, Google, Midjourney и прочие технологические компании в обязательном порядке анализировать риски при разработке нейросетей, а также маркировать контент, созданный с помощью ИИ.
Стоит добавить, что система обнаружения текстовых заимствований «Антиплагиат» разработала и запустила новый функционал, который дает возможность автоматически выявлять машинно-сгенерированные тексты, сообщает пресс-служба компании. При этом новая разработка сейчас доступна только для пользователей платных версий «Антиплагиата». В проверяемом тексте сгенерированные чат-ботом фрагменты будут выделены, а сам документ получит соответствующую маркировку «подозрительный». Данная инициатива призвана помочь вузам и научным учреждениям лучше контролировать качество представляемых работ и минимизировать применение машинного обучения в процессе их написания.
Детектор машинно-сгенерированных текстов сам был обучен и протестирован на большом наборе данных, что серьезным образом сокращает риск ложного срабатывания. В компании отмечают, что, несмотря на все успехи ChatGPT или Jasper, их тексты все еще отличаются от написанных человеком. Так что чат-ботом нужно пользоваться с умом, а не слепо копировать тексты, которые выдает искусственный интеллект.
Фото: Unsplash; Pixabay
мероприятий