Управление по конкуренции и рынкам (CMA) сформировало семь принципов, которыми должны руководствоваться компании, которые занимаются разработкой систем с использованием ИИ. Соответствующий документ опубликован на сайте правительства Великобритании.

Эксперты СМА сделали обзор базовых моделей систем искусственного интеллекта, а предложенные ими принципы нацелены на обеспечение защиты потребителей и здоровой конкуренции, лежащих в основе ответственной разработки и использования».

Семь принципов выглядят следующим образом:

Ответственность: разработчики и бизнес несут ответственность за результаты, которые предоставляют потребителям;

Доступность: гарантированный доступ к основным ресурсам, таким как чипы, процессоры и тренировочные данные;

Разнообразие: поддержание различных бизнес-моделей, включая открытые и закрытые системы;

Выбор: возможность для предприятий выбирать, какую модель использовать;

Гибкость: возможность переключения между различными моделями или одновременное использование нескольких из них;

Добросовестность: избегание антиконкурентного поведения и навязывания продуктов;

Прозрачность: информирование потребителей о рисках и ограничениях, связанных с контентом, созданным ИИ.

На самом деле вопрос регулирования рынка ИИ назрел давно. Так, сейчас возникли вопросы к чат-боту Bard от Google. На прошлой неделе Google подключил Bard на основе языковой модели к множеству продуктов Google, включая Gmail, Google Drive, Google Docs, Google Maps и принадлежащий Google YouTube, а также к другим приложениям и сервисам. Этот сервис решил протестировать обозреватель New York Times Кевин Роуз и ужаснулся: ИИ галлюцинировал всю переписку по электронной почте, которой никогда не было.

В частности, галлюцинации начались, когда Руз попросил чат-бот проанализировать свою почту Gmail и сказать, в чем заключаются его самые большие психологические проблемы. Нейросеть ответила журналисту, что он склонен «беспокоиться о будущем», цитируя электронное письмо, предположительно отправленное писателем, в котором Руз выразил, что он «переживает из-за работы» и «боится потерпеть неудачу».

Однако парадокс в том, что Руз никогда не отправлял это письмо. ИИ нашел полученный автором информационный бюллетень, в частности, о новой биографии Илона Маска и неправильно истолковал цитату в этом файле, чтобы составить совершенно новое электронное письмо, которое, по утверждению Барда, Руз отправил сам. Кроме того, чат-бот неоднократно ошибался в информации об авиакомпаниях и даже придумал несуществующий поезд, пишет futurism.com.

Еще один пример пагубного применения ИИ зафиксирован в Альмендралехо – городе в юго-западной провинции Бадахос, Испания. Более 20 девочек в возрасте от 11 до 17 лет заявили, что стали жертвами использования сомнительного приложения, которое генерирует фейковое изображение без одежды. В соцсетях без ведома девушек распространялись их фейковые обнаженные изображения. Полиция сейчас расследует инцидент, по меньшей мере, 11 местных мальчиков уже опознаны как авторы фейковых обнаженных изображений, которые распространялись в популярных мессенджерах. Также известно о том, что к одной из девочек применялся шантаж с использованием ее фейкового изображения.

Фото: Kandinsky 2.2