С этого года в России планируют начать разработку концепции регулирования искусственного интеллекта (ИИ). Соответствующий документ будет действовать в рамках программы «Цифровая экономика». В этом вопросе мы находимся на одном уровне со всеми ведущими державами мира: ни в одной стране нет ясного государственного регулирования сферы ИИ.

С пугающей скоростью

Впервые термин «искусственный интеллект» (ИИ) был введен в 1956 году американским информатиком Джоном Маккарти. Но искусственный разум появился немного раньше, когда создали технологию, возможности которой были сопоставимы с интеллектуальными способностями человеческого мозга, то есть с момента разработки первых электронно-вычислительных машин в 1940-х годах. В широком смысле это способность машин имитировать поведение человека, воспринимать информацию, принимать решения; это система алгоритмов, основанная на машинном обучении.

«Термин «искусственный интеллект» последние годы размылся. Теории самого интеллекта не существует. Есть техническое понимание искусственного интеллекта — набор методов оптимизации, распознавания, машинного обучения, который позволяет компьютеру имитировать человеческую деятельность, замещать человеческие функции», — сообщил в интервью передаче «Красный угол» Игорь Ашманов, инженер, генеральный директор компании «Ашманов и партнеры».

Активно об искусственном разуме, хоть и в фантастическом ключе, начали рассуждать спустя десятилетия после появления термина. Как отметил председатель правления ООО «УК «РОСНАНО» Анатолий Чубайс, всплеск обсуждения искусственного интеллекта пришелся на 1970–1980-е годы. С тех пор его развитие поражает своими темпами. «Искусственный интеллект развивается с пугающей скоростью. Никогда не было таких скоростей», — отметила нейролингвист Татьяна Черниговская на Гайдаровском форуме — 2018. По данным исследовательской компании Gartner, к концу 2018 года объем глобального рынка искусственного интеллекта составит 1,2 трлн долларов.

В современной медицине искусственный интеллект пока решает не самые сложные задачи: обрабатывает данные о пациентах, находит на рентгеновских снимках патологии, проводит диагностику, ставит диагнозы или дает советы по их постановке, подбирает лечение, автоматизирует процессы. Тем не менее темпы его внедрения, способность на огромных скоростях собирать, анализировать и сопоставлять массивы данных, умение быстрее человека определять заболевание, отсутствие эмоций и усталости позволяют предположить, что его функционал в скором времени существенно расширится. Ключевой игрок, занимающийся искусственным интеллектом в здравоохранении, — компания IBM с компьютером IBM Watson, предназначенным для постановки диагноза и уже обученным основам психоанализа. Технология служит для лечения онкологических и кардиологических заболеваний. Компания Google основала в 2016 году подразделение — DeepMind Health — для внедрения ИИ в медицинскую отрасль. Эти разработки помогают врачам-офтальмологам находить причины слепоты. Летом этого года Google, по данным Bloomberg, представила алгоритм с элементами ИИ, способный оценить вероятность смерти пациентов. Израильские ученые разработали искусственный разум MedyMatch, который определяет инсульт, изучая снимки мозга одного человека и тысяч других, сравнивая их и фиксируя малейшие отклонения. Ошибка при таком диагнозе практически исключена. Хирургические роботы da Vinci уже несколько лет успешно выполняют свои функции с поразительной точностью. Даже мобильные приложения и гаджеты, которые помогают следить за здоровьем, мониторить давление, сердцебиение, пульс, отправлять информацию врачу, дают советы, — это все искусственный интеллект.

В финансовом секторе, банкинге ИИ активно применяется для автоматизации и ускорения процессов, повышения качества обслуживания, выявления мошенничества, исключения нежелательного человеческого влияния. «С помощью искусственного интеллекта мы уже выдаем кредиты физлицам», — сообщил Александр Ведяхин, первый заместитель председателя Правления Сбербанка, на международной конференции Sberbank Data Science Day. По его словам, кредитование физических лиц и малого бизнеса с использованием ИИ сокращает количество просрочек, вскоре эта технология сможет применяться для кредитования средних и крупных предприятий. Сбербанк как самый инновационный банк страны внедряет искусственный разум практически во все свои процессы. Банковский гигант роботизирует контактный центр для корпоративных клиентов, где робот Анна отвечает на вопросы о платежах, балансе, расположении банкоматов. Нововведение помогло увеличить скорость обслуживания клиентов по некоторым операциям на 50%.

В результате применения еще одной программы искусственного интеллекта Сбербанк сократил в прошлом году около 450 юристов. По оценкам экспертов финансовой организации, через пять лет 80% решений в отрасли будут основаны на ИИ. Как заявил Герман Греф, ежегодно банк получает примерно 2 млрд прибыли от внедрения искусственного интеллекта.

Компьютерное зрение — один из способов применения ИИ — делает более безопасной работу с банкоматом, мобильными платежами, более простой выдачу кредитов, проверку документов. Уже работают различные финансовые чат-боты, помогающие делать покупки в Интернете и оплачивать счета, цифровые кошельки, которые в том числе рекомендуют, как расходовать средства, изучив привычки пользователя. В более узких кругах используются роботы-советники для управления инвестициями.

Для промышленности применение робототехники — ключевое условие конкурентоспособности. Как сообщили эксперты Петербургского международного экономического форума, объем российского рынка искусственного интеллекта в промышленности может достичь 380 млн долларов к 2021 году. А среднемировой показатель плотности роботизации в мире — 70 роботов на 10 000 работников, по словам президента НАУРР Виталия Недельского.

В сельском хозяйстве компьютерное зрение применяется в том числе для анализа посевов. Ученые Сколковского института науки и технологий создали систему, предсказывающую рост растений посредством компьютерного зрения и методов машинного обучения.

Мониторинг соцсетей при помощи ИИ повышает качество работы HR-специалистов. По информации Forbes, искусственный разум расшифровывает и анализирует тысячи мегабайт в секунду текстовой, голосовой и видеоинформации о кандидате, определяет вероятность того, преуспеет ли будущий сотрудник. Машина лишена эмоций, а значит, неподвластна манипулированию или уговорам. По данным CB Insights, мировой рынок разработок в этой сфере приближается к 14 млрд долларов.

В сфере ритейла ИИ в основном задействован при обслуживании клиентов. Роботы уже заменяют кассиров, специалистов, связанных с бухгалтерией, сортировкой данных. Как отметили эксперты Недели российского ритейла, искусственный интеллект снижает число ошибок, связанных с человеческим фактором, увеличивает продажи.

Один из самых ярких и успешных примеров применения искусственного интеллекта в сфере услуг — отель Henn-na Hotel в Японии, где гостей встречают и обслуживают роботы, владеющие четырьмя языками. Робот-уборщик или робот-пылесос в некоторых развитых странах — это уже обыденность.

Искусственный интеллект применяется и в автотранспорте, и для написания статей и финансовых отчетов (к примеру, разработки компании Narrative Science), и для проверки правописания (тот же алгоритм Т9), и для поиска и анализа информации. Искусственный интеллект уже обыграл чемпионов мира в шахматы и даже в покер. «Когда компьютер обыграл Гарри Каспарова, это была нечестная игра: компьютер не устает, не нервничает, он был натренирован на конкретного игрока, знал все его ходы наперед. Последняя надежда у меня была на покер — тут можно блефовать, играть на эмоциях, делать poker face, чего машина не может. Но и с этим компьютер справился», — сказала специалист по нейронауке, психолингвистике, искусственному интеллекту Татьяна Черниговская на Гайдаровском форуме — 2018.

Искусственный интеллект уже успешно обучается обману. К примеру, разработка компании Nvidia делает очень реалистичные фейковые видео, имитируя реальность: создает образы людей из ничего, меняет время суток, погоду.

Сегодня даже картина, написанная искусственным разумом и выставленная на аукционе за 10 000 долларов, уже не особо удивляет. «Искусственный интеллект стал главным трендом для всех. Говорим мы о государствах или об отдельных людях. Он стал методом роста, его использование стало очень легким», — сообщил Герман Греф в ходе завтрака Сбербанка на Давосском форуме.

Прогресс под контроль

Такое стремительное развитие не может оставаться бесконтрольным. Илон Маск назвал искусственный интеллект «самым большим риском, с которым мы сталкиваемся как цивилизация». По мнению основателя SpaceX, только государственное регулирование этой сферы поможет избежать рисков, которые могут спровоцировать разработчики в погоне за передовыми технологиями. Роботы также могут ошибаться, иногда их ошибки приводят к фатальным последствиям. К примеру, несчастный случай в Аризоне, когда беспилотник насмерть сбил пешехода. «Беспилотная машина сбивает человека — кто за это отвечает? Мы должны заложить моральные категории в искусственный интеллект и право решить, кому это все принадлежит. Право и мораль — категории, которые внутри цифрового мира имеют совершенно иные конфигурации», — заявила Татьяна Черниговская на ГФ-2018.

Вопрос регулирования ИИ и робототехники, связанный с автоматизированными транспортными средствами и беспилотными летательными аппаратами, стоит сегодня наиболее остро. Но законы не позволяют четко определить субъекта, ответственного за ошибки машин. Равно как и понять, почему искусственный интеллект принял то или иное решение в определенной ситуации. Изменения в регулировании этой сферы происходят во многих странах. Так, зимой прошлого года Европарламент принял резолюцию «Нормы гражданского права о робототехнике». Документ подразумевает введение общеевропейской системы регистрации интеллектуальных машин. Представители Европарламента также предлагают внедрить страхование ответственности за причиненный роботом ущерб. В резолюции учтена и нравственная сторона вопроса. В Германии приняли закон, упрощающий передвижение автономного транспорта, при этом ужесточающий наказание в случае ошибок беспилотника. По данным Forbes, Эстония стала первой страной в мире, где законодательно утвердили правила передвижения роботов-курьеров. А также первой в ЕС, разрешившей (пусть и с большими ограничениями) ездить беспилотникам. В Японии в 2018 году Министерство экономики, торговли и промышленности сформировало законы о контроле бизнес-отношений в области искусственного интеллекта, сообщила крупнейшая медиакорпорация страны Nikkei Asian Review. В первую очередь документ регулирует вопрос принадлежности авторских прав на технологии ИИ. Сейчас в Японии интеллектуальные права на разработки в сфере ИИ принадлежат заказчикам, согласно новым правилам ими будут владеть разработчики. Помимо этого, компании будут нести ответственность за последствия некорректной работы техники и выплачивать ущерб пострадавшим. Япония уже не первый год разрабатывает способы регулирования рынка искусственного интеллекта. Одна из самых развитых экономик мира планирует вводить сертификаты соответствия требованиям безопасности для робототехники.

В Южной Корее — одной из самых роботизированных стран мира — более десяти лет назад объявили о разработке Этического устава роботов (Корейского устава роботов). К сожалению, о нем сегодня по-прежнему мало что известно. Но закон о поддержке развития интеллектуальных роботов в стране принят.

В Китае спроектировали План развития технологий искусственного интеллекта нового поколения. В документе по большей части прописаны цели по становлению страны в качестве ведущей в области робототехники; первые законы по регулированию отрасли запланированы на 2020 год.

Конгресс США в 2017 году задался целью дать четкое определение термину «искусственный интеллект» на законодательном уровне. При Министерстве торговли США создан комитет, призванный решить, как именно необходимо регулировать ИИ. В некоторых штатах разрешено тестировать беспилотники на дорогах общего пользования.

В России в 2018 году может появиться первая концепция регулирования искусственного интеллекта. Ее разработкой занимается рабочая группа «Нормативное регулирование» в рамках Автономной некоммерческой организации «Цифровая экономика». Кроме того, в стране была анонсирована Модельная конвенция о робототехнике и искусственном интеллекте, созданная Исследовательским центром проблем регулирования робототехники и искусственного интеллекта «Робоправо». Конвенция определяет ключевые проблемы, с которыми может столкнуться общество, развивая искусственный интеллект, формулирует правила робототехники и указывает возможные пути решения проблем. Конвенция также подразумевает создание единого международного института регулирования на уровне ООН.

Еще раньше, в 2016 году, глава совета директоров Mail.ru, основатель компании Grishin Robotics Дмитрий Гришин сформулировал концепцию закона о робототехнике. По словам эксперта, роботов необходимо приравнять одновременно и к животным (так как они могут выполнять самостоятельные действия), и к юридическим лицам, а также создать реестр роботов на примере ЕГРЮЛ. ООН занимается вопросами правового регулирования систем искусственного интеллекта военного назначения. По мнению организации, необходимо заранее запретить применение автономных военных роботов. Помимо очевидных целей, таких как безопасность, ответственность за вред или ущерб, защита интеллектуальных прав, государственное регулирование этой сферы может повысить экономическую эффективность применения интеллектуальных систем. К примеру, как пишет издание «Популярная механика», закон «О развитии и распространении умных роботов», принятый в 2008 году в Корее, поднял производство в стране к 2016 году на 80% и принес 4 млрд долларов.

Ключевое, что должно содержаться в любом законодательстве о роботах, — это ответственность за действия искусственного разума. При этом государственное регулирование должно быть настолько грамотным, чтобы в стремлении к полному контролю не затормозить развитие инновационных технологий.