От интеллекта крысы до новой эволюции
Почему люди должны взять ИИ под личный контроль
Алгоритмов становится все больше, а правила их «поведения» определяются исключительно кодом, а не законами. Об этом рассказал директор департамента развития и планирования фонда «Сколково» Сергей Израйлитна международной онлайн-конференции Distant & Digital.
Страхи Голливуда
— Наиболее уместно было бы поговорить о страхе, который испытывают многие люди в связи с развитием технологий искусственного интеллекта (ИИ). Назвать этот страх полностью беспричинным нельзя, поскольку ряд высококлассных специалистов, например Илон Маск или Ник Бостром, вполне убедительно комментируют различные «неудачные» сценарии развития ИИ-технологий, да и Голливуд подливает масла в огонь.
Чтобы ответить на вопрос об оптимальной стратегии развития технологий в человеческом обществе, надо прежде всего понять, какого типа исторический процесс мы наблюдаем. Для специалистов совершенно ясно, что если внедрение ИИ будет носить революционный характер, то за ближайшие 20–30 лет взаимодействие людей и сама структура общества существенно изменятся: часть рабочих мест исчезнет, появятся некоторые новые специальности, роль государства и крупных корпораций будет другой.
Многие революционные процессы запускались медленно и вначале не имели значимой для общества динамики. Никто не предполагал, что книгопечатание приведет к Реформации и Варфоломеевской ночи, а изобретение паровой машины — к индустриальной революции, колониальным империям и опиумным войнам. Но по мере развития таких процессов перемены нарастают, в какой-то момент они приобретают лавинообразный, или, как говорят математики, экспоненциальный, характер.
Рост или взрыв?
Самый яркий пример экспоненциального процесса — это ядерный взрыв, где экспонента имеет чисто физические причины, связанные с частотой распада ядер урана или плутония. Для того чтобы сделать ядерную реакцию управляемой, потребовалась система ее замедления, основанная на способности бора и графита поглощать «лишние» нейтроны.
Однако применение любой управляющей системы зависит от людей. Одна из самых известных ядерных катастроф — авария на Чернобыльской АЭС — была вызвана некомпетентностью и личными амбициями нескольких человек из высшего руководства станции, управлением по ключевым показателям эффективности, а также конструктивными недостатками ядерного реактора. Экспоненциальный процесс вышел из-под контроля, и за ликвидацию последствий пришлось заплатить несколькими тысячами человеческих жизней.
Сегодня экспоненциальные процессы наблюдаются в развитии цифровых платформ. Их математические причины — в зависимости прироста количества пользователей платформы от их текущего количества. Удачные бизнес-модели устроены так: чем больше пользователей, тем больше их приходит. Более того, наличие такой зависимости является для инвесторов триггером, ведущим к резкому росту капитализации и прибыли платформ, обладающих такими свойствами.
Именно так несколько десятков цифровых платформ за прошедшие 20 лет добрались до капитализации свыше $100 млрд и получили аудиторию в миллиарды пользователей.
Кто умнее, того и мир
Цифровые платформы, по сравнению с потенциальными возможностями сильного ИИ, выглядят совершенно безобидно. Никто не предполагал, что социальные сети с фотографиями личного характера и обсуждением ресторанов и отелей могут стать инструментом влияния на предпочтения граждан на выборах. Однако доступ к огромному количеству данных позволил осуществить такое воздействие.
При этом специалисты говорят, что у ИИ сейчас уровень интеллекта как у крысы, то есть, по сути, это рефлексы и обучение на закономерностях. Изменения во внешней среде требуют «переобучения» нейронных сетей, что ограничивает каждую модификацию ИИ ее локальной сферой применения — наподобие экологической ниши у животных.
Возникновение интеллекта уровня человека у автоматизированных систем гарантированно приведет к экспоненциальному покорению такой системой смежных ниш, ровно так же как и когнитивная революция позволила человечеству за смешные 50 тысяч лет прокатиться по планете огненным катком, перемещаясь из одной экологической ниши в другую, попутно истребляя сотни видов.
Есть ли необходимые сдерживающие факторы или элементы, предотвращающие цепную реакцию? Сегодня скорее нет, чем да, ведь активная зона этого реактора — корпоративные интеллектуальные системы — живут самостоятельно, выполняя свои коммерческие задачи. Существующие юридические процессы, такие, например, как мы наблюдали с расследованием Сената США роли Facebook в выборах, происходят слишком медленно, чтобы успеть предотвратить цепную реакцию, если она возникнет.
Закон не писан
Очевиден конфликт интересов между коммерческими компаниями, заинтересованными в освоении смежных сегментов, а также создании новых продуктов ИИ, и регуляторами, которые традиционными методами сдерживают развитие технологий.
Сейчас деятельность компаний и действия регуляторов находятся в разных сферах. Первые пишут код, вторые — законы, которые ИИ-системы не умеют читать. Советы директоров цифровых платформ могут захотеть обойти эти законы в погоне за прибылью и ключевыми показателями эффективности.
Для этого, кстати, вовсе не обязателен сильный ИИ, достаточно иметь эффективные когнитивные технологии — усилители человеческого интеллекта, что даст таким компаниям возможности, ранее не предполагавшиеся корпоративным и антимонопольным законодательством.
Необходимо не просто написать несколько новых законов. Надо добиться того, чтобы код и нормативные акты синхронизировались, а информационные системы работали в рамках наложенных ограничений.
Красная кнопка
В рамках работы по федеральному проекту мы в «Сколково» разрабатываем концепцию машиночитаемого права, направленную на поиск возможностей для совмещения права в традиционном изложении и машиночитаемой разметки, фиксирующей нормы и ограничения на понятном для программ языке.
Но недостаточно найти такие инструменты. Необходимы «красные кнопки», которые действительно были бы встроены в софт с элементами ИИ на программном уровне, чтобы они в нужный момент сработали, а не оказались в статусе печально известной красной кнопки АЗ-5 на Чернобыльской АЭС, которая только ускорила цепную реакцию.
Недавно был принят федеральный закон об экспериментальных правовых режимах. Работа по тестированию технологий должна показать эффективность и безопасность узкоспециализированных решений вроде беспилотного такси или медицинского программного обеспечения. Под эти технологии мы совместно с ведущими российскими компаниями сейчас выстраиваем логику доказательства их безопасности.
Полагаю, что на таких экспериментальных решениях необходимо научиться выстраивать логику обеспечения безопасности и более крупных, комплексных систем далеко за пределами экспериментальных режимов, а также подобрать инструменты, сформировать договоренности и убедиться во взаимопонимании между регуляторами и коммерческими компаниями.
Необходимо подготовиться к управлению цепной реакцией, потому что сегодня мы все заинтересованы в том, чтобы она запустилась и шла быстрее. Но близится время, когда нам придется создавать барьеры, препятствующие взрывному развитию этой технологии.
Фото: из личного архива эксперта; Shutterstock