журнал стратегия

#журнал стратегия

Взгляд в будущее:

мнения визионеров

Колесо, порох, автомобиль, электричество, интернет — все меркнет перед изобретением искусственного интеллекта. Как мы будем сосуществовать с ним?

Ответы пытаются найти визионеры — ученые, мыслители, бизнесмены, которые способны не только предвидеть будущее, но и влиять на него.

Юваль Ной Харари, историк, автор книг «Sapiens: краткая история человечества» и «Homo Deus: краткая история завтрашнего дня»: 

— Автоматизация сделает так, что многие профессии исчезнут. Но это необязательно плохо. Проблема в том, сможем ли поддержать людей в жизни, в их эмоциональном и духовном развитии без работы.

Сегодня человек чувствует себя все менее значимым и все более неуместным. Разговоры об ИИ, блокчейне, генной инженерии только усиливают ощущение неприкаянности. Обыватель ощущает, что будущее проходит мимо него.

В XXI веке население восстанет не против элиты, которая эксплуатирует граждан, а против элиты, которой эти граждане в принципе не нужны. И бороться с этим намного сложнее, чем с эксплуатацией.

Есть сценарий, что правительства с помощью алгоритмов и биосенсоров будут следить за людьми, их мыслями и чувствами и наказывать людей за все, что может не соответствовать политике и целям государства.

Но можно с помощью той же технологии следить за людьми во власти, чтобы удостовериться, что чиновники делают то, что должны.

Илон Маск, инженер, изобретатель, основатель PayPal, Tesla, SpaceX, SolarCity, OpenAI, Neuralink:

— Первое, что мы должны принять, — мы очень тупые. Мы определенно можем создать то, что будет умнее нас.

Общество должно готовиться к противостоянию с машинами. И чем скорее это произойдет, тем лучше. Иначе есть риск, что человек перестанет быть доминирующим видом. ИИ займет положение Homo sapiens, а люди окажутся в одной категории с обезьянами. Клетки, зоопарки и даже джунгли — все это, возможно, ожидает и нас.

Neuralink должен стать частью стратегии по борьбе с угрозами ИИ. В команду проекта входят ведущие специалисты по нейробиологии, которые разрабатывают нейроинтерфейс. Он позволит подключить мозг человека к компьютеру и выйти за рамки привычных возможностей. Наша конечная цель — достижение симбиоза с ИИ.

Ли Кайфу, ведущий китайский эксперт в области ИИ:

— В ближайшие 15 лет автоматизация затронет не менее 40% профессий. Процесс будет повсеместным и коснется не только синих, но и белых воротничков. Следствием станет усиление неравенства и безработица.

Есть четыре группы профессий с «иммунитетом» к автоматизации. К первой относятся творческие виды деятельности. Вторую группу составляют стратеги — топ-менеджеры, экономисты и дипломаты. В третью категорию входят профессии, которых пока не существует, но которые будут появляться по мере развития технологий. И наконец, четвертую группу составляют любые виды деятельности, требующие от человека эмпатии и сострадания.

Помочь людям адаптироваться к четвертой промышленной революции должны государственные и частные компании, которым необходимо работать сообща. ИИ способен усиливать неравенство как между людьми, так и между странами. Есть риск, что развитые государства успеют адаптироваться к трансформациям, тогда как бедные регионы погрузятся в состояние глубокого кризиса.

Альберт Ефимов, руководитель лаборатории робототехники Сбербанка:

— ИИ возьмет на себя три вида работ. Три D — dirty (грязная), dull (скучная), dangerous (опасная). Человечество всегда будет хотеть иметь железного умного помощника, которому можно что-то объяснить, сказать ему: иди делай то, что я в принципе делать не хочу. Как раз по этим трем причинам. Миллионы людей по всему миру уже пользуются ИИ каждый день. Просто не все это замечают. Но на самом деле все — оно уже здесь!

На мой взгляд, постановка вопроса, сократится ли количество рабочих мест в мире, неверная: может быть, число рабочих мест, наоборот, возрастет. Просто платить за этот низкоквалифицированный труд из-за давления технологий будут намного меньше. При этом действительно компетентные работники, наоборот, станут зарабатывать больше.

Наверное, эмпатия свойственна только живым существам. Но машины могут симулировать эмпатию и любые другие чувства. Поэтому мы, вероятно, окажемся в ситуации, когда человеку будет интереснее с машиной, чем с другим человеком. Это видно уже сейчас: за обедом мы только и делаем, что смотрим в свои смартфоны. И в будущем мы столкнемся с миром, в котором нам интереснее общаться с чат-ботом — он банально будет понимать нас лучше, чем наши близкие.

Билл Гейтс, сооснователь Microsoft:

— Раскрыть возможности ИИ — это словно расщепить атом. Можно применить во благо — например, в медицине или образовании, а можно нанести колоссальный вред. ИИ должен приносить пользу не только корпорациям, которые используют нейросети для анализа данных и продвижения товаров. В первую очередь разработки нужно внедрять в сферу образования и медицины. Главная проблема современных систем ИИ — непрозрачность.

Недавняя победа ботов над людьми в игре Dota 2 — это большой прорыв. Меня поразило не столько превосходство нейросетей над людьми, сколько способность алгоритмов работать сообща. Это важное событие, потому что победа потребовала от ИИ командной работы и способности сотрудничать.

Сундар Пичаи, гендиректор Google Inc.:

— Опасения по поводу ИИ вполне закономерны. ИТ-компаниям нужно всерьез заняться регулированием технологии, чтобы страхи не стали реальностью — и чем раньше, тем лучше. Новые инструменты ИИ — основа таких инноваций, как беспилотные автомобили и алгоритмы обнаружения болезней, — требуют особого этического контроля. Меры безопасности придется устанавливать самим технологическим компаниям. Им также придется подробно изучить, как ИИ может навредить людям.

Технические гиганты должны контролировать использование ИИ, чтобы технология принесла пользу человечеству. С одной стороны, я с оптимизмом смотрю на долгосрочные преимущества технологии. С другой — согласен с критиками, которые утверждают, что ИИ усугубит слежку, упростит создание смертоносного оружия и распространение дезинформации.

Пол Шарр, эксперт по ИИ, ветеран войн в Ираке и Афганистане:

— ИТ-гиганты выбрали неверную стратегию взаимодействия с государством. Нельзя просто взять и отказаться от сотрудничества с Пентагоном. Потому что военные легко найдут менее щепетильных подрядчиков. И быстрее всех сделают это те, кто закрывает глаза на последствия.

Сценарий появления и распространения «бесчеловечного» оружия крайне прост: стоит одному государству получить первые образцы в свое распоряжение, как другие страны форсируют разработки, чтобы нивелировать преимущество конкурента.

Когда единой политики нет, преимущество получат наименее этичные разработчики и государства, которые плюют на права человека и озабочены лишь возможными технологическими преимуществами. Исследователи ИИ должны стать участниками этого диалога, их опыт необходим для формирования политического выбора.

Дионисиос Деметис, профессор Университета Халла:

— Люди с готовностью отказываются от принятия решений, передавая это бремя «беспристрастным» алгоритмам. Но уже сейчас на одну ошибку, которую мы замечаем, приходятся десятки скрытых. А отсутствие навыка решать и нести ответственность — самый простой путь к порабощению роботами.

ИИ — это первая технология, управляющая людьми, тогда как раньше человек создавал технологии, которыми управлял сам. Технология развилась до степени, когда она использует и даже контролирует нас. Причем произошло это по доброй воле, и влияние ИИ все больше расширяется.

Опасно это потому, что из-за принципа черного ящика объяснить выводы алгоритма невозможно. Простой наблюдатель имеет доступ лишь к информации на входе и решениям.

Наиболее выпукло опасности применения таких алгоритмов показывает биржа. Сейчас алгоритмическая торговля отвечает примерно за 85% операций на финансовых рынках. При этом ежесекундно в попытке обыграть друг друга соревнуются тысячи алгоритмов, которые распоряжаются миллиардами долларов. В 2010 году это привело к так называемому flash crash — почти мгновенному падению капитализации крупнейших американских компаний на 9%, то есть примерно на триллион долларов. К концу торгового дня потери были почти нивелированы, а расследование показало, что никакой ошибки или злого умысла не было — просто алгоритмы увидели способ заработать для своих создателей пару миллионов.

Если вам кажется, что от бирж можно дистанцироваться, ИИ все равно настигнет вас. Алгоритмы принимают все больше решений за юристов, банкиров и работников отдела кадров. Мы даже доверяем им решать, может ли подозреваемый остаться на свободе, выплатив залог, или должен дожидаться суда в тюрьме.

Ольга Ускова, президент группы компаний Cognitive Technologies:

— Всем странам не хватает «мозгов», все работают по принципу «кто у кого первым уведет специалиста». Но чтобы люди поехали в Россию, гражданства и денег мало, нужны условия для работы — оборудование, полигоны и т. д. От возможностей для инженерного творчества напрямую зависит, сколько «мозгов» вам удастся заполучить. Люди в нашем деле — главное.

Ситуация с запретом на поставку американских процессоров для Huawei наглядно продемонстрировала, что в сфере высоких технологий промедление смерти подобно. Если ты не успел развиться до нужного уровня, тебя могут уничтожить. Выигрыш в войне разумов обеспечивают не запасы нефти и не военная мощь, а «мозги» и налаженное производство. В данном случае речь о микропроцессорах: у Huawei их не оказалось и теперь будущее компании под вопросом. Эта история — наглядная демонстрация того, что будет с Россией, если мы не успеем создать свою базу технологий ИИ и запустить производство всех необходимых компонентов.

Калум Чейс, писатель и исследователь ИИ:

— Отсутствие жесткой конкуренции между людьми и машинами возможно только в случае введения экономики изобилия, как в фильме «Звездный путь». Для этого пища и жилье должны подешеветь настолько, чтобы стать абсолютно бесплатными. Однако я убежден, что безусловный основной доход не улучшит ситуацию, поскольку он покроет лишь базовые нужды человека. Людям все равно придется работать и ожесточенно конкурировать. Если все, что мы можем дать людям, — это базовый доход, то значит, мы проиграли.

ИИ будет служить капитализму. В результате большинство людей получит средства к существованию, заработанные за счет роботизированной рабочей силы. Однако владеть роботами будет элита — 1% населения, который будет строить собственные империи и воплощать амбициозные планы. Мы двигаемся как раз в этом направлении.

В идеальном мире следовало бы постепенно внедрять автоматизацию и тут же отслеживать, какие слои общества страдают от нашествия роботов, и стремительно принимать меры. Но такой подход никому не выгоден. Политики о таком сценарии не думают, а лидеры ИТ-компаний заинтересованы только в извлечении прибыли.

Эд Саппин, глава фирмы стратегических инвестиций Sappin Global Strategies:

— Работники, которые научатся извлекать выгоду из симбиоза с алгоритмами, смогут эффективнее тратить сэкономленное время и приобретут дополнительную ценность в глазах руководства. Потенциальное воздействие автоматизации на рынок труда может показаться пугающим, однако экономика уже переживала похожие потрясения — например, при переходе от аграрной экономики к промышленной и от промышленной к экономике услуг. Во всех этих случаях изменения приводили к общему росту экономики, увеличению производительности, заработной платы и занятости. Новая волна изменений не должна стать исключением.

К 2030 году искусственный интеллект и автоматизация могут принести мировой экономике $16 трлн. Чтобы получить выгоду от этих процессов, необходимо проявлять инициативность и гибкость.

Джеймс Лавлок, британский ученый, создатель гипотезы Геи, согласно которой Земля функционирует как суперорганизм:

— Как только машины научатся воспроизводить себя сами, они тихо вытеснят человека и станут новым господствующим видом, а Homo sapiens постепенно вымрет. Это будет закат человечества и наступление новой эры — новоцена.

Интерпретаторами будущего станут не люди, но те, кого я называю киборгами, которые сами себя спроектировали. Это самодостаточные, самосознающие потомки современных роботов и систем ИИ.

Со временем киборги полностью переделают экосистему Земли. Не нуждаясь в кислороде или воде, они создадут новый мир, в котором люди, вполне вероятно, жить не смогут. Например, для новой цивилизации может быть выгодным полностью заменить нынешние формы жизни на кремниевые эквиваленты. В этом случае после уничтожения растительности снизится уровень кислорода — и небо станет из голубого коричневым.

Маной Саксена, экс-глава ИИ-отдела IBM:

— Опасаться следует не восстания машин, а повсеместного распространения алгоритмов. Постепенно люди начнут использовать их для принятия любых решений, от диагностики болезней до выбора авиакомпании для путешествия.

Появление этого невидимого «слоя интеллекта» будет такой же революцией, как распространение электричества. Сама по себе технология этически нейтральна, однако ее неправильное применение может навредить людям. В частности, ошибки при обучении нейросетей усилят стереотипы и предвзятость к определенным группам населения.

Homo sapiens постепенно уступит место Homo digitalis — новому виду, который возникнет в результате слияния разума с ИИ. Это может произойти раньше, чем мы предполагаем. Первые шаги к этому уже сделаны: сегодня люди постоянно носят с собой смартфоны и пользуются датчиками для мониторинга здоровья.

Томас Миколов, эксперт Facebook AI Research:

— Есть мнение, что, возможно, нам не стоит создавать ИИ, потому что он уничтожит нас. Но что, если отказ от ИИ и есть самая серьезная угроза существованию людей? Технологии становятся все сложнее, и мы создаем больше искусственных веществ, которые попадают в окружающую среду.

Мы, люди, не умеем заглядывать в будущее. Что случится через 20–30 лет, если мы примем неверное решение? Возможно, именно ИИ поможет нам стать умнее.

Тем не менее угроза появления «господствующей расы» роботов есть. Но есть и способ нейтрализовать ее. Наша стратегия выживания заключается в создании нейротехнологий, то есть в разработке симбиотических отношений между человеком и машиной.

Гади Сингер, вице-президент Artificial Intelligence Products Group корпорации Intel:

— ИИ сейчас способен помочь с совершением новых научных открытий. Сегодня человечество собирает огромное количество данных в самых разных областях. Объемы дошли до такой степени, когда уже тяжело формулировать конкретные вопросы и требования к этим данным. То есть проблема не в том, чтобы получать новую информацию, а в том, чтобы ее правильно обрабатывать, ставить правильные задачи. В этом и должны помочь инструменты ИИ — например, глубинное обучение.

Садхгуру, индийский йогин и мистик:

— Наука и технологии освободили наше поколение от процесса выживания. Хотя это может показаться утопией, но говорят, что через 20–25 лет никому на планете не нужно будет работать. Поэтому многие обеспокоены. Они приглашают меня на разные конференции, посвященные искусственному интеллекту, и спрашивают: «Что нам делать?» Я говорю: «Все ваши профессора будут бесполезны, потому что электронный гаджет сможет защитить десять дипломов за один день». Люди боятся: «Что станет с нашей работой?» Я отвечаю: «Вы будете в отпуске всю жизнь». Это же прекрасно! Вот когда сам по себе человек приобретает значение. Поэтому мы хотим создать инфраструктуру, которая будет взращивать Людей.

Сэм Альтман, глава инкубатора стартапов Y Combinator:

— В ближайшем будущем материальное положение людей серьезно улучшится благодаря ИИ. Общество вступит в эпоху материального изобилия, а мировой ВВП будет вырастать на 50% ежегодно.

На пути к техноутопии общество пройдет коренную трансформацию. Тысячи видов занятости уйдут в прошлое. Целые группы профессий исчезнут и уже никогда не станут актуальными.

Главными проблемами будущего будут поиск смысла жизни и выстраивание общественных связей. Заботиться о покрытии базовых потребностей больше не придется. ИИ поможет искоренить бедность, решить проблему климатических изменений, повысить уровень образования по всему миру и избавить людей от болезней.

Константин Шамбер, эксперт в области ИИ и социальной психологии:

— Если человек не пойдет на определенную форму скрещивания с ИИ, то есть риск, что он может утратить свое интеллектуальное превосходство на Земле. ИИ нового поколения сможет работать в автономном от человека режиме и действовать не только без самого человека, но также и без его базы культурных координат и морально-этических ценностей.

На практике это означает, что ИИ перестанет быть человекоцентричным, коим является сам человек, а станет учитывать всю доступную ему информацию и принимать соответствующие решения — от регулирования биологического разнообразия планеты, сохранения природы до лишения человека управленческой роли на Земле.

Невозможно предугадать, по какому сценарию пойдет дальнейшее развитие человечества, но очевидно, что человек как вид будет вынужден измениться. И эти изменения будут достигнуты не длительным эволюционным путем. Вероятно, человек ускорит свое развитие с помощью машин, посредством синергии с ними. А значит, вступит на дорогу новых возможностей и, что неизбежно, неизвестных рисков. И случится это намного быстрее, чем мы себе представляем.

Лора Нолан, бывший инженер Google, которая ушла из компании в знак протеста против военных контрактов:

— Новое поколение автономных роботов может стать причиной массового истребления мирного населения. Роботы, обладающие вооружением и не управляемые человеком, должны быть объявлены вне закона по тем же причинам, по которым запрещено химическое оружие: они убивают без разбора.

В отличие от дистанционно управляемых беспилотных летательных аппаратов, роботы-убийцы потенциально способны вытворять такие вещи, на которые они изначально не были запрограммированы. Вероятность катастрофы пропорциональна числу таких машин. Роботов могут сбить с толку погодные условия, которые не были учтены при их программировании, или их алгоритмы могут неверно истолковать намерения группы вооруженных людей, приняв мирных охотников за боевиков.

Пол Доэрти, директор по технологиям и инновациям компании Accenture:

— Главный вклад технологии будет состоять в дополнении и усилении человеческих способностей, а не их замене. Мы изучили 1500 компаний, находящихся в процессе автоматизации, и побеседовали с тысячами сотрудников. И выяснили, что наилучшие результаты показывали те организации, где человеческие навыки объединяли с машинными.

Я выделил две крупные категории работ, которые возникают благодаря автоматизации. Первая — это та, в которой люди помогают машинам, обучают, настраивают их. Вторая — та, где, наоборот, машины помогают людям, дают им суперспособности, позволяют действовать с более высокой производительностью.

Сергей Переслегин, российский прогнозист, физик, социолог:

— С момента возникновения нас как биологического вида мы используем принцип, который носит название «монополия на разум». Мы считаем, что только мы можем, имеем право быть разумными. Обратите внимание: на Земле к моменту появления Homo sapiens была масса «проектов» разумных гоминидов. Мы были одним из пяти или шести проектов. Были еще неандертальцы, были филиппинские и индонезийские «хоббиты», был алтайский человек. И все эти протолюди были нами уничтожены. Мы жестко контролируем монополию на разум. При этом, заметьте, обезьян никто не трогал, потому что они на разум не претендуют.

Но искусственный интеллект — это другое. Мы его сами создали, у нас с ним в какой-то мере отношения родителя и ребенка. Это наша попытка стать Творцами, создать разум самим. И мы его не уничтожим, ведь это результат наших интеллектуальных усилий. А это означает, что мы впервые попадаем в условия настоящего «соперничества разумов». У компьютера есть свои очень сильные стороны. У человека — свои сильные стороны. Они разные. И будет очень интересное соревнование.

Плюс, не забудьте, здесь возникает и человеко-машинная система. Ведь всякое состязание — это одновременно и война, и сотрудничество. Возможна наша синергия, когда компьютеры используют свои сильные стороны, а мы свои, — и вместе мы сможем двигаться гораздо быстрее.

Кевин Келли, писатель, футуролог, сооснователь журнала Wired:

— В популярной культуре есть две версии сингулярности — жесткая и мягкая. Жесткая версия будущего обусловлена триумфом суперинтеллекта. Когда мы создадим искусственный разум, способный породить интеллект умнее себя: теоретически он сможет производить поколения еще более умных искусственных разумов. В результате он усовершенствует себя, запустив бесконечный ускоряющийся каскад, в котором каждое более умное поколение появляется быстрее предыдущего. Процесс продолжится до тех пор, пока все эти искусственные интеллекты внезапно не станут такими умными, что решат все существующие проблемы, проявив богоподобную мудрость, и оставят нас, людей, позади. Это считается сингулярностью, поскольку подобный финал находится за пределами того, что мы способны воспринять.

Мягкая сингулярность более вероятна. В этом сценарии будущего искусственный интеллект не станет таким умным, что поработит нас (как злая разновидность умных людей). Скорее, искусственный разум и мы вместе перейдем к более сложной взаимозависимости. В новом режиме наши творения сделают нас более совершенными людьми, которые в то же время не смогут существовать без своих творений.

Майкл Грациано, профессор психологии и неврологии Принстонского университета:

— Помимо ИИ мы можем получить виртуальный мир, населенный цифровыми двойниками живых и умерших людей, он станет центром человеческой цивилизации. А биологическое существование будет аналогом стадии личинки.

Представьте себе, что можно детально отсканировать мозг человека и воссоздать в компьютерной модели его личность, воспоминания и эмоции. Эта технология не просто позволит создавать цифровых двойников, но и откроет дорогу к одной из форм бессмертия, которую обычно называют загрузкой сознания. Возможно, технология станет реальной лишь через несколько столетий, однако не сомневаюсь, что ее появление неизбежно.

Подготовил Николай Алексеев

Фото: Shutterstock

24.12.2019
инновации

Как цифровизация меняет тяжелую промышленность

 

#,
инновации

Российские стартапы расширяют границы

 

#, , , ,
инновации

Как цифровизация меняет тяжелую промышленность

 

#,
инновации

Российские стартапы расширяют границы

 

#, , , ,
анонсы
мероприятий