Юваль Ной Харари: как искусственный интеллект угрожает человечеству?

Профессор Юваль Ной Харари, историк Еврейского университета в Иерусалиме и автор мировых бестселлеров, размышляет о будущем искусственного интеллекта и предупреждает о возможных последствиях его использования.

Юваль Ной Харари подробно рассказал, как искусственный интеллект может угрожать человеческой цивилизации. Представляем вам основные тезисы из выступления ученого:

1. ИИ может помочь нам преодолеть экологический кризис, но может и сделать его намного, намного хуже. На самом деле, ИИ, возможно, изменит сам смысл экологической системы, потому что в течение 4 миллиардов лет экологическая система планеты Земля включала в себя только органические формы жизни, а сейчас или в ближайшем будущем мы можем увидеть появление первых за миллиарды лет неорганических форм жизни или, по крайней мере, неорганических агентов.

2. По состоянию на апрель 2023 года искусственный интеллект все еще далек от того, чтобы представлять значительную угрозу для человечества: он не имеет сознания и не умеет должным образом ориентироваться в пространстве.

3. Однако искусственный интеллект может угрожать выживанию человеческой цивилизации по-другому. Самый важный аспект нынешней фазы продолжающейся революции ИИ заключается в том, что ИИ овладевает языком на уровне, превосходящем средние человеческие способности. Другими словами, ИИ только что взломал операционную систему человеческой цивилизации.

4. Все сейчас обеспокоены тем, что дети пишут сочинения через ChatGPT. Забудьте об этом. Подумайте, например, о следующей президентской гонке в США в 2024 году и попытайтесь представить себе влияние новых инструментов искусственного интеллекта, которые могут массово выпускать политические манифесты, фальшивые новости и даже священные писания для новых культов.

5. Нам бессмысленно тратить свое время, пытаясь убедить бота ИИ изменить свои политические взгляды, но чем дольше мы общаемся с ботом, тем лучше он узнает нас и понимает, как адаптировать свои сообщения, чтобы изменить наши политические взгляды, или наши экономические взгляды, или что-либо еще.

6. Благодаря владению языком ИИ, как я уже говорил, может также устанавливать интимные отношения с людьми. Сейчас нет никаких признаков того, что ИИ обладает сознанием или чувствами, но для создания фальшивой близости с людьми ИИ не нужны собственные чувства, ему нужно только уметь вызывать в нас чувства, чтобы заставить нас привязаться к нему.

7. Нам трудно даже представить себе возможности новых инструментов ИИ, а также скорость, с которой они продолжают развиваться.

8. Есть шанс, что в течение очень короткого времени вся рекламная индустрия рухнет, а ИИ или люди и компании, контролирующие новые ИИ, станут чрезвычайно могущественными.

9. То, о чем мы потенциально говорим, есть не что иное, как конец человеческой истории. Не конец истории вообще, но конец той части истории, где главенствовал человек.

10. В течение нескольких лет ИИ может поглотить всю человеческую культуру, все, что производилось в течение тысяч и тысяч лет.

11. ИИ принципиально отличается от печатного станка, от радиоприемника, от всех предыдущих изобретений в истории, потому что он может создавать совершенно новые идеи, он может создавать новую культуру и основной вопрос в том, каково это — воспринимать реальность через призму, созданную нечеловеческим, чуждым нам интеллектом.

12. Просто овладев человеческим языком, ИИ имеет все необходимое для того, чтобы погрузить нас в мир иллюзий, подобный Матрице. Теперь ИИ, вероятно, сможет манипулировать сознанием людей, и когда он действительно сможет это делать, ему не нужно будет посылать роботов-убийц, чтобы стрелять в нас, он сможет заставить людей нажать на курок, если ему это понадобится.

13. Для того, чтобы убедиться, что новые инструменты ИИ используются во благо, а не во вред, мы должны сначала оценить их истинные возможности и очень тщательно их регулировать. Я не говорю о прекращении всех исследований в области ИИ, первый шаг — это прекращение их выпуска в публичную сферу.

14. ИИ может породить более мощный ИИ, поэтому нам нужно действовать быстро, пока ИИ не вышел из-под нашего контроля.

15. Не приведет ли замедление публичного внедрения ИИ к отставанию демократических стран от более безжалостных авторитарных режимов? И ответ — нет, абсолютно нет, ровно наоборот. Нерегулируемое внедрение ИИ — это то, что приведет к тому, что демократии проиграют диктатурам. Потому что, если мы развяжем хаос, авторитарные режимы смогут легче сдержать этот хаос, чем открытые общества.