Маск и Возняк требуют приостановить разработку систем ИИ, превосходящих по мощности GPT-4
Глава Tesla Илон Маск, сооснователь Apple Стив Возняк и другие известные бизнесмены в отрасли технологий подписали открытое письмо с просьбой остановить как минимум на полгода обучение систем искусственного интеллекта мощнее, чем GPT-4.
В общей сложности к инициативе присоединились более тысячи человек, среди них сооснователь Skype Яан Таллинн и сооснователь Pinterest Эван Шарп. Письмо выложил в широкий доступ некоммерческий институт Future of Life. В тексте перечислены потенциальные угрозы от развития ИИ.
Авторы письма видят в развитии ИИ перспективы политических и экономических потрясений. Сейчас даже создатели "мощных цифровых умов" не способны понимать их или надежно контролировать. Между тем, современные системы ИИ уже становятся конкурентоспособными в решении общих задач, способны "наводнить информационные каналы пропагандой и неправдой" и заменить человека на важных рабочих местах.
В частности, Google, Microsoft, Amazon и другие американские IT-гиганты начали увольнять специалистов по этике искусственного интеллекта. Десятки сотрудников, которые отвечают за безопасность потребительских товаров, в которых используется ИИ, попали под серьезные сокращения, которые произошли на фоне спада в IT-отрасли.
Чтобы избежать проблем, в озвученный полугодичный срок предлагается создать и внедрить общие протоколы безопасности. Мощные системы ИИ нужно разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски — управляемыми, заявляют бизнесмены. «Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение всех ИИ систем, которые по мощности превосходят GPT-4», — сказано в письме.
Авторы письма отмечают, что системы ИИ с интеллектом, который может состязаться с человеческим, могут предоставлять существенный риск для общества и человечества, это обозначается в обширных исследованиях и признается лучшими ИИ-лабораториями.
Стоит напомнить, что компания OpenAI презентовала новую версию языковой модели с генеративным искусственным интеллектом GPT-4 в марте этого года. На базе данной модели работает многозадачный чат-бот ChatGPT, который показывает производительность на уровне человека и выше в различных профессиональных тестах и способен отвечать почти на любые вопросы пользователей и писать тексты по заданию.
Сооснователь Microsoft Билл Гейтс опубликовал эссе под заголовком «Эпоха ИИ началась», в котором изложил свое представление о будущем искусственного интеллекта. Миллиардер заявил, что работа над технологией «так же фундаментальна, как создание микропроцессора, персонального компьютера, интернета и мобильного телефона».
Также бизнесмен озвучил опасения по поводу ИИ, включая риск того, что люди будут злоупотреблять им, и вероятность, что по мере совершенствования технологии появится сверхразумный ИИ, который мог бы «устанавливать свои собственные цели». При этом ИИ как инструмент не только позволит повысить производительность труда людей, но и сможет ликвидировать глобальное неравенство — на рабочих местах, в здравоохранении и образовании.
ИИ можно будет использовать в качестве «цифрового личного помощника» для повышения личной продуктивности. В сфере здравоохранения ИИ сможет освободить медиков от определенных задач: заполнение страховых заявлений, работа с бумагами и составление записей о посещении врача.
Гейтс считает, что в ближайшие 5-10 лет искусственный интеллект может существенно изменить образование. Алгоритмы будут давать контент, адаптированный к стилям обучения учеников, определять, что мотивирует отдельных учеников и заставляет их терять интерес к предмету. Помимо того, ИИ поможет педагогам готовить учебный план и оценивать, как студенты понимают темы.
Фото: Shutterstock; Unsplash
мероприятий