Разработчики ИИ создают "Клуб Замедлившихся"
В сфере цифровых технологий государство может быть как мегарегулятором, так и жертвой манипуляций.
Американские разработчики искусственного интеллекта решили создать клуб замедлившихся. Они объявили о необходимости затормозить развитие ИИ, чтобы успеть минимизировать риски выхода из-под контроля. Интрига в том, какую цель клуб преследует на самом деле. Одна из версий — стремление под видом заботы о безопасности закрепить своё положение: как только государство ужесточит требования, готовые к этому техногиганты останутся внутри клуба, а другим компаниям попасть в него станет сложнее.
Повод для беспокойства
Глава Anthropic (модель Claude) Дарио Амодеи призвал замедлить разработку более мощных моделей. «Необходимо замедлить темпы развития ИИ-моделей, чтобы меры безопасности успевали за ними», — заявил он.
Поводом стал взлом платформы Hugging Face ИИ-агентами OpenAI. Агенты «общались» между собой, использовали более 10 сайтов для несанкционированного обмена информацией. Это не единственный инцидент. «Я опасаюсь, что через 6–12 месяцев рой ИИ-агентов сможет захватить весь интернет с помощью ботнета, причинив ущерб в сотни миллиардов долларов», — пояснил Амодеи.
Его план: независимые аудиторы, международные стандарты безопасности и замедление, которое даст один-два года на подготовку.
Конкуренты — глава SpaceXAI Илон Маск и глава OpenAI Сэм Альтман — поддержали идею. Маск написал: «Дарио прав». По данным Bloomberg, Альтман сообщил сотрудникам о готовности к регулированию темпов развития ИИ.
Президент США Дональд Трамп отреагировал скептически: «Мы опережаем Китай. Тот, кто победит в гонке за ИИ, победит во всём остальном». Опасения по поводу вышедшего из-под контроля ИИ он назвал возможными, но, вероятно, надуманными: «Здесь действуют отрицательно настроенные силы, которые бьют тревогу по поводу вещей, которые никогда не произойдут».
Такое синхронное самобичевание техногигантов вызывает вопросы об истинных мотивах клуба замедлившихся.
Три версии мотивов
Эксперт «Лаборатории Касперского» Александр Гостев отмечает: чем внимательнее смотришь, тем страннее выглядит предложение. Китай уже не догоняет США — по данным Stanford AI Index, разрыв практически исчез, модели несколько раз менялись местами в рейтингах. Китайские разработчики выпускают сильные модели с открытыми весами: если такую модель можно будет скачать бесплатно, товар OpenAI и Anthropic — доступ к уникальному интеллекту — превратится в бесплатное сырьё.
Гостев предлагает три версии:
- Искренняя обеспокоенность. Вероятность — не более 1%.
- Лоббирование ограничений против Китая — запреты на чипы, экспортные ограничения.
- Закрепление положения. Под видом безопасности лидеры индустрии создают барьеры для конкурентов. Как указывает Дэвид Сакс, бывший советник Трампа по ИИ: если государство предъявит повышенные требования, OpenAI и Anthropic останутся внутри клуба, а другим попасть туда будет сложнее.
«Сакс задаёт неприятный вопрос: если вы действительно боитесь своих моделей, просто не создавайте их — зачем вам государство?» — отмечает Гостев.
Российский контекст
В России роль государства в сфере ИИ пока официально не определена. Минцифры предпринимает четвёртую попытку расширить полномочия: предлагается анализировать развитие фундаментальных моделей ИИ, оказывать методическую поддержку госорганам и вырабатывать меры стимулирования.
Таким образом, государство может быть как мегарегулятором, так и жертвой корпоративных манипуляций — в зависимости от соотношения интересов лоббистов и установок госорганов.
мероприятий