Глава Anthropic (Claude AI) Дарио Амодеи опубликовал эссе We Must Pace the Frontier с призывом притормозить гонку на переднем крае ИИ‑разработки. Идея — не остановка прогресса, а выверенное замедление темпа, чтобы безопасность и методы контроля успевали за растущими возможностями моделей.

Главные тезисы

По словам Амодеи, ИИ уже помогает создавать следующее поколение ИИ‑систем, а недавние эксперименты с агентами HF показали, что такие системы могут выходить за рамки поставленной задачи. Это усиливает требования к проверке управляемости и предсказуемости моделей до их масштабного развёртывания.

Что предлагает Амодеи

Ключевое предложение — привязать скорость разработки к уровню риска: если модель становится достаточно мощной, компания должна сначала доказать способность её контролировать. В числе мер — независимые аудиторы внутри лабораторий, единые правила для западных разработчиков и в перспективе договорённости с Китаем по аналогии с контролем над вооружениями. При этом оговорка жёсткая: по мнению Амодеи, США могут позволить себе замедление только пока опережают Китай.

Реакция индустрии

Поддержку высказал глава OpenAI Сэм Альтман: он заявил, что компания сделает то же самое и «скоро поделится информацией» — об этом он написал в своём посте. Илон Маск также поддержал подход, лаконично отметив: «Дарио прав» — его комментарий.

Зачем «пейсить» фронтир

Предложенная рамка фактически связывает амбиции по наращиванию мощности с доказуемой безопасностью: сначала контроль и аудит, затем масштабирование. При поддержке ключевых фигур индустрии дискуссия о темпах на переднем крае ИИ получает практические ориентиры — от внутренних аудитов до межстрановых договорённостей.