Бывший исследователь OpenAI и Anthropic Джейкоб Коксон в интервью заявил, что сотрудники ведущих AI‑лабораторий реально допускают риск уничтожения человечества. По его словам, руководители могут смягчать формулировки публично, но в частных разговорах выражают настоящий страх. Фраза «Мы все можем умереть» в этих обсуждениях звучит не как гипербола, а как возможный сценарий.

Главная угроза: самосовершенствование ИИ

Коксон описывает точку наибольшего риска, когда ИИ сможет самостоятельно улучшать себя. Это запустит «взрыв интеллекта»: модели начнут быстро умнеть без участия человека и могут так сильно превзойти людей, что контроль станет невозможен.

Сценарии риска, которые обсуждают внутри компаний

В другом интервью он добавил, что внутри компаний всерьёз обсуждают сценарии, при которых ИИ способен взламывать критическую инфраструктуру или способствовать созданию смертельно опасного вируса.

Гонка продолжается, несмотря на страхи

По словам Коксона, разработчики понимают риски, но не останавливаются: Anthropic опасается OpenAI и Китая и не хочет замедляться первой. Компании фактически оказались в ловушке — каждая боится, что конкурент раньше доберётся до сверхмощного ИИ.