Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, занимавшийся предварительным обучением AI‑моделей, заявил, что уволился из‑за страха, что искусственный интеллект может уничтожить человечество. По его словам, ведущие лаборатории фактически участвуют в гонке за создание самоулучшающегося сверхинтеллекта. «Люди, создающие AI, искренне верят, что он может убить нас всех к концу десятилетия», — говорит Коксон.

Гонка за сверхинтеллектом

Коксон утверждает, что в Anthropic риски понимают особенно хорошо, но работа над всё более мощными системами продолжается: в компании опасаются, что первую по‑настоящему опасную форму сверхинтеллекта может создать конкурент, если они притормозят.

Что говорит Anthropic о рисках

С ним публично согласился специалист Anthropic по AI‑безопасности Эван Хубингер. Он оценивает вероятность того, что ИИ уничтожит человечество в течение следующего десятилетия более чем в 10% и признаёт, что готового решения проблемы безопасности сверхинтеллекта пока нет.