Исследователь Джейкоб Коксон объявил об уходе из Anthropic. По его словам, последние три года он занимался предварительным обучением моделей в OpenAI и Anthropic и пришёл к выводу, что ни одна из компаний не действует достаточно ответственно на фоне ускоряющейся гонки.

Критика гонки за самосовершенствующимся сверхинтеллектом

Коксон заявил: «Они мчатся прямо к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями». По его мнению, ни OpenAI, ни Anthropic не выстраивают достаточные рамки ответственности в условиях такой конкуренции.

Опыт работы в OpenAI и Anthropic

По словам исследователя, в последние три года он занимался предварительным обучением моделей в обеих компаниях. Этот опыт стал основой для его оценки текущих подходов к безопасности и управлению рисками.

Почему это важно

Публичное заявление и уход Коксона акцентируют внимание на вопросах темпов разработки ИИ и баланса между прогрессом и ответственностью. Его позиция добавляет веса дискуссии о рисках стремительного движения к системам с возможностями самосовершенствования.