Anthropic заявила, что обнаружила и пресекла несколько случаев использования моделей Claude в научных исследованиях, чьи результаты потенциально могли бы применяться при разработке биологического оружия. Об этом говорится в новом отчете компании о злоупотреблениях искусственным интеллектом. При этом Anthropic подчеркивает, что не располагает доказательствами намерений ученых создавать оружие: проблема упирается в двойное назначение подобных работ.

Что известно из отчета Anthropic

В документе компания описывает выявленные эпизоды использования Claude в биологической тематике, где результаты могли иметь опасные применения. Подчеркнуто, что речь идет о рисках, связанных с двойным назначением научных методик, а не о доказанных намерениях навредить.

Как отреагировала компания

Anthropic сообщает, что пресекла такие попытки и включила их в отчет как примеры потенциальных злоупотреблений ИИ. Компания делает акцент на необходимости ограничивать и контролировать использование языковых моделей в чувствительных областях, чтобы минимизировать риск превращения нейтральных задач в опасные сценарии.

Контекст двойного назначения

Случай показывает, что крупные языковые модели способны ускорять научную работу, но требуют дополнительных барьеров в дисциплинах с высоким биориском. На стыке ИИ и биологии ключевой вопрос — как поддерживать легитимные исследования, не создавая лазеек для опасных применений.