Anthropic опубликовала обновлённую Политику использования для моделей Claude; новая редакция вступит в силу 12 ноября. Компания ввела дополнительные запреты на создание инструментов слежки и обеспечение работы оружия, объединила правила против дезинформационных кампаний и уточнила требования к применению ИИ в высокорисковых сценариях.

Единые правила против вводящих в заблуждение кампаний

Ограничения, касающиеся дезинформации и искусственной активности, собраны в отдельный раздел «Не участвуйте во вводящих в заблуждение кампаниях или искусственной деятельности». Он охватывает как политические, так и коммерческие кейсы и запрещает скрывать спонсоров сообщений, искусственно распространять контент через фейковые аккаунты и публикации, а также создавать инструменты и инфраструктуру для операций влияния.

Изменения по выборам: отказ от полного запрета таргетинга

Раздел о выборах переименован в «Не подрывайте демократические процессы». Запрещено вводить избирателей в заблуждение или срывать выборы, включая распространение ложной информации, выдачу себя за кандидатов или должностных лиц и попытки препятствовать явке. При этом отменён абсолютный запрет на персонализированный таргетинг избирателей: легитимные информационные материалы допускаются, тогда как обман и злоупотребление персональными данными по-прежнему под запретом.

Запреты на разработку оружия и программные компоненты

Политика теперь прямо охватывает программное обеспечение и компоненты, обеспечивающие работу оружия, включая системы наведения и управления, а также вооружение дронов и других автономных транспортных средств.

Ограничения на слежку и решения в уголовном процессе

Запрещено отслеживать людей без их согласия как в реальном времени, так и по ранее собранным данным. Claude нельзя использовать для принятия решений или рекомендаций о том, кого расследовать, задерживать или обвинять. Разрешены, в частности, отслеживание с согласия для выявления мошенничества, модерация контента, журналистика и юридические исследования.

Требования для высокорисковых сценариев

В сферах, где рекомендации модели могут влиять на здоровье, законные права, финансы, средства к существованию или доступ к жизненно важным услугам, должна быть вовлечена квалифицированная проверка человеком с возможностью корректировки рекомендаций модели.