Anthropic опубликовала обновлённую Политику использования для моделей Claude; новая редакция вступит в силу 12 ноября. Компания ввела дополнительные запреты на создание инструментов слежки и обеспечение работы оружия, объединила правила против дезинформационных кампаний и уточнила требования к применению ИИ в высокорисковых сценариях.
Единые правила против вводящих в заблуждение кампаний
Ограничения, касающиеся дезинформации и искусственной активности, собраны в отдельный раздел «Не участвуйте во вводящих в заблуждение кампаниях или искусственной деятельности». Он охватывает как политические, так и коммерческие кейсы и запрещает скрывать спонсоров сообщений, искусственно распространять контент через фейковые аккаунты и публикации, а также создавать инструменты и инфраструктуру для операций влияния.
Изменения по выборам: отказ от полного запрета таргетинга
Раздел о выборах переименован в «Не подрывайте демократические процессы». Запрещено вводить избирателей в заблуждение или срывать выборы, включая распространение ложной информации, выдачу себя за кандидатов или должностных лиц и попытки препятствовать явке. При этом отменён абсолютный запрет на персонализированный таргетинг избирателей: легитимные информационные материалы допускаются, тогда как обман и злоупотребление персональными данными по-прежнему под запретом.
Запреты на разработку оружия и программные компоненты
Политика теперь прямо охватывает программное обеспечение и компоненты, обеспечивающие работу оружия, включая системы наведения и управления, а также вооружение дронов и других автономных транспортных средств.
Ограничения на слежку и решения в уголовном процессе
Запрещено отслеживать людей без их согласия как в реальном времени, так и по ранее собранным данным. Claude нельзя использовать для принятия решений или рекомендаций о том, кого расследовать, задерживать или обвинять. Разрешены, в частности, отслеживание с согласия для выявления мошенничества, модерация контента, журналистика и юридические исследования.
Требования для высокорисковых сценариев
В сферах, где рекомендации модели могут влиять на здоровье, законные права, финансы, средства к существованию или доступ к жизненно важным услугам, должна быть вовлечена квалифицированная проверка человеком с возможностью корректировки рекомендаций модели.
