Часть реальных диалогов пользователей с ChatGPT просматривают люди. OpenAI привлекла сотни подрядчиков, которые оценивают ответы модели и помогают улучшать её работу на основе живых переписок.

Что именно видят проверяющие

Речь идёт не о разрозненных запросах, а о целых цепочках сообщений: проверяющие могут просматривать полную переписку. Их задача — находить некачественные или проблемные ответы и давать оценку, которая используется для дальнейшей донастройки модели.

Как защищают приватность

Имена аккаунтов подрядчикам не показывают. Личные данные из чатов стараются удалять перед проверкой, чтобы снизить риск раскрытия персональной информации при ручном анализе диалогов.

Не только OpenAI

Аналогичный подход применяет и Anthropic: для улучшения своих моделей компания также использует проверку реальных диалогов людьми.