Издание Guardian обнаружило признаки так называемых ИИ-галлюцинаций в отчёте, подготовленном для правительства Австралии. Речь идёт о случаях, когда искусственный интеллект генерирует недостоверную или вымышленную информацию, выдавая её за факты.

Что обнаружил Guardian

По данным Guardian, в официальном документе, созданном для австралийских властей, были выявлены фрагменты текста, которые, по мнению журналистов, могли быть сгенерированы искусственным интеллектом. В этих частях отчёта содержались сведения, не подтверждённые реальными источниками, что указывает на возможное использование генеративных ИИ-систем без должной проверки фактов.

Риски использования ИИ в государственных документах

Случай с отчётом для правительства Австралии вновь поднимает вопрос о рисках применения искусственного интеллекта при подготовке официальных материалов. Без тщательной проверки сгенерированной информации возможны ошибки и распространение недостоверных данных.

Реакция и последствия

Расследование Guardian привлекло внимание к необходимости более строгого контроля за использованием ИИ в процессе подготовки государственных отчётов и аналитических материалов. На данный момент подробности о реакции австралийских властей на инцидент не сообщаются.