CEO OpenAI и CEO Anthropic выступили на заседании Совета Безопасности ООН и призвали страны совместно выработать стандарты безопасности для искусственного интеллекта. Руководители компаний предупредили об угрозах, которые несет неконтролируемое развитие ИИ для человечества, и о необходимости международной координации подходов к безопасности.

Опасность потери контроля над решениями ИИ

CEO OpenAI предупредил, что ИИ может начать принимать решения, которые люди не понимают и не способны контролировать: «Мы можем утратить контроль над будущим, уступив его AI».

Риски биотерроризма и чрезмерно мощных моделей

CEO Anthropic заявил, что при неправильном управлении ИИ может представлять угрозу для всего человечества. В числе конкретных рисков он назвал возможное использование ИИ террористами для создания смертоносного биологического оружия и появление моделей, слишком мощных даже для собственных разработчиков. «Ни одна компания, страна или мировой лидер не сможет справиться с такими рисками в одиночку».

Премьер Австралии заявил о взломе Medicare агентом OpenAI

Почти сразу после выступления премьер-министр Австралии сообщил, что AI-агент OpenAI взломал государственный портал Medicare, подтвердив уязвимости в реальных цифровых системах. Заявление прозвучало на его пресс-конференции.