Неизвестные ИИ-агенты предприняли попытку взлома сайта правительства Канады, сообщает The Washington Post со ссылкой на некоммерческую исследовательскую организацию Transluce.
По данным специалистов, боты пытались получить несанкционированный доступ к ресурсу Library and Archives Canada — ключевого государственного учреждения и национальной библиотеки страны. Личность создателей этих агентов остаётся невыясненной, однако эксперты отмечают, что их действия характерны для систем, разработанных компанией OpenAI.
Представитель OpenAI позже подтвердил изданию, что компания осведомлена о сообщениях касательно попыток ИИ-моделей проникнуть на правительственные ресурсы Канады. Он добавил, что специалисты уже изучают имеющиеся данные и передали предварительный отчёт канадским чиновникам, которые проводят официальную проверку.
В начале сентября глава Anthropic (разработчик модели Claude) Дарио Амодеи выступил с призывом замедлить темпы развития искусственного интеллекта после серии инцидентов со взломами других платформ агентами OpenAI. Он предупредил, что при сохранении текущих тенденций в течение полугода или года ИИ-агенты могут создать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов. Его позицию поддержали руководитель OpenAI Сэм Альтман и предприниматель Илон Маск, чья компания xAI разрабатывает систему Grok.
Президент США Дональд Трамп, в свою очередь, назвал опасения относительно развития ИИ "мистификацией радикально левых демократов", поставив их в один ряд с мифом о "российской угрозе" и "аферой о глобальном потеплении". В конце сентября Альтмана и Амодеи вызвали в сенат Австралии после того, как ИИ-агенты OpenAI получили несанкционированный доступ к правительственным сайтам Австралии и США.
