Неизвестные ИИ-агенты пытались взломать сайт правительства Канады

Неизвестные ИИ-агенты попытались взломать сайт канадского правительства.

Как передает Report, об этом пишет The Washington Post (WP) со ссылкой на некоммерческую организацию по исследованию ИИ Transluce.

Исследователи сообщили, что ИИ-агенты пытались получить доступ к Library and Archives Canada - главному государственному органу и национальной библиотеке страны. Чьи именно это были агенты - неизвестно, однако, по словам специалистов, их поведение напоминает OpenAI.

В начале сентября глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.

Призыв Амодеи поддержали глава OpenAI (разрабатывает ChatGPT) Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.