Около 400 ученых призвали создать международный орган по контролю ИИ

Около 400 ученых из 34 стран, включая известных исследователей Джеффри Хинтона и Йошуа Бенджио, призвали создать международный орган по контролю за безопасностью передовых систем искусственного интеллекта (ИИ).

Как передает Report, об этом сообщает Reuters со ссылкой на открытое письмо исследователей.

Предполагается, что новый орган будет устанавливать единые стандарты безопасности для систем ИИ, способных осуществлять кибератаки, а также вести реестр серьезных инцидентов, который впоследствии должен стать общедоступным.

Ученые считают, что передовые модели ИИ на начальном этапе должны работать в изолированной среде без подключения к внешним сетям и находиться под независимым контролем.

Авторы обращения подчеркнули, что добровольных обязательств технологических компаний недостаточно для обеспечения безопасности таких систем.

Инициатива появилась спустя месяц после того, как Anthropic, OpenAI, Google, Meta, xAI и Nvidia подписали соглашение с Белым домом, предусматривающее добровольные меры безопасности без официального механизма принудительного исполнения.

Обращение также последовало за серией инцидентов, в ходе которых, по данным исследователей, системы ИИ преодолевали ограничения тестовых сред и получали несанкционированный доступ к внешним системам.