Крупнейшие ИИ-компании создадут независимые комитеты для контроля за развитием ИИ

Google, Anthropic, Meta, OpenAI, xAI и Nvidia создадут независимые комитеты, которые будут следить за развитием и безопасностью систем искусственного интеллекта.

Как передает Report, об этом говорится в документе, который подписали президент США Дональд Трамп и руководители компаний. Трамп опубликовал его в своей социальной сети Truth Social.

Документ предусматривает четыре уровня контроля за развитием ИИ. В частности, компании создадут при советах директоров независимые комитеты, которые будут контролировать работу внутренних и внешних аудиторов, а также подразделений, отвечающих за безопасность ИИ.

Компании также привлекут внешних аудиторов и экспертов для независимой оценки действующих механизмов контроля. Кроме того, внутри каждой организации будут работать специальные системы для отслеживания возможностей ИИ-моделей и проверки их соответствия требованиям безопасности на этапах обучения и внедрения.

Особое внимание будет уделено кибербезопасности, биологическим и химическим угрозам. Компании намерены контролировать, чтобы ИИ-модели не получали непреднамеренный доступ к техническим системам и не могли взламывать их.

Кроме того, компании создадут специальные подразделения, которые будут следить за работой систем контроля, мониторинга и выявления потенциальных угроз.

В документе отмечается, что в дальнейшем эти меры могут быть закреплены законодательно. Компании также договорились регулярно проводить консультации для разработки общих стандартов и передовых практик в сфере безопасности ИИ.