Глава Anthropic предупредил об угрозе ИИ для человечества

Технологии искусственного интеллекта (ИИ) в случае утраты контроля над ними могут представлять угрозу для человечества в целом.

Как передает Report, об этом заявил генеральный директор американской технологической компании Anthropic Дарио Амодеи на заседании Совета Безопасности ООН по вопросам искусственного интеллекта.

"Я даже полагаю, что ИИ может представлять угрозу человечеству в целом", - сказал Амодеи.

По его словам, ИИ развивается чрезвычайно быстро. Еще четыре года назад технологии едва справлялись с написанием строк кода и решением математических задач для старшеклассников, тогда как теперь ИИ пишет большую часть кода Anthropic и решает известные нерешенные математические задачи.

Амодеи отметил, что при сохранении нынешних темпов развития ИИ уже в течение ближайших одного-двух лет, а возможно, и раньше, может достичь уровня, который он назвал "страной гениев в дата-центре".

По словам главы Anthropic, передовые модели ИИ способны принести человечеству значительную пользу, однако сопряжены и с серьезными рисками. Он выделил две основные категории угроз: ненадлежащее использование ИИ, в том числе биотеррористами для создания биологического оружия, и возможную утрату контроля над технологиями.

Амодеи заявил о готовности Anthropic "замедлять скорость [развития ИИ] настолько, насколько потребуется", чтобы обеспечить безопасность выпускаемых компанией технологий.

При этом он подчеркнул, что решение связанных с ИИ проблем выходит за рамки возможностей одной компании и требует общеотраслевого и глобального подхода.