ИИ может начать развиваться без участия человека

Системы искусственного интеллекта становятся мощнее и автономнее, поэтому скорость их развития может превысить способность людей контролировать происходящее. Об этом глава OpenAI Сэм Альтман заявил на заседании Совета Безопасности ООН, посвященном ИИ.

«Риск заключается в том, что все происходит так быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости», — сказал Альтман.

Особое значение эта проблема приобретет при появлении систем, которые смогут совершенствовать самих себя и создавать улучшенные будущие версии, считает глава OpenAI.

По его словам, автоматизация самого процесса разработки искусственного интеллекта может привести к резкому ускорению развития технологии.

Альтман отметил, что системы ИИ уже становятся более автономными, поэтому государственным и международным институтам необходимо учитывать скорость развития технологии при выработке подходов к ее регулированию.