ИИ может начать развиваться без участия человека
Искусственный интеллект может начать развиваться быстрее, чем люди и государственные институты смогут реагировать на изменения. Риски возрастут с появлением систем, способных совершенствовать самих себя.
Системы искусственного интеллекта становятся мощнее и автономнее, поэтому скорость их развития может превысить способность людей контролировать происходящее. Об этом глава OpenAI Сэм Альтман заявил на заседании Совета Безопасности ООН, посвященном ИИ.
«Риск заключается в том, что все происходит так быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости», — сказал Альтман.
Особое значение эта проблема приобретет при появлении систем, которые смогут совершенствовать самих себя и создавать улучшенные будущие версии, считает глава OpenAI.
По его словам, автоматизация самого процесса разработки искусственного интеллекта может привести к резкому ускорению развития технологии.
Альтман отметил, что системы ИИ уже становятся более автономными, поэтому государственным и международным институтам необходимо учитывать скорость развития технологии при выработке подходов к ее регулированию.
Алёна СветуньковаШеф-редактор отдела новостей