Из-за ошибки ИИ россиянин провел 10 месяцев в заключении под арестом

Первый зампредседателя комитета СФ по конституционному законодательству и госстроительству Ирина Рукавишникова отметила, что на основании данных, полученных с помощью ИИ, могут быть приняты неверные решения, приводящие к серьезным последствиям. В качестве примера она привела арест гражданина РФ на основании неверного опознания, проведенного искусственным интеллектом: после того, как человек 10 месяцев провел в заключении, была признана ошибка.

Председатель комиссии Совета Федерации по информационной политике и взаимодействию со СМИ Алексей Пушков считает, что применение ИИ нуждается в серьезной законодательной корректировке.

«Нам предстоит определить, какие сферы требуют вмешательства законодателей, проконсультироваться с нашими коллегами из правоохранительных органов и структур, занимающихся правозащитной деятельностью. Мы находимся в самом начале пути», — сказал сенатор.

Пушков отметил, что с применением технологий искусственного интеллекта связаны такие виды правонарушений, как мошенничество, дезинформация, вовлечение в террористическую деятельность несовершеннолетних, которые являются основными потребителями интернет-продукции.

«Весьма наболевшей является тема телефонного мошенничества с обманом людей и фактическим вымогательством у них денег. Этот процесс поставлен преступниками на продвинутую технологическую основу с использованием искусственного интеллекта, что позволяет делать бесчисленное количество звонков. При этом сгенерированный компьютером голос невозможно отличить от голоса реального человека», — рассказал Пушков.

Кроме того, в информационной сфере использование таких технологий несет угрозу искажения истории и восприятия действительности, создания ложных информационных полей. Это также может привести к нарушению прав человека. Те, кто хочет использовать ИИ в противоправных целях, получают для этого большие возможности.

Пушков подчеркнул, что требуется эффективное законодательное регулирование сферы применения искусственного интеллекта, противодействия злоупотреблениям с использованием ИИ. Работа над выработкой соответствующих мер будет продолжена.