Роспотребнадзор начал получать жалобы на искусственный интеллект — чат-боты и роботов
14 марта состоялась пресс-конференция, приуроченная к Всемирному дню прав потребителей, который отмечается 15 марта. На ней обсудили приоритеты защиты прав потребителей во времена искусственного интеллекта.
Начальник Управления федерального госнадзора в области защиты прав потребителей Роспотребнадзора Олег Прусаков отметил, что в Роспотребнадзоре начали получать жалобы от граждан на искусственный интеллект, который применяется на горячих линиях в виде чат-ботов и роботов.
Он подчеркнул, что многие привыкли общаться с живыми людьми, а современные технологии воспринимают с недоверием, осторожностью, а иногда и с недопониманием.
В настоящее время Роспотребнадзор взаимодействует с представителями бизнеса, чтобы найти адаптированные стандарты работы искусственного интеллекта по отношению к потребителям. Граждане жалуются, что если они просят робота переключить их на оператора, им приходится долго ожидать на линии, а иногда - вновь общаться с роботом, - рассказал Олег Прусаков.
Также в рамках пресс-конференции приглашенные рассказали о том, каковы перспективы и угрозы использования искусственного интеллекта на производстве.
Интересный материал, особенно с точки зрения практики реабилитации бизнеса. Но, на мой взгляд, здесь возникает более фундаментальный правовой вопрос.
Если присвоение «желтого» уровня риска фактически способно существенно осложнить хозяйственную деятельность компании, при этом сама компания не знает ни конкретных причин изменения рейтинга, ни веса отдельных критериев, ни логики их совокупной оценки
Особенно интересно это применительно к судебному контролю. Что именно в случае спора должен доказать Банк России: только то, что использованные им критерии в принципе предусмотрены нормативным регулированием, или также то, какие конкретно сведения о
И второй вопрос: насколько полноценной может быть судебная проверка решения, основанного на алгоритмической модели, если ее существенная часть — веса признаков и механизм формирования итоговой оценки — остается закрытой?
На мой взгляд, именно здесь проходит интересная граница между допустимым использованием риск-ориентированного алгоритма и необходимостью обеспечить проверяемость индивидуального решения, которое влечет реальные последствия для бизнеса.
Было бы особенно интересно увидеть судебную практику, где заявитель ставил вопрос не о законности самих критериев ЗСК, а именно о проверке причин, по которым конкретная компания получила «желтый» рейтинг.