Эксперт предупредил об утечках при загрузке рабочих документов в нейросети

Загрузка рабочих документов в публичные нейросети может привести к потере контроля над корпоративной информацией. Об этом «Клерку» рассказал эксперт по сетевым угрозам компании «Код Безопасности» Константин Горбунов.

Риски возникают при передаче ИИ договоров, бухгалтерских документов, внутренней отчетности и других рабочих файлов. Информация в таком случае покидает корпоративный контур и передается на серверы стороннего сервиса.

«При этом неизвестно, кто именно может получить к ним доступ, попадут ли они в обучающую выборку модели, а также где физически хранятся файлы и как долго. Контроль над информацией в этом случае полностью утрачивается», — пояснил Горбунов.

Особую осторожность следует соблюдать с персональными данными клиентов и сотрудников. Их передача публичным нейросетям создает риск утечки и последующего использования информации в мошеннических схемах. Кроме того, даже косвенные сведения способны раскрыть внутренние процессы компании и стать ориентиром для хакерских атак.

Не стоит загружать во внешние ИИ-сервисы и сведения, которые компания относит к коммерческой тайне. Это могут быть бизнес-стратегии, технологические решения, уникальные ноу-хау, условия партнерских соглашений, а также документы и данные, переданные в рамках NDA. Конкретный перечень таких сведений определяется внутренними положениями компании.

Чтобы снизить риски, работодателям следует закрепить правила использования ИИ в локальных актах. В частности, определить категории данных, которые нельзя передавать внешним сервисам, составить перечень разрешенных инструментов и установить требование об обезличивании информации перед загрузкой. Сотрудников также стоит обучать безопасной работе с нейросетями.

Если использовать ИИ для работы с корпоративной информацией все же необходимо, Горбунов рекомендует загружать только нужный фрагмент документа, а не файл целиком, предварительно сверившись с внутренними правилами компании. Для особо чувствительных данных эксперт советует использовать локально развернутые модели внутри корпоративного контура.