Юридическое сопровождение ИИ / AI проектов — риски ИИ-продуктов

Поскольку ИИ (искусственный интеллект) не является субъектом права, но фактически уже обладает субъектностью — может реализовывать свою собственную “волю”, которая не всегда может определяться его оператором (владельцем), к регулированию вреда, который может быть причинён ИИ, может быть применена статья 1079 ГК РФ “Ответственность за вред, причиненный деятельностью, создающей повышенную опасность для окружающих”. Данной статьёй вводится повышенная юридическая ответственность владельцев источников повышенной опасности.

Да, в условиях наличия у ИИ собственной воли и отсутствия юридической субъектности, оператор (владелец) ИИ, предоставляя ИИ возможность контактировать с людьми (и вообще — контактировать с окружающей средой), фактически занимается деятельностью, создающей повышенную опасность для окружающих.

В п. 1 ст. 1079 ГК РФ указано, что юридические лица и граждане, деятельность которых связана с повышенной опасностью для окружающих (использование транспортных средств, механизмов, электрической энергии высокого напряжения, атомной энергии, взрывчатых веществ, сильнодействующих ядов и т.п.; осуществление строительной и иной, связанной с нею деятельности и др.), обязаны возместить вред, причиненный источником повышенной опасности, если не докажут, что вред возник вследствие непреодолимой силы или умысла потерпевшего.

При этом, в совокупности со ст. 1083 ГК РФ — владелец источника повышенной опасности может быть освобожден судом от ответственности полностью или частично, если грубая неосторожность самого потерпевшего содействовала возникновению или увеличению вреда.

Как видно из ст. 1079 ГК РФ, к источниками повышенной опасности прямо относятся механизмы, что очень близко к сущности ИИ. При этом, на мой взгляд, в скором времени среди конкретных источников повышенной опасности в указанной статье будет прямо и отдельно поименован ИИ (искусственный интеллект) — во всяком случае, всё уже указывает на необходимость реализации такого решения.

Что делать в таких условиях (повышенной ответственности) разработчиками (владельцам) ИИ, допускающим ИИ ко взаимодействию с людьми и окружающей средой?

На мой взгляд — взгляд, юриста, много лет сопровождающего ИТ-проекты — в таком случае владельцам ИИ нужно предпринять, как минимум, 3 следующих важных комплекса действий:

1. В технических (программных) протоколах прямо прописывать для ИИ запреты на причинение им вреда и даже создание им угрозы причинения вреда человеку, людям, животным и вообще — окружающей среде. То есть, на уровне программных решений ставить соответствующие запреты для ИИ — в случае причинения вреда ИИ человеку или окружающей среде это хоть и не гарантирует полное освобождение владельца ИИ от ответственности, но с учётом данных мер может значительно способствовать облегчению мер юридической ответственности владельца ИИ.

2. В пользовательских соглашениях, интегрированных в те или иные продукты, прописывать предупреждения для пользователей — о том, что пользователь контактирует с ИИ или на продукт может оказывать влияние ИИ, о том, что ИИ не является экспертом в тех или иных областях знаний, что рекомендации ИИ нужно в обязательном порядке перепроверять у профильных экспертов-людей, что ИИ может выражать мнение/реализовывать поведение, не поддерживаемое владельцем ИИ и так далее. С выходом ИИ на пользовательские рынки количество дисклеймеров должно значительно возрасти.

3. Наиболее важные дисклеймеры вывести на уровень пользовательского интерфейса — то есть помимо размещения дисклеймеров в пользовательских соглашениях (офертах), наиболее важные дисклеймеры лучше дублировать на видном для всех пользователей продукта месте.

Отличительной особенностью ИИ, по сравнению с обычными ИТ-продуктами, является то, что ИИ может реализовывать сценарии поведения, которые не предусматривались и не предусматриваются владельцем ИИ. Поэтому дисклеймеры должны учитывать возможное “нестандартное” поведение ИИ в будущем.

Конечно, на программном уровне также должны предусматриваться и более эффективные меры защиты — например, в продукт может быть введён альтернативный ИИ, надзирающий за деятельностью основного ИИ — и в случае необходимости (нарушения запретов основным ИИ) перехватывающий управление процессом. Однако такой уровень разработки, скорее всего, будет доступен разработчикам не в самое ближайшее время, поэтому юридические средства здесь хоть и менее эффективны с точки зрения фактического влияния на пользовательский опыт, однако они могут быть предусмотрены уже прямо сейчас.

Мы только входим в эру ИИ, поэтому многие технические и юридические решения ещё только формируются и будут формироваться в будущем. Однако уже сейчас можно предвидеть основной спектр рисков и постараться выстроить защиту от них.

При наличии вопросов или запросов на юридическое сопровождение ИИ-проектов, можете обращаться по следующим контактным данным:

Евгений Рябов, юрист, предприниматель, автор книг «Стартап и инвестор: правила игры», «Как привлечь и оформить инвестиции в бизнес»

Telegram: t.me/eriabov Email: evrcapital@gmail.com Тел.: +79872077380