Цифровой концлагерь начинается не с решётки, а с кнопки «Согласен»

Фраза из книги главы Palantir Александра Карпа:

“Silicon Valley has lost its way.”
«Кремниевая долина сбилась с пути».

СПРАВКА: Palantir Technologies — американская IT-компания, которая делает платформы для анализа данных, искусственного интеллекта и управления сложными операциями. Palantir собирает разрозненные данные в одну систему и помогает увидеть связи, риски, зависимости и сценарии действий.

И это не просто рекламный лозунг. Это почти манифест новой эпохи. В книге The Technological Republic: Hard Power, Soft Belief, and the Future of the West Александр Карп и Николас Замиска утверждают: технологические компании слишком долго занимались потребительскими приложениями, рекламой, соцсетями и цифровыми игрушками, вместо того чтобы работать на большие задачи государства, обороны, безопасности и промышленности.

Издатель прямо описывает книгу как обвинение в адрес культуры самоуспокоенности Запада и технологической элиты, которая потеряла амбицию перед лицом глобальных угроз.

Хватит делать приложения для лайков, пора делать технологии для власти.

И вот тут начинается главный вопрос: если технологии снова идут в объятия государства, армии, спецслужб, банков, налоговых органов и ИИ, что мы получим — эффективное цифровое государство или цифровой вольер?

Что такое «цифровой концлагерь»

Начнём аккуратно. Выражение «цифровой концлагерь» — это метафора, а не буквальное сравнение с трагедиями XX века. Не надо смешивать исторические концлагеря, Госуслуги, банковское приложение и QR-код на скидку. Это было бы грубо, криво и по уровню аргументации — примерно как налоговая оптимизация через «давайте просто не покажем выручку».

Но сама метафора работает, потому что описывает новую реальность: человек постепенно превращается для системы не в личность с правами, обстоятельствами и живой биографией, а в цифровой профиль. В этом профиле собирается всё: кто вы, где работаете, чем владеете, как платите, какие налоги сдаёте, с кем связаны, куда ездите, что покупаете, какие у вас долги, штрафы, кредиты, медицинские и финансовые следы, насколько вы «надёжны» или «рискованны» с точки зрения алгоритма.

И вот здесь начинается самое интересное. Раньше для контроля нужно было физическое действие: вызвать человека, вручить бумагу, открыть проверку, направить инспектора, поставить подпись, вынести решение. Теперь всё может начаться почти бесшумно — с записи в базе данных, автоматической сверки или внутреннего флажка в системе.

Человек ещё ничего не знает, а его цифровая тень уже куда-то побежала впереди него и успела испортить ему репутацию.

В какой-то момент он сталкивается не с живым чиновником, которому можно объяснить ситуацию, показать документы, сослаться на закон или хотя бы увидеть выражение лица. Он сталкивается с интерфейсом: «операция отклонена», «услуга недоступна», «счёт заблокирован», «выезд ограничен», «необходимо предоставить пояснения», «профиль признан рискованным».

И главный вопрос: кто это решил? Инспектор? Банк? Алгоритм? Ведомственная база? Скоринговая модель? Автоматическая сверка? Или просто где-то в системе одна ошибка переехала из одной базы в другую и стала официальной правдой?

Современная цифровая клетка редко выглядит как прямой запрет. Она чаще выглядит как отсутствие доступа. Не арестовали — просто не дали провести платёж. Не лишили права — просто не открывается сервис. Не признали виновным — просто поставили высокий риск. Не запретили жить — просто сделали нормальную жизнь технически неудобной.

Самое коварное в том, что всё это приходит не с угрозой, а с улыбкой: «это удобно», «это быстро», «это безопасно», «это для вашего же блага».

А потом человек внезапно понимает: сервис, который должен был облегчать жизнь, стал турникетом. И пройти через него можно только тогда, когда твой цифровой профиль системе нравится.

Вот в этом и смысл метафоры «цифровой концлагерь»: не колючая проволока, а невидимая сеть ограничений, где человек всё чаще зависит не от того, кто он на самом деле, а от того, что о нём написано в базах данных.

Цифровой концлагерь — это, конечно, метафора, а не буквальное сравнение с трагедиями XX века: не надо ставить в один ряд исторические концлагеря, Госуслуги, банковское приложение и QR-код на скидку, иначе разговор сразу превращается в дешёвую истерику вместо серьёзного анализа.

Цифровая клетка: когда удобство становится системой контроля

Цифровой концлагерь начинается не с колючей проволоки, а с красивой кнопки «Согласен». Сначала всё выглядит вполне разумно: электронные документы экономят время, банковское приложение удобнее кассы, налоговый кабинет лучше очереди в инспекцию, биометрия помогает подтвердить личность, искусственный интеллект ищет мошенников, аварии, налоговые схемы и странные цепочки. Сама по себе цифровизация не зло — спорить с этим бессмысленно.

Проблема начинается тогда, когда отдельные удобные сервисы соединяются в единую систему: цифровой ID, биометрия, банки, налоги, камеры, геолокация, реестры, ИИ и автоматические ограничения. Вот тогда государство получает не просто набор баз данных, а карту человека: где он работает, кому платит, с кем связан, какие имеет долги, налоги, штрафы, риски и ограничения.

Именно поэтому Palantir здесь важен как символ новой логики власти: он не просто хранит данные, а связывает их в работающую модель реальности — кто с кем связан, где риск, где зависимость, где слабое место и какое действие нужно принять.

В годовом отчёте Palantir указаны четыре ключевые платформы — Gotham, Foundry, Apollo и AIP; при выручке 4,5 млрд долларов в 2025 году 54% пришлось на государственный сектор, а 46% — на коммерческий.

Это уже не IT-игрушка, а инфраструктура для государства и крупного бизнеса. Книга главы Palantir Александра Карпа The Technological Republic прямо подводит идеологическую базу под этот разворот: технологии больше не должны быть только про лайки, доставку еды и приложения для удобной жизни; они снова становятся вопросом государства, обороны, власти и цивилизационного выживания.

Одна из самых жёстких мыслей этой логики проста: следующая эпоха конфликтов будет выиграна или проиграна программным обеспечением. И если война выигрывается софтом, то и гражданин контролируется уже не дубинкой, а софтом.

Российская ФНС в этом смысле уже живёт в будущем: АИС «Налог-3» — это не просто база деклараций, а система, которая принимает, обрабатывает, анализирует данные и помогает принимать управленческие решения. Налоговая давно смотрит не только на бумагу, а на связи: контрагент, счёт-фактура, банк, декларация, вычет, разрыв, цепочка, выгодоприобретатель.

Раньше бизнес думал: есть договор, акт и счёт-фактура — значит, живём. Сейчас этого мало. Если по документам товар был, а по логистике его нет; если контрагент серьёзный только на бумаге, а в реальности у него ноль сотрудников, ноль активов и директор, который «ничего не помнит»; если деньги прошли странной цепочкой — система это видит. Бумага больше не бронежилет, а всего лишь один слой данных.

Дальше в эту же архитектуру встраиваются цифровой рубль, биометрия и электронные повестки. Цифровой рубль сам по себе не концлагерь, но он делает деньги частью управляемой инфраструктуры: сегодня удобно платить, завтра удобно отслеживать, послезавтра — технически ограничивать.

Биометрия тоже продаётся как комфорт: не нужен паспорт, не нужен пароль, лицо и голос становятся ключом. Но пароль можно сменить, карту можно перевыпустить, а лицо версии 2.0 человеку пока не выдают.

Электронные повестки показывают ещё более жёсткую модель: не пришёл человек с папкой, не вручили бумагу под подпись, не состоялся разговор — просто появилась запись в реестре, и правовой режим человека изменился.

Вот это и есть главный признак цифровой клетки: физическая дверь может оставаться открытой, но цифровой профиль уже получил новый статус. Не арестовали — просто не дали провести платёж. Не признали виновным — просто поставили высокий риск. Не запретили жить — просто сделали нормальную жизнь технически неудобной.

Всё приходит по частям: сначала удобно, потом привычно, потом обязательно, потом без этого нельзя, потом попробуй откажись.

Китайский урок: не надо смеяться над антиутопиями

Когда говорят о цифровом контроле, почти всегда вспоминают Китай. Но здесь важно не скатиться в карикатуру уровня «у каждого китайца есть единый балл, и за неправильный мем ему минус 15 очков к жизни». Реальность сложнее и поэтому опаснее. В Китае действительно с 2014 года строилась система социального кредита: официальный план на 2014–2020 годы прямо говорил о задаче «поощрять доверие и наказывать недоверие», развивать кредитные базы, межведомственный обмен данными и механизмы санкций за недобросовестное поведение. Но это не один волшебный рейтинг в стиле Black Mirror, а сеть разных баз, списков, региональных экспериментов, судебных реестров, корпоративных оценок и административных ограничений.

И вот именно это делает китайский пример важным. Страшна не цифра на экране, а связка данных и последствий. Например, в 2019 году Верховный народный суд Китая сообщал, что более 14,5 млн человек были внесены в кредитный чёрный список за неисполнение судебных решений; таких должников ограничивали в покупке примерно 27,3 млн авиабилетов и почти 6 млн железнодорожных билетов.

Это не обязательно 27 млн уникальных людей, а количество ограничений/попыток покупки билетов. Но суть от этого не мягче: запись в реестре превращается в реальное ограничение передвижения.

Отдельная, куда более жёсткая история — Синьцзян. В 2019 году Human Rights Watch выпустила 68-страничный отчёт China’s Algorithms of Repression, где разобрала полицейское приложение, связанное с Integrated Joint Operations Platform — IJOP. По данным HRW, эта система агрегировала сведения о людях и автоматически помечала тех, кого считала потенциально опасными. В отчёте говорилось о 13 млн уйгуров и других тюркских мусульман, находившихся под усиленным давлением, а также об оценках, согласно которым до 1 млн человек могли содержаться в лагерях «политического образования».

Самое показательное — что именно система считала подозрительным. Это не только оружие, терроризм или реальные преступления. HRW пишет, что в категорию подозрительного могли попадать вполне бытовые вещи: человек «мало общается с соседями», «часто не пользуется парадной дверью», использует телефон, зарегистрированный не на него, потребляет электричества больше обычного, выезжает из района регистрации без разрешения полиции или имеет связи за границей.

Приложение также отмечало использование 51 сетевого инструмента, включая VPN и мессенджеры вроде WhatsApp¹ и Viber. То есть цифровой контроль здесь работает не по принципу «поймали преступника», а по принципу «поведение отклонилось от нормы — надо проверить».

Ещё один нервный факт: в приложении, по данным HRW, чиновникам предлагалось собирать банковские данные, сведения о членах семьи, телефоны, идентификационные номера, данные о связях за рубежом и даже информацию о том, использует ли человек «подозрительное» программное обеспечение.

Отдельно HRW указывает на 36 типов лиц, которым власти уделяли особое внимание, и на мониторинг необычного потребления электроэнергии. Вот она, настоящая антиутопия без спецэффектов: не злобный робот на площади, а скучная форма в приложении, где чиновник ставит галочку напротив вашей жизни.

В 2022 году Управление Верховного комиссара ООН по правам человека выпустило оценку ситуации в Синьцзяне и указало, что масштабы произвольного и дискриминационного лишения свободы уйгуров и других преимущественно мусульманских групп могут подпадать под международные преступления, в частности преступления против человечности.

Китайские власти эти обвинения отвергают, но сам факт появления такого доклада показывает: это уже не «страшилка из интернета», а предмет международного правового спора.

Главный урок Китая не в том, что завтра у всех появится единый «социальный рейтинг» с красивой шкалой от 0 до 1000. Как раз так может и не быть.

Настоящий цифровой контроль выглядит скучнее: судебный список, банковская база, камера с распознаванием лиц, полицейское приложение, реестр поездок, телефонные данные, налоговая информация, биометрия, семейные связи, геолокация и автоматический флажок «проверить». Одна база сама по себе вроде бы не страшна.

Но когда они соединяются, человек внезапно обнаруживает, что его жизнь оценивает не суд и даже не чиновник, а связка интерфейсов. Не один большой страшный термин, а много маленьких административных кнопок, которые вместе могут закрыть человеку воздух.

Европа тоже испугалась ИИ: когда закон догоняет антиутопию

Европа обычно любит выглядеть спокойной: регламенты, комиссии, рабочие группы, красивые слова про права человека и устойчивое развитие. Но с искусственным интеллектом даже Брюссель понял: если не поставить забор сейчас, потом забор поставят уже вокруг человека. Поэтому в ЕС появился AI Act — Регламент ЕС 2024/1689, первый крупный комплексный закон об искусственном интеллекте, который делит ИИ-системы по уровню риска и прямо запрещает практики, признанные неприемлемыми для прав и свобод человека.

В статье 5 AI Act запрещены, в частности, манипулятивные ИИ-системы, эксплуатация уязвимостей человека, социальный скоринг, отдельные виды биометрической категоризации, а также использование удалённой биометрической идентификации в реальном времени в публичных местах для правоохранительных целей — с узкими исключениями.

Это не мелкая юридическая поправка для галочки. Еврокомиссия 4 февраля 2025 года отдельно выпустила разъяснения по запрещённым практикам ИИ и прямо выделила среди опасных зон вредоносную манипуляцию, социальный скоринг и биометрическую идентификацию в реальном времени.

То есть на уровне ЕС фактически признали: ИИ может быть не только помощником, переводчиком и генератором картинок с котами, но и инструментом управления поведением, давления, дискриминации и цифрового отбора людей.

Особенно показателен запрет социального скоринга. Речь идёт о ситуации, когда человека или группу людей оценивают по социальному поведению, известным, предполагаемым или предсказанным личным характеристикам, а потом эта оценка ведёт к неблагоприятным последствиям.

Проще: алгоритм решил, что вы «не такой», «неблагонадёжный», «рискованный», «подозрительный» — и дальше вам хуже дают услугу, ограничивают доступ, снижают возможности или включают режим повышенного контроля. Это уже не фантастика, а юридически описанный риск. Европа не стала ждать, пока Black Mirror станет инструкцией по госуправлению.

Отдельный нерв — биометрия. AI Act запрещает использование биометрических систем, которые по данным лица, тела, голоса или иных признаков пытаются выводить чувствительные характеристики: расу, политические взгляды, членство в профсоюзе, религиозные или философские убеждения, сексуальную жизнь или ориентацию. Это важный момент: опасность не только в том, что камера узнаёт человека. Опасность в том, что система начинает делать выводы о человеке, которые он сам ей не сообщал. Вот тут ИИ превращается из “умной технологии” в цифрового гадателя с административными последствиями.

И штрафы там не декоративные. За нарушение запретов статьи 5 AI Act предусмотрены административные штрафы до 35 млн евро или до 7% мирового годового оборота компании за предыдущий финансовый год — берётся большая сумма. То есть Европа сказала бизнесу и государственным пользователям ИИ: ребята, это не игрушка, это зона повышенной опасности, и цена ошибки может быть не «ай-ай-ай», а полноценный финансовый кратер.

Главный вывод простой: если даже Европа, которая сама активно строит цифровую экономику, отдельно запрещает социальный скоринг, опасную биометрию и манипулятивный ИИ, значит проблема не выдумана «паникёрами». Риск признан институционально.

Искусственный интеллект может быть врачом, помощником бухгалтера, переводчиком, аналитиком и системой безопасности. Но он же может стать дубинкой в красивом интерфейсе — без крика, без формы, без сапог, просто с фразой: «доступ ограничен на основании автоматизированной оценки». Поэтому главный вопрос ближайших лет не в том, будет ли ИИ в государстве и бизнесе. Будет. Вопрос в другом: кто контролирует тех, кто контролирует алгоритмы?

Вывод: цифровизация должна служить человеку, а не превращать его в приложение к собственному профилю

Главная формула цифрового контроля проста и неприятна: он не строится одним законом, одной базой или одним приложением — он строится связкой.

Когда государство точно знает, кто вы, банки и платёжные системы видят ваши расчёты, налоговая анализирует ваши сделки, камеры и сервисы фиксируют поведение, реестры связывают родственников, контрагентов, работодателей, телефоны, адреса и счета, а алгоритм сверху ставит оценку риска, цифровизация перестаёт быть просто удобным сервисом и превращается в систему управления человеком.

Пока эти элементы живут отдельно, это можно назвать прогрессом. Когда они соединяются — начинается совсем другая история: отказ, блокировка, проверка, ограничение, штраф или требование пояснений могут появиться не потому, что человек реально виноват, а потому что его цифровой профиль “не понравился” системе.

Для бизнеса это особенно опасно: цифровая клетка начинается не с биометрии, а с налоговой аналитики. ФНС, банки, Росфинмониторинг, маркетплейсы и контрагенты всё чаще смотрят не на отдельный договор или акт, а на поведение компании целиком: была ли реальная поставка, сходятся ли оплата, склад, логистика, переписка, декларация, деловая цель и контрагент.

Поэтому бизнесу нужно срочно проснуться и перестать жить в режиме “бумаги есть — значит, всё нормально”.

Нужно проводить цифровой аудит сделок, проверять контрагентов не формально, хранить доказательства реальности операций, фиксировать логистику, переписку, фото, складские документы, деловую цель, экономический смысл и заранее думать, как сделка будет выглядеть не в глазах бухгалтера, а в глазах алгоритма ФНС.

Обычному человеку тоже не стоит расслабляться: ошибка в базе, чужой долг, сбой биометрии, непонятный риск-скоринг или автоматический отказ могут превратить жизнь в квест “докажи, что ты не верблюд”, причём верблюд уже подтверждён через СМС и внесён в реестр.

Поэтому минимум цифровой гигиены обязателен: проверять налоговый кабинет, кредитную историю, Госуслуги, банковские ограничения, не раздавать биометрию без необходимости, не нажимать “согласен” как голубь на кнопку с кормом, хранить документы, фиксировать обращения и сразу оспаривать ошибки письменно.

Но главная ответственность всё-таки на государстве и законодателе: цифровизация нормальна только там, где есть прозрачность, добровольность, ограничение целей, реальное обжалование и живой ответственный человек, а не “так решил алгоритм”. Алгоритм не должен быть ширмой для чиновника, банка или платформы. Если решение ограничивает права, должен быть понятный источник решения, понятная причина и понятный порядок защиты.

Книга Карпа и пример Palantir важны именно потому, что показывают новую идеологию эпохи: технологии становятся не игрушкой, а инструментом силы; софт становится оружием; ИИ идёт в оборону, банки, налоги, медицину, миграцию и управление государством.

Palantir показывает, как строится карта связей, ФНС показывает, как такая логика работает в налоговом контроле, цифровой рубль добавляет деньги, биометрия добавляет тело, электронные реестры добавляют ограничения, а ИИ добавляет скорость.

Вопрос будущего уже не в том, будет ли цифровизация. Будет. Вопрос в другом: цифровые технологии будут служить человеку — или человек станет обслуживающим персоналом собственного цифрового профиля.

Бизнесу надо приводить в порядок сделки и цифровые следы, гражданам — защищать свои данные и проверять свои профили, а государству — строить не цифровой ошейник, а цифровую систему с правами, ответственностью и реальным человеческим контролем.

Иначе удобный сервис очень быстро превращается в турникет, через который вас пропустят только тогда, когда системе понравится ваша цифровая биография.

Если статья была полезной — поставьте лайк и сохраните.
Автору приятно, алгоритмам полезно, а вам потом будет проще найти этот материал, когда за семейным столом начнётся разговор: «А что плохого в том, что всё теперь в одном приложении? Это же удобно».

Вот именно. Удобство — прекрасная вещь, пока оно не превращается в турникет, через который вас пропускают только после одобрения цифрового профиля.

Если у вас бизнес, налоговые риски, спор с ФНС, требования, блокировки, подозрительные контрагенты или ощущение, что цифровая система уже смотрит на вас чуть внимательнее, чем хотелось бы, — лучше разбираться заранее, а не после того, как алгоритм поставил красный флажок. Мои книги по налогам и бухгалтерскому учёту.

С уважением,
Евгений Сивков
налоговый консультант, человек, который считает: если государство, банки и алгоритмы уже работают в связке, то и защита бизнеса не должна быть собрана из скотча.