ИИ в обход правил: почему утечки начинаются внутри офиса
ИИ в обход правил: почему утечки начинаются внутри офиса
Представьте: в компании есть строгий приказ — не загружать рабочие документы в сторонние нейросети. А сотрудник всё равно копирует туда договор, чтобы быстро переписать пару абзацев. Знакомо? Похоже, это происходит гораздо чаще, чем кажется руководству.
И самое неприятное: политика на бумаге есть, а доказательств контроля — нет. Разбираемся, что показывают свежие исследования и что с этим делать обычному человеку и небольшой команде.
Что тревожит тех, кто отвечает за безопасность
Когда в октябре 2026 года аналитики O’Reilly опросили 209 специалистов по безопасности, самым страшным риском оказался вовсе не хитрый взлом и не «отравленная» модель ИИ. 49% назвали утечку чувствительных данных через коммерческие нейросети. Ещё 49% — доверие к ответам ИИ, которые никто не проверял.
А пресловутый «prompt injection», о котором говорят на каждой конференции, беспокоит всего 11%. Показательно, правда? Те, кому платят за поиск угроз, прямо говорят: опасность сидит внутри офиса, у неё есть пропуск сотрудника, и чаще всего она просто хочет сделать работу быстрее.
При этом 72% организаций уже завели политику использования ИИ. Но только 44% считают её всеобъемлющей. И вот разница: там, где политика подробная, о массовом «теневом» использовании ИИ сообщают 17% респондентов. Где политика базовая — 35%. Где её нет вовсе — 37%.
А вы замечали, как коллеги «по-тихому» пользуются нейросетями на работе?
Цифры, которые сложно игнорировать
Отчёт Verizon 2026 года по утечкам данных добавляет красок. 45% сотрудников теперь регулярно пользуются ИИ на рабочих устройствах — год назад было 15%. И 67% из них заходят в нейросети через личные аккаунты.
Почему это важно? Потому что личные аккаунты обычно находятся вне корпоративных логов и вне действия политики компании. То есть данные уходят туда, где их никто не отследит.
Исследование Kiteworks (459 специалистов по безопасности и комплаенсу) подтверждает: 65% за последний год обнаружили, что сотрудники использовали неутверждённые ИИ-инструменты с рабочими данными. Причём это скорее «нижняя граница» — обнаружение зависит от того, насколько хорошо компания умеет искать.
Похожая картина в Мексике: по данным Proofpoint, 69% местных руководителей по безопасности боятся, что сотрудники вынесут конфиденциальную информацию в публичные нейросети (год назад было 58%). А 90% признают, что управляют рисками ИИ без адекватных ресурсов.
В ОАЭ 80% компаний уже тестируют или внедряют автономных ИИ-агентов, а 75% руководителей по безопасности переживают из-за утечки клиентских данных через публичные генеративные инструменты. Знакомый сценарий, да?
Почему запреты не работают
Политика — это заявление о намерениях. Она говорит сотруднику, что делать, а аудитору — что вы имели в виду. Но она не создаёт запись о том, что произошло на самом деле.
И вот тут начинается неприятное. Когда регулятор, страховщик или юрист спрашивает: «Какие ИИ-инструменты касались файла конкретного клиента такого-то числа?» — ответ «мы же запретили» доказательством не является. Вопрос всегда о доказательстве контроля, а письменная инструкция — не доказательство.
Запрет имеет и обратный эффект. Запретили инструмент — работа не останавливается. Она переезжает в личный аккаунт на том же ноутбуке. И служба безопасности теряет видимость ровно в тот момент, когда данные наиболее чувствительны. Напоминание по почте лога не заменит.
С агентами ситуация ещё острее. Среди главных опасений респонденты O’Reilly называют чрезмерные права или неясного владельца (28%), слабый мониторинг (19%) и невозможность проверить, что агент не вышел за рамки роли (18%). Ни одна из этих проблем не про модель — все они про идентичность, полномочия и доказательства.
А ваша компания вообще знает, какие нейросети используют сотрудники?
Что реально меняет ситуацию
Первое — перенести контроль туда, где живут данные. Системный промпт можно обойти, предупреждающий баннер — закрыть. А решение, принимаемое в момент обращения к данным, оспорить у запрашивающего не получится. Каждый запрос к чувствительным данным — от человека или агента — должен проходить через слой, который проверяет личность, оценивает политику под конкретный запрос и пишет одну защищённую от подмены запись.
Второе — относиться к агентам как к личностям, а не как к функциям. У каждого агента должен быть названный человек-владелец, права под конкретную задачу и путь отзыва. Проверять его надо с той же регулярностью, что и привилегированного пользователя.
Третье — измерять по телеметрии, а не по ощущениям. Считать использование ИИ по типу аккаунта, классу данных и отделу. А когда ссылаетесь на опросы — указывайте базу: 209 самостоятельно отобранных специалистов и датасет инцидентов — это разные вещи.
Четвёртое — репетировать запрос доказательств. Возьмите дату из прошлого месяца и попробуйте восстановить, какие ИИ-инструменты касались конкретного файла. Получилось? Вот и ответ на вопрос, готова ли компания к разговору с регулятором.
Что делать уже сегодня
- Проведите ревизию: спросите команду (анонимно), какими нейросетями они пользуются и для каких задач. Честный ответ важнее красивого отчёта.
- Сделайте «разрешённый путь» самым удобным: корпоративный аккаунт с нужными моделями, понятными правилами и быстрым доступом. Люди идут по лёгкой дороге — пусть она будет управляемой.
- Заведите простой реестр ИИ-агентов: кто владелец, какие права, как отозвать доступ. Даже таблица на 10 строк лучше, чем ничего.
- Проверьте, пишутся ли логи обращений к чувствительным данным. Если нет — это первое, что стоит починить.
Что важно помнить
Абсолютной защиты не существует, и никакая политика не отменит человеческий фактор. Технологии и инструменты меняются быстрее, чем инструкции, поэтому важно регулярно пересматривать правила и проверять, работают ли они на практике. Не стоит воспринимать отдельные цифры из опросов как точный диагноз — это скорее сигнал, куда смотреть.
Теневой ИИ — это не про злой умысел. Это про людей, которым нужно быстрее закрыть задачу. И лучший ответ на это — не запрет, а удобная и прозрачная альтернатива. Тогда и данные останутся внутри, и работа не встанет.
А что вы думаете по этому поводу? Поделитесь своим мнением в комментариях!
Если статья оказалась полезной, поддержите автора донатом.
Чтобы не пропустить новые публикации, подписывайтесь на Дзен или MAX.
Материал подготовлен на основе информации из открытых источников. Все права на исходные материалы принадлежат их авторам. Если вы являетесь правообладателем и возражаете против использования, свяжитесь с нами по адресу info@11st.press.
