Теневой AI: сотрудники в ChatGPT — риски и меры

Коротко. Теневой AI (shadow AI) — использование сотрудниками ChatGPT и других AI-сервисов для работы без ведома и согласования компании: с личных аккаунтов, через браузерные расширения, в мессенджерах и встроенных AI-функциях привычных программ. Если сотрудники используют ChatGPT, риски без контроля такие: договоры, код и персональные данные клиентов уходят стороннему поставщику, часто за рубеж и без договора; условия хранения данных зависят от тарифа, который никто не проверял; ошибки модели попадают в документы для клиентов; расширения и агенты получают доступ к почте. Запрет обычно проигрывает удобству. Работает другое: инвентаризация без наказаний, короткая политика, безопасная корпоративная альтернатива, технические ограничения и обучение.

Для руководителей, ИТ- и ИБ-специалистов компаний, где сотрудники уже пользуются нейросетями, даже если официально это не обсуждалось.

Что такое теневой AI и почему он появляется

Теневой AI — прямое продолжение теневого ИТ: сотрудники берут удобный инструмент, не дожидаясь, пока компания его одобрит. Причины понятные:

• Это действительно экономит время. Письмо, сводка, перевод, формула в таблице — за минуту вместо получаса.
• Бесплатно и без согласований. Регистрация занимает меньше времени, чем заявка в ИТ.
• Нет альтернативы. Компания не предложила свой инструмент и не сказала, что можно.
• AI встроен повсюду. Функции генерации текста появились в офисных пакетах, почтовых клиентах, CRM и мессенджерах, и сотрудник может не считать это отдельным сервисом.

Главная проблема не в самих сервисах, а в том, что компания не видит, какие данные и куда уходят.

Сотрудники используют ChatGPT: риски для компании

Условия использования данных у AI-сервисов различаются между потребительскими и корпоративными тарифами и меняются со временем, поэтому проверять их нужно по актуальным документам поставщика, а не по памяти. Как устроены правила передачи данных за рубеж, подробно разобрано в статье о трансграничной передаче персональных данных.

Риск не теоретический. В 2023 году, по сообщениям Bloomberg, Samsung ограничила использование генеративного AI на рабочих устройствах после того, как сотрудники загрузили в ChatGPT внутренний исходный код.

Почему запрет не решает проблему

Запрет выглядит простым решением, но у него три слабых места. AI-сервисы доступны с личного телефона, и заблокировать их на корпоративной сети не значит остановить использование. Сотрудники, которым AI реально помогал, продолжают им пользоваться, но перестают об этом говорить, и компания теряет даже ту видимость, что была. Наконец, конкуренты, которые научились применять AI безопасно, работают быстрее.

Запрет оправдан для отдельных категорий данных и отдельных сервисов, но не как единственная мера. Строгие ограничения работают, когда рядом есть легальный и удобный путь.

Как обнаружить теневой AI в компании

1. Анонимный опрос без последствий. Спросите, какими сервисами и для каких задач пользуются. Прямо скажите, что цель — выбрать безопасные инструменты, а не наказать. Это самый быстрый источник правды.
2. Журналы сетевого трафика. Обращения к доменам AI-сервисов в журналах прокси, DNS или межсетевого экрана показывают масштаб и подразделения.
3. Расширения браузера и установленные программы. Системы управления устройствами позволяют увидеть AI-расширения и приложения на рабочих компьютерах.
4. Приложения, подключённые к корпоративной почте и облаку. В консолях администрирования Microsoft 365 и Google Workspace видно, каким сторонним приложениям сотрудники выдали доступ.
5. Расходы. Подписки на AI-сервисы, оплаченные корпоративными картами или компенсированные в авансовых отчётах.

Мониторинг сотрудников затрагивает их права, поэтому объём контроля и порядок уведомления работников согласуйте с юристом. Более широкая тема — выявление утечек изнутри — разобрана в статье о внутренних угрозах.

Что делать: план из шести шагов

1. Инвентаризация. Опрос и технические данные из раздела выше: какие сервисы, кто, для чего, какие данные.
2. Политика. Короткий документ со «светофором» данных, реестром разрешённых сервисов и процессом запроса нового инструмента — готовый шаблон разделов в статье о политике использования ИИ в компании.
3. Безопасная альтернатива. Корпоративные учётные записи в выбранном сервисе с договором или собственный AI-ассистент по документам компании для конфиденциальных данных.
4. Технические меры. Единый вход для разрешённых сервисов, список разрешённых расширений, запрет подключения сторонних приложений к почте без согласования, DLP-правила для явных категорий данных.
5. Обучение. Полчаса на реальных примерах: что зелёное, что красное, почему расширение с доступом ко всем страницам опасно, куда сообщить, если данные уже ушли.
6. Регулярный пересмотр. Раз в квартал сверять трафик и заявки с реестром: появление новых сервисов в журналах — сигнал, что альтернатива чего-то не покрывает.

Отдельный риск: AI-агенты с доступом к почте и файлам

Самая быстрорастущая часть теневого AI — не чат, а инструменты, которые действуют: расширения, «помощники» для почты, агенты, подключённые к календарю и облачному диску. Сотрудник выдаёт им доступ в два клика, и дальше они читают всё, включая письма от посторонних. В таких письмах могут быть скрытые инструкции для модели. Поэтому подключение любых AI-приложений к корпоративным системам должно идти только через согласование с ИБ. Общая логика защиты агентов — в статье о безопасном внедрении AI.

Чек-лист: теневой AI под контролем

• Проведён анонимный опрос об использовании AI-сервисов
• Проанализированы журналы трафика, расширения и подключённые к почте приложения
• Утверждена политика использования ИИ со «светофором» данных
• Ведётся реестр разрешённых сервисов с проверенными условиями обработки данных
• Сотрудникам доступна корпоративная альтернатива для рабочих задач
• Разрешённые сервисы используются через корпоративные учётные записи с двухфакторной аутентификацией
• Подключение AI-приложений к почте и облаку требует согласования
• Проведено обучение, есть памятка на одну страницу
• Определено, куда сообщать о случайной передаче данных
• Назначен ежеквартальный пересмотр

С чего начать, если нет своей команды ИБ

Картину использования AI, риски действующих AI-систем и план действий даёт «AI и безопасность: полный аудит» — от 26 200 BYN, с воркшопом для руководства — от 46 500 BYN. Если безопасная альтернатива нужна для конкретного сценария с конфиденциальными данными, подойдёт «Пакет безопасного AI» — от 20 300 BYN и от 8 700 BYN в месяц за сопровождение.

Частые вопросы

Можно ли вставлять рабочие документы в ChatGPT?

Зависит от содержания документа и от того, как компания подключила сервис. Публичные материалы и тексты без названий клиентов и внутренних цифр обычно можно. Договоры, персональные данные, исходный код и финансовую отчётность в личный аккаунт отправлять не стоит. Для таких данных нужен корпоративный инструмент с договором или собственный ассистент компании.

Как узнать, пользуются ли сотрудники ChatGPT?

Быстрее всего — спросить в анонимном опросе, пообещав, что цель не наказание, а выбор безопасных инструментов. Технически картину дополняют журналы прокси или DNS с обращениями к доменам AI-сервисов, списки расширений браузера, приложения, подключённые к корпоративной почте, и расходы на подписки. Объём мониторинга сотрудников согласуйте с юристом.

Решает ли корпоративный тариф AI-сервиса проблему теневого AI?

Частично. Корпоративный тариф обычно даёт договор, управление учётными записями и более строгие условия обработки данных, но их нужно проверить в документах поставщика. Без политики, «светофора» данных и обучения сотрудники всё равно будут пользоваться другими сервисами, а в разрешённый могут отправить то, что туда отправлять нельзя.

Нарушает ли использование ChatGPT закон о персональных данных?

Само по себе нет, но передача персональных данных в сторонний AI-сервис — это их обработка, для которой Закон № 99-З требует основания и мер защиты. Если сервис обрабатывает данные за рубежом, добавляются правила трансграничной передачи. Поэтому персональные данные клиентов и сотрудников в неразрешённые AI-сервисы передавать нельзя, а детали оценивает юрист.

Что делать, если сотрудник уже загрузил конфиденциальные данные в AI-сервис?

Не наказывать сразу, иначе о следующем случае не сообщат. Выяснить, какие данные, в какой сервис и с какого аккаунта ушли. Удалить диалоги и проверить настройки хранения, сменить раскрытые пароли и ключи. Если затронуты персональные данные, привлечь ответственного за их защиту и юриста, чтобы оценить необходимость уведомления регулятора.

Вывод

Если сотрудники используют ChatGPT, риски для компании связаны не с самим сервисом, а с тем, что никто не видит, какие данные и куда уходят. Теневой AI не исчезает от запрета, но становится управляемым, когда есть инвентаризация, короткая политика, удобная корпоративная альтернатива, технические ограничения и обучение. Если хотите понять, как AI используют у вас на самом деле, напишите нам — за полчаса наметим план.

Источники: OWASP Top 10 for LLM Applications 2025 — LLM01 Prompt Injection, LLM02 Sensitive Information Disclosure (genai.owasp.org); NIST AI 600-1 Generative AI Profile, 2024 (nist.gov); Bloomberg, материал об ограничении Samsung на использование генеративного AI, 2023 (bloomberg.com); Закон Республики Беларусь от 07.05.2021 № 99-З «О защите персональных данных» (pravo.by); цены — публичные пакеты Viviar, /pricing, действуют с 01.09.2026.