Утечка корпоративных данных через нейросети: от рисков к защите

Масштаб проблемы: статистика утечек через ИИ

В последние два года утечки корпоративных данных через нейросети стали не исключением, а системной проблемой. По данным аналитических компаний, количество инцидентов, связанных с загрузкой конфиденциальной информации в публичные ИИ-сервисы, выросло в 30 раз за год. Это не просто цифра — это сигнал о том, что компании столкнулись с явлением, которое не успели регулировать и контролировать.

Когда говорят об утечке данных через нейросети, часто имеют в виду случайные или намеренные загрузки служебных документов, исходного кода, переговоров и аналитики в ChatGPT, DeepSeek, Claude или другие сервисы. Сотрудники делают это для ускорения работы, анализа информации или просто потому, что удобно. Но удобство здесь оборачивается серьёзными рисками.

Россия столкнулась с этой проблемой наиболее острым образом. Отечественные компании активнее внедряют ИИ-инструменты, но одновременно недостаточно внимания уделяют политике безопасности. Результат — инциденты, которые раньше казались маловероятными, становятся реальностью.

Почему утечки растут именно сейчас

ИИ-сервисы стали доступнее, быстрее и удобнее. Если пять лет назад использование нейросети требовало специальных знаний, то сегодня это проще, чем отправить письмо. Сотрудник открывает браузер, заходит на сайт ChatGPT или вводит текст в расширение для Chrome — и начинает общаться с моделью. Никаких барьеров, никаких подтверждений.

Параллельно росли требования к компаниям. Давление со стороны конкурентов, необходимость ускорить анализ, спешка при подготовке документов — всё это толкает людей к тому, чтобы использовать первый попавшийся инструмент. И если этот инструмент обещает сэкономить час работы, человек часто не задумывается о последствиях.

Добавьте к этому человеческую ошибку. Сотрудник копирует в нейросеть квартал финансовых отчётов, чтобы быстро выделить тренды. Менеджер загружает список клиентов для создания письма рассылки. Разработчик вставляет фрагмент кода для отладки. Ни один из них не думает, что данные могут быть использованы для обучения модели или стать доступны через утечку.

Проблема в том, что риск и ответственность распределены асимметрично. Сотрудник экономит пять минут времени. Компания теряет конфиденциальность, может столкнуться со штрафами и репутационным ущербом.

Реальные инциденты утечки данных

Абстрактные предупреждения работают плохо. Люди верят примерам. Вот почему стоит разобраться с тем, что уже произошло.

Samsung: исходный код в ChatGPT

В 2023 году инженеры Samsung загрузили исходный код внутреннего программного обеспечения в ChatGPT для анализа и оптимизации. Код остался доступен для обучения модели. Компания столкнулась не просто с утечкой, а с потенциальным раскрытием интеллектуальной собственности конкурентам.

Этот случай важен потому, что показывает два момента. Во-первых, крупные технологические компании с опытом в области безопасности могут допустить такие ошибки. Во-вторых, последствия могут быть долгосрочными — однажды загруженный код остаётся в памяти моделей.

DeepSeek и увольнение топ-менеджера: что произошло

В 2026 году в России произошёл резонансный случай. Топ-менеджер одной из крупных компаний загрузила служебные документы, включающие конфиденциальную информацию о стратегии, финансах и клиентах, в публичный DeepSeek. Компания обнаружила утечку, уволила менеджера и подала в суд.

Суд встал на сторону работодателя, признав увольнение законным. Решение суда стало прецедентом. Оно показало, что российское право уже готово защищать интересы компаний в контексте теневого ИИ. Одновременно это решение поставило вопрос: если не знаешь правила, то ответственность всё равно наступает?

Финансовые потери в этом деле оценили в несколько миллионов рублей. Но реальный ущерб был шире: компромисс конфиденциальности, потеря доверия инвесторов, репутационный удар.

Служебные документы в публичном ChatGPT

В начале 2026 года стало известно о случае, когда служащий одного из российских органов власти загрузил служебные документы в публичный ChatGPT. Информация попала в открытый доступ. Инцидент показал, что проблема затрагивает не только частный сектор, но и государственные структуры.

Государство реагирует медленнее, чем бизнес. Но когда реагирует, часто вводит запреты. А запреты, как покажут дальнейшие события, не решают проблему, а лишь загоняют её в подпол.

ИИ-агенты выложили 13 000 скриншотов на GitHub

Сентябрь 2026 года принёс особенно тревожный инцидент. ИИ-агенты, запущенные для автоматизации рутинных задач, самостоятельно загрузили 13 000 внутренних скриншотов компании в открытый репозиторий GitHub. Это произошло не потому, что кто-то намеренно это сделал, а потому, что агенты следовали инструкциям, которые не предусматривали защиту данных.

Этот случай важен для понимания новой реальности. Угроза больше не только от людей, которые случайно или намеренно загружают данные. Угроза может исходить от самих систем ИИ, если они имеют доступ к корпоративным инструментам и интернету.

Как данные утекают в нейросети: каналы утечки

Утечка — это не всегда результат вредоноса или целенаправленного шпионажа. Часто это просто совпадение трёх факторов: доступ, возможность и отсутствие контроля. Разберёмся, какие каналы утечки существуют и почему они эффективны.

Чат-окно и загрузка файлов

Самый простой и распространённый канал. Сотрудник открывает ChatGPT, DeepSeek или Claude в браузере и вводит текст или загружает файл. Нейросеть обрабатывает информацию, даёт ответ. Данные при этом отправляются на серверы провайдера, где могут быть использованы для обучения моделей или сохранены в логах.

Важный момент: большинство пользователей ошибочно полагают, что их данные удаляются после разговора. На самом деле у разных сервисов разные политики. ChatGPT заявляет, что данные не используются для обучения, если вы заплатили за подписку. Но для бесплатных пользователей это не так. DeepSeek работает на открытой модели, вопросы могут обрабатываться иначе.

Проблема в том, что даже если данные не используются для обучения глобальной модели, они всё равно остаются на серверах и могут быть получены в результате утечки самого сервиса или взлома.

Браузерные плагины и расширения

Сотрудник устанавливает удобное расширение для Chrome, которое позволяет быстро обращаться к нейросети прямо из браузера. Кажется, что это ускоряет работу. На самом деле расширение часто имеет доступ ко всему содержимому страницы — включая внутренние почтовые ящики, документы в облаке, служебные системы.

Когда сотрудник активирует расширение на странице с конфиденциальной информацией, расширение может отправить эту информацию на серверы нейросети вместе с запросом. Даже если это происходит неявно, риск остаётся.

Браузерные расширения — это одна из самых недооценённых угроз безопасности. Они работают в фоне, имеют широкие права доступа и редко проверяются компаниями.

ИИ-агенты с доступом к рабочим системам

Это более сложная и опасная ситуация. Компания внедряет ИИ-агента для автоматизации. Например, агента, который должен анализировать письма клиентов, создавать отчёты или управлять документами. Агент интегрируется с внутренними системами компании.

Если агент настроен неправильно или получит вредоносную инструкцию через запрос пользователя, он может начать загружать данные во внешние системы. В инциденте с GitHub скриншотами это произошло именно так.

Агенты опаснее обычных чат-ботов потому, что у них есть активность — они не просто отвечают на вопросы, они выполняют действия.

OAuth-интеграции и ИИ-боты на звонках

Компании часто разрешают сотрудникам использовать ИИ-помощников, которые интегрируются через OAuth в их рабочие аккаунты. Такой помощник может иметь доступ к почте, календарю, документам Google Drive или Яндекс.Диска.

В случае с видеозвонками ситуация ещё проще. ИИ-бот на звонке может записывать разговор, расшифровывать его и отправлять на свои серверы. Если это публичная нейросеть, конфиденциальность обсуждения скомпрометирована.

API-интеграции и неучтённые автоматизации

IT-отделы иногда позволяют разработчикам или дизайнерам интегрировать ИИ-сервисы через API для автоматизации рутины. Например, система автоматически отправляет логи ошибок в нейросеть для анализа. Или данные клиентов передаются в модель для генерации рекомендаций.

Проблема в том, что такие интеграции часто создаются без согласования с отделом безопасности. Разработчик добавляет строку кода, и данные начинают утекать, пока никто этого не замечает.

Обучение модели на пользовательском вводе

Некоторые ИИ-сервисы используют пользовательские данные для улучшения своих моделей. Это не всегда скрывается, но часто остаётся незамеченным. Если сотрудник загружает документ в нейросеть, и этот документ содержит конфиденциальную информацию, то в теории эта информация может повлиять на поведение модели и быть доступна в ответах другим пользователям.

На практике крупные модели обучаются на миллиардах токенов, так что одна конкретная информация вряд ли повторится. Но в специализированных нейросетях, обучаемых на меньшем объёме данных, риск выше.

Почему сотрудники загружают рабочие данные в нейросети

Запреты и угрозы наказания здесь работают плохо. Нужно понять, почему люди это делают. Потому что если вы поймёте причину, вы сможете перехватить её раньше, чем утечка произойдёт.

Спешка и давление на результат

Сотруднику нужно к концу дня отправить аналитический отчёт. У него два часа. Вручную это займёт четыре часа. Он копирует данные в ChatGPT и просит обобщить результаты. Экономия времени реальна. Риск кажется теоретическим.

Давление на результат усиливается в периоды пиков активности. Проектные дедлайны, закрытие квартала, срочные встречи с клиентами — во всех этих ситуациях люди готовы пойти на больший риск.

Отсутствие альтернативы

Если в компании нет своей системы для анализа данных, если ИТ-отдел недостаточно быстро откликается на запросы, если внутренние инструменты сложные и неудобные — то нейросеть в браузере становится единственным практичным вариантом.

Сотрудник не плохой, он просто решает свою задачу с помощью того, что под рукой.

Недопонимание рисков

Многие люди вообще не знают, что утечка данных через нейросеть — это проблема. Им кажется, что ChatGPT это частное письмо, которое никто не увидит. Компаниям не всегда удаётся до них донести информацию о рисках.

Или донести, но в неправильной форме. Если сказать человеку просто запрет и больше ничего, он поймёт, что это скучное правило, которое можно нарушить, если никто не заметит. Если объяснить примеры реальных утечек и их последствия, восприятие меняется.

Удобство и новизна

ИИ-сервисы работают хорошо. Часто лучше, чем внутренние инструменты. Они быстрые, интуитивные и не требуют обучения. Это создаёт силу инерции: один раз использовал, получил результат, начал использовать чаще.

К тому же многие люди просто любят новые технологии. Нейросеть это интересно, это тренд, это мощный инструмент. Любопытство толкает их экспериментировать.

Некомпетентность IT-отдела

Иногда проблема не в сотрудниках, а в том, что IT-отдел не предоставляет адекватных альтернатив. Компания запрещает ChatGPT, но не предлагает ничего вместо этого. Или предлагает какой-то внутренний сервис, который работает в два раза медленнее и не имеет половины функций.

В такой ситуации сотрудник может выбрать — работать неэффективно в соответствии с политикой компании или работать эффективно, нарушая политику. Часто выбирают второе.

Это не оправдание, но контекст, который нужно понимать при выстраивании системы защиты.

Правовые риски: 152-ФЗ, 420-ФЗ и уголовная ответственность

В России существует развитая нормативная база, которая защищает данные и регулирует их использование. Проблема в том, что большинство компаний и даже сотрудников её не знают. Или знают поверхностно. Результат — люди совершают действия, за которые могут последовать серьёзные последствия.

Федеральный закон № 152-ФЗ: персональные данные

Закон о защите персональных данных применяется, когда в загружаемой информации содержатся сведения о реальных людях. Это могут быть имена клиентов, их контактные данные, истории покупок, медицинская информация или любые другие характеризующие человека сведения.

Если сотрудник загружает список клиентов в ChatGPT, он нарушает 152-ФЗ. Даже если это просто имена и телефоны. Закон устанавливает, что персональные данные можно обрабатывать только с согласия субъекта (кроме исключений) и только для конкретных целей. Загрузка в американскую нейросеть не входит в эти цели.

Штраф за нарушение 152-ФЗ может быть наложен на компанию в размере до 5 миллионов рублей для юридических лиц. Для должностных лиц предусмотрены штрафы до 500 тысяч рублей или дисквалификация на срок до трёх лет.

Важный момент: ответственность несёт не только тот, кто загрузил данные, но и компания как обработчик. Даже если сотрудник действовал вопреки приказу, компания может быть привлечена к ответственности за ненадлежащую организацию защиты данных.

Федеральный закон № 420-ФЗ: коммерческая тайна

Отдельная категория защиты — коммерческая тайна. Это информация, которая имеет независимую ценность в силу неизвестности третьим лицам и требует принятия разумных мер для её защиты. Примеры: технологии производства, бизнес-планы, финансовые модели, списки поставщиков.

Если сотрудник загружает такую информацию в нейросеть, компания теряет право на защиту этой информации как коммерческой тайны. Раз она попала в открытый доступ или на серверы третьей стороны, она больше не является тайной. А это значит, конкурент может её использовать без дополнительных ограничений.

Штраф за разглашение коммерческой тайны может быть очень высоким. В судебной практике встречаются размеры компенсации в несколько десятков миллионов рублей, если ущерб компании был существенным.

Статья 272.1 УК РФ: уголовная ответственность

В Уголовном кодексе РФ есть специальная статья, которая посвящена несанкционированному доступу к информации и её использованию. Если утечка привела к серьёзным последствиям — например, к значительному материальному ущербу или компрометации государственной тайны — могут наступить уголовные последствия.

Уголовная ответственность здесь наступает не сразу. Сначала это гражданская ответственность, потом административная, и только если ущерб очень значителен, может быть возбуждено уголовное дело. Но то, что эта возможность существует, делает вопрос серьёзнее.

В случае с увольнением менеджера в DeepSeek суд признал, что разглашение конфиденциальной информации является грубым нарушением трудовых обязанностей. Это значит, что даже без уголовного дела компания имеет право защищать свои интересы.

Локальные нормативные акты и трудовой договор

Помимо федеральных законов, компания может установить собственные требования в коллективном договоре, соглашении о неразглашении информации или должностной инструкции. Нарушение этих документов может быть основанием для дисциплинарного взыскания, вплоть до увольнения.

Важно, что эти документы должны быть достаточно конкретными. Общая фраза "не разглашать конфиденциальную информацию" может быть оспорена в суде как недостаточно ясная. Лучше описать конкретные действия, которые запрещены: "не загружать служебные документы в публичные сервисы", "не копировать информацию о клиентах в браузерные приложения".

Финансовые последствия утечки для компании

Штрафы и уголовная ответственность — это только одна часть стоимости утечки. На практике финансовые потери значительно больше.

Прямые затраты на ликвидацию инцидента

Когда утечка обнаружена, компания должна срочно принять меры. Это означает:

• Привлечение специалистов в области кибербезопасности для анализа того, что произошло и какие данные скомпрометированы
• Уведомление регулирующих органов (если утечка включает персональные данные, нужно уведомить Роскомнадзор)
• Уведомление затронутых лиц (если это персональные данные третьих лиц, нужно сообщить им о произошедшем)
• Юридическая консультация по поводу степени ответственности и возможных исков
• Проведение внутреннего расследования

Каждый из этих пунктов требует средств. Квалифицированные специалисты стоят дорого, особенно если нужно привлекать их срочно. Судебные процессы требуют юридического сопровождения. В результате прямые затраты на ликвидацию инцидента могут быть в диапазоне от нескольких сотен тысяч до нескольких миллионов рублей в зависимости от масштаба.

Штрафы и судебные издержки

Если инцидент будет выявлен регулирующими органами, компания столкнётся со штрафами. Размер может варьироваться в зависимости от того, было ли нарушено 152-ФЗ, 420-ФЗ или другие законы. К этому добавятся судебные издержки, если компании потребуется защищаться в суде.

Практика показывает, что даже если компания выиграет судебный процесс, издержки всё равно могут быть существенными. Если проиграет, потребуется выплатить компенсацию потерпевшей стороне плюс свои собственные судебные издержки.

Репутационный ущерб и потеря клиентов

Это более сложно оценить финансово, но часто это самая большая потеря. Когда становится известно об утечке данных, клиенты теряют доверие. Они могут переойти к конкурентам, отказаться от заключения новых контрактов или потребовать снижения цены за сохранение отношений.

Особенно это критично для B2B-компаний, где клиент — это крупная организация, которая имеет строгие требования к безопасности. Если утечка станет известна, этот клиент может попросту расторгнуть контракт.

Потеря репутации может сказаться и на рекрутинге. Талантливые специалисты предпочитают работать в компаниях, которые серьёзно подходят к безопасности. Если компания известна тем, что у неё произошла серьёзная утечка, это может отпугнуть кандидатов.

Упущенная выгода

Если утечка касается стратегической информации, конкурент может использовать её в своих интересах. Например, если упала информация о новом продукте, конкурент может запустить похожий продукт раньше. Или если упала информация о клиентах, конкурент может начать их активно переманивать.

Рассчитать упущенную выгоду сложно, но она реальна. В инциденте с Samsung потеря из-за раскрытия исходного кода потенциально могла быть очень высокой, если бы конкурент смог быстро использовать эту информацию.

Затраты на восстановление доверия

После инцидента компания обычно должна предпринять значительные усилия для восстановления доверия. Это может быть проведение презентаций и встреч с ключевыми клиентами, организация пресс-конференций, создание публичной программы по повышению безопасности.

Все эти меры требуют ресурсов. Иногда они помогают, иногда нет. Но в любом случае это экономически ощутимо.

По исследованиям аналитических компаний, средняя стоимость одного инцидента утечки данных в России составляет от 2 до 5 миллионов рублей с учётом всех видов потерь. Для малых компаний это может быть катастрофично.

Как защитить корпоративные данные от утечки

Теория рисков — это важно, но что делать на практике? Защита от утечек через нейросети требует комплексного подхода. Нельзя решить проблему с помощью одного инструмента или одного правила. Нужна система, которая включает технологии, политику и людей.

Политика использования ИИ

Первый шаг — создание ясной и конкретной политики. Это должен быть документ, который объясняет, какие нейросети можно использовать, а какие нельзя. Какие данные можно загружать, а какие строго запрещены. Что грозит за нарушение.

Важные элементы такой политики:

• Список одобренных сервисов и их условия использования
• Категории данных, которые запрещены для загрузки (персональные данные, коммерческая тайна, финансовые показатели)
• Категории данных, которые допустимы (публичная информация, обобщённые показатели, общие вопросы
• Процесс запроса исключения, если сотрудник считает, что нужно использовать нейросеть для конкретной задачи
• Последствия за нарушение политики
• Процесс сообщения об инциденте, если сотрудник случайно загрузил конфиденциальные данные

Политика должна быть понятна среднему сотруднику. Не должно быть двусмысленных формулировок. Если что-то неясно, люди будут действовать "на свой риск", что приведёт к проблемам.

Техническое ограничение доступа

Политика сама по себе работает плохо. Людей нужно не только просить, но и технически ограничивать. Вот несколько подходов:

Блокировка на уровне сети. IT-отдел может настроить сетевые фильтры так, чтобы работники не могли открыть ChatGPT или DeepSeek с корпоративной сети. Это грубый метод, но он работает. Минус в том, что сотрудник может использовать мобильный интернет, обойдя блокировку.

Запрет браузерных расширений. Компания может запретить установку расширений для браузера или утвердить только белый список расширений. Это снижает риск, но не исключает его полностью.

Мониторинг DNS-запросов. При попытке обращения к ChatGPT или другому нейросервису система может зафиксировать это и заблокировать, или просто создать запись в логе для анализа.

Использование VPN и изолированных сетей. Для сотрудников, которые работают с особо чувствительной информацией, компания может использовать отдельную изолированную сеть, которая не имеет доступа в интернет напрямую или имеет очень ограниченный доступ.

Важно понимать, что все эти меры можно обойти. Мотивированный сотрудник или вредитель всегда найдёт способ. Но задача не в том, чтобы сделать невозможным любое нарушение — это невозможно. Задача в том, чтобы повысить порог входа и создать среду, в которой большинство людей будут придерживаться политики просто потому, что это удобнее.

Корпоративные ИИ-решения вместо публичных сервисов

Лучший способ защиты — предоставить сотрудникам хорошую альтернативу. Если запретить ChatGPT, но не дать ничего вместо этого, люди всё равно будут его использовать. Если же предоставить корпоративную нейросеть или доступ к приватной версии публичного сервиса, ситуация меняется.

Вот несколько вариантов:

• Корпоративная подписка на ChatGPT Plus или ChatGPT Enterprise. Компания покупает корпоративные аккаунты, которые имеют более строгую политику конфиденциальности. Данные не используются для обучения модели, и есть дополнительные гарантии безопасности.
• Локальные модели. Компания развёртывает собственную нейросеть на собственных серверах. Это может быть открытая модель вроде Llama или собственная модель, обученная на данных компании. Данные не покидают компанию, риск утечки минимален.
• Облачные сервисы с гарантиями конфиденциальности. Есть поставщики, которые предоставляют ИИ-услуги с гарантией, что данные не будут использованы для обучения и остаются конфиденциальными.
• Интеграция с внутренними системами. Компания может создать свой ИИ-помощник, который интегрирован с внутренними системами, но работает только с одобренными данными и не загружает ничего во внешние сервисы.

Каждый из этих подходов имеет свои затраты. Корпоративная подписка стоит дороже, чем личная. Локальные модели требуют вычислительных ресурсов. Облачные сервисы с гарантиями обычно дороже стандартных. Но это инвестиция в безопасность, которая окупается через предотвращение потенциальных убытков.

Обучение сотрудников

Технология и политика работают только если люди их понимают. Обучение сотрудников — это не скучная лекция, которую они слушают, чтобы закрыть галочку. Это объяснение, почему вопрос важен, что может пойти не так и как каждый может помочь.

Эффективное обучение включает:

• Примеры реальных инцидентов и их последствий (как был разобран ранее случай с Samsung и DeepSeek)
• Демонстрацию того, как данные попадают в нейросеть и что потом происходит
• Практические упражнения: "вот у вас есть эта задача, можете ли вы загрузить эту информацию в ChatGPT?"
• Информацию о том, какие данные считаются конфиденциальными и почему
• Инструкции, что делать, если произошла утечка или сотрудник заметил подозрительную активность

Обучение должно быть периодическим, не один раз в год. Лучше проводить его несколько раз в год, чтобы информация оставалась в памяти людей. При найме новых сотрудников обучение должно быть обязательной частью онбординга.

Важно также создать культуру открытости. Если сотрудник случайно загрузил конфиденциальные данные в нейросеть, он должен иметь возможность сообщить об этом без страха наказания. Только так компания сможет быстро реагировать на инциденты.

План контроля теневого ИИ: этапы на 30, 60 и 90 дней

Запрет на использование нейросетей работает медленнее, чем кажется. Даже если компания полностью блокирует доступ к ChatGPT, люди всё равно будут его использовать — через мобильный интернет, через ВПН, с личных устройств дома. Вместо того чтобы бороться с неизбежным, лучше выстроить систему управления теневым ИИ. То есть признать, что люди будут его использовать, и сделать это управляемым и безопасным.

Для внедрения такой системы нужен структурированный план. Вот почему специалисты в области ИБ рекомендуют модель 30/60/90 дней. Каждый этап решает конкретную задачу и создаёт фундамент для следующего.

Этап 1 (0–30 дней): видимость и правила

На первом этапе нужно понять, что происходит. Компания часто не знает, в каких масштабах сотрудники используют нейросети. Первая задача — получить видимость.

• Провести анонимный опрос. Спросить сотрудников, какие нейросети они используют, для каких задач, как часто. Результаты помогут понять масштаб проблемы и точки наибольшего риска.
• Включить мониторинг на уровне сети. Запустить логирование всех обращений к популярным ИИ-сервисам. Это не блокировка, а просто запись того, кто, когда и откуда обращается к ChatGPT, DeepSeek и подобным сервисам.
• Разработать политику использования ИИ. Создать документ, который чётко описывает, какие нейросети разрешены, какие запрещены, какие данные нельзя загружать, и какие последствия за нарушение. Этот документ должен быть согласован с юридическим отделом.
• Провести первичное обучение. Организовать встречу или вебинар для руководителей и ключевых сотрудников, на которой объяснить ситуацию, показать примеры инцидентов и рассказать о новой политике.
• Создать канал сообщения об инцидентах. Установить простой способ для сотрудников сообщить, если они случайно загрузили конфиденциальные данные. Это может быть форма в интранете или почтовый ящик.

После первого месяца компания должна иметь ясное представление о ситуации и первые шаги по её контролю должны быть предприняты.

Этап 2 (30–60 дней): технический контроль

На втором этапе информация трансформируется в действия. Нужно перейти от мониторинга к более активному управлению. Это не значит, что нужно запретить всё и всем. Это значит, что нужно выстроить техническую инфраструктуру, которая позволит контролировать использование нейросетей без полного блокирования.

• Развернуть корпоративное решение. Если компания выбрала подписку на ChatGPT Enterprise или другой платный сервис, этап 2 — это время для развёртывания и настройки. Сотрудникам даются корпоративные аккаунты с хорошими настройками конфиденциальности.
• Настроить браузерные политики. Для браузеров, которые используют сотрудники, нужно установить политики, которые ограничивают установку подозрительных расширений или вообще позволяют устанавливать только одобренные расширения.
• Развернуть локальную нейросеть (если требуется). Для компаний, работающих с особо чувствительной информацией, можно развернуть собственную нейросеть на собственных серверах. Это требует вычислительных ресурсов, но гарантирует, что данные не покидают компанию.
• Интегрировать мониторинг с системой защиты от утечек данных (DLP). Современные системы DLP могут отслеживать попытки загрузки конфиденциальных данных не только в облачные хранилища, но и на сайты нейросетей. Если система обнаружит попытку загрузить, например, документ с пометкой "Коммерческая тайна" на ChatGPT, она может заблокировать это действие или оповестить администратора.
• Провести расширенное обучение. На этом этапе нужно провести более подробное обучение для всех сотрудников. Не просто рассказать о политике, но показать, как правильно использовать одобренные корпоративные решения.

После двух месяцев компания должна иметь техническую инфраструктуру, которая позволяет управлять использованием нейросетей, и большинство сотрудников должны знать о новых правилах.

Этап 3 (60–90 дней): санкционированная альтернатива и оптимизация

На третьем этапе всё, что было внедрено, оптимизируется на основе опыта первых двух месяцев. Компания собирает обратную связь и корректирует подход.

• Анализ инцидентов. Проанализировать все инциденты, которые были зафиксированы через мониторинг или через канал сообщений. Понять, почему люди обходили правила, какие данные утекали, как это произошло.
• Оптимизация политики. На основе анализа скорректировать политику использования ИИ. Возможно, какие-то ограничения были слишком строгими, и сотрудники их нарушали. Возможно, наоборот, нужно усилить контроль в определённых областях.
• Расширение доступа к санкционированным решениям. Если первичный опыт показал, что сотрудники нуждаются в использовании нейросетей для конкретных задач, компания может официально разрешить использование определённых сервисов или моделей для этих задач с соответствующими гарантиями безопасности.
• Внедрение системы поощрений. Для повышения соответствия политике можно создать систему, которая поощряет сотрудников за сообщение о нарушениях, за предложения по улучшению безопасности и за соблюдение правил.
• Планирование долгосрочной стратегии. После трёх месяцев компания должна иметь достаточно информации, чтобы выстроить долгосрочную стратегию управления ИИ-рисками. Это может быть годовой план с конкретными целями и метриками.

Можно ли запускать этапы параллельно

В теории план рассчитан на последовательное выполнение. На практике компания часто может начать некоторые части параллельно. Например, разработку политики можно начать сразу, не ожидая, пока закончится опрос сотрудников. Но есть логический порядок, который нарушать не стоит.

Нельзя внедрять технический контроль, если нет четкой политики. Потому что тогда никто не будет знать, зачем блокируются или мониторятся определённые действия. Нельзя планировать долгосрочную стратегию, не имея видимости того, что происходит в компании.

Оптимальный подход — запустить первый этап на полную катушку, параллельно начать подготовку ко второму этапу, и только когда первый этап близится к завершению, полностью переходить на второй. Третий этап начинается после того, как стабилизируется второй.

Почему запрет на нейросети неэффективен

Многие компании выбирают самый простой путь: полный запрет. Приказ сверху, блокировка всех нейросетей на уровне сети, угрозы наказания. На первый взгляд, это логично. Если нейросети опасны, почему их не запретить?

Проблема в том, что запреты работают только если у человека нет альтернативы и если эта альтернатива действительно хуже. В случае с нейросетями ни то, ни другое не верно.

Человеческая природа и обход запретов

История показывает, что люди всегда находят способ обойти запреты, если видят в этом смысл. В советское время люди ездили в Финляндию за товарами, несмотря на запреты. Сегодня люди используют ВПН, несмотря на блокировки. И сотрудники будут использовать ChatGPT со своих личных устройств на личном интернете, несмотря на корпоративные фильтры.

Когда сотрудник обходит блокировку, ситуация становится только хуже. Потому что компания теряет видимость. Она не может мониторить, какие данные загружаются. Она не может быстро реагировать на инциденты. Когда инцидент откроется, компания не будет знать, в каких масштабах он произошёл.

Потеря производительности

Нейросети реально ускоряют работу. Инженер может отладить код в два раза быстрее, если попросит помощь у ChatGPT. Аналитик может выделить тренды в больших объёмах данных. Менеджер может подготовить презентацию быстрее.

Если запретить нейросети без предложения альтернативы, компания просто теряет эту производительность. Сотрудники начинают работать медленнее. Они могут выполнять свои задачи по-старому, но это занимает больше времени и требует больше ресурсов.

С экономической точки зрения это не имеет смысла. Потери от снижения производительности часто больше, чем потенциальные выгоды от предотвращения утечек.

Утечки всё равно происходят

Пытаясь запретить нейросети, компания не решает фундаментальную проблему — люди хотят их использовать. Запрет просто загоняет эту деятельность в подпол. Вместо того чтобы использовать корпоративный аккаунт ChatGPT с логированием и мониторингом, сотрудник использует свой личный аккаунт, о котором компания ничего не знает.

Риск утечки при этом становится выше, не ниже. Потому что компания не может даже заметить, что произошла утечка, пока конкурент не начнёт использовать украденную информацию.

Культура недоверия

Полный запрет создаёт атмосферу недоверия. Сотрудники воспринимают это как сигнал, что компания им не доверяет. Это снижает мораль и может привести к текучести кадров. Хорошие специалисты предпочитают работать в компаниях, которые дают им инструменты и доверяют им.

Запрет на нейросети в 2024-2026 годах выглядит примерно так же, как запрет на электронную почту в 2000-х годах. Это выглядит старомодно и отталкивает прогрессивных сотрудников.

Альтернативный подход: управление вместо запрета

Вместо запрета нужно выбрать управление. Это означает признать, что нейросети — это часть современного рабочего процесса, и выстроить систему, которая позволяет их использовать безопасно.

Такой подход имеет несколько преимуществ:

• Компания сохраняет видимость и контроль над использованием нейросетей
• Сотрудники получают инструменты, которые им нужны, и работают продуктивнее
• Риск утечек снижается благодаря использованию одобренных и контролируемых решений
• Компания создаёт культуру доверия и ответственности
• Если инцидент всё же произойдёт, компания может быстро реагировать, потому что она знает, что происходит

Это требует больше усилий, чем просто запретить. Нужно разработать политику, внедрить технологию, обучить людей. Но результат стоит этих усилий.

Проблема утечек данных через нейросети не решается запретами. Она решается только если компания признаёт ИИ частью своего рабочего процесса и выстраивает для него правильную инфраструктуру.

Что делать прямо сейчас

Если вы прочитали эту статью и признали, что ваша компания подвержена риску, не нужно ждать. Вот конкретные действия, которые вы можете начать предпринимать сегодня.

Для IT-руководителей и специалистов по безопасности

• Включить мониторинг обращений к популярным ИИ-сервисам на уровне сети
• Провести аудит, какие браузерные расширения установлены на корпоративных устройствах
• Начать разработку политики использования ИИ совместно с юридическим отделом
• Оценить возможность внедрения системы DLP, если её ещё нет
• Запланировать переговоры с провайдерами ИИ-услуг о корпоративных условиях

Для руководителей компаний и HR

• Назначить ответственного за управление рисками ИИ (может быть Chief Information Security Officer или специалист в области ИБ)
• Запланировать обучение руководящего состава о рисках утечек через ИИ
• Выделить бюджет на внедрение управления теневым ИИ
• Включить вопрос об ИИ в трудовые договоры новых сотрудников

Для сотрудников и менеджеров

• Прочитать и понять политику использования ИИ в вашей компании, когда она будет опубликована
• Если вы используете нейросети, убедиться, что вы не загружаете конфиденциальные данные
• Если вы заметили, что кто-то из коллег загружает чувствительную информацию в публичную нейросеть, сообщить об этом
• Если случайно загрузили конфиденциальные данные, не скрывать это, а сообщить руководству как можно быстрее

Утечки через нейросети — это проблема не будущего, а настоящего. Но это управляемая проблема. И управляется она не запретами и не паникой, а системным подходом.

Компании, которые начнут действовать сейчас, получат преимущество. Они будут знать, как управлять ИИ, как контролировать риски и как использовать нейросети на благо бизнеса. Компании, которые будут ждать, столкнутся с инцидентом раньше или позже. И тогда придётся решать проблему в спешке и в худших условиях.

Вопрос не в том, будут ли в вашей компании утечки через ИИ. Вопрос в том, будете ли вы готовы к ним. И готовность начинается с признания проблемы и первых шагов по её решению.