Каталог / Искусственный интеллект
Небезопасное внедрение ИИ: утечки и повреждение данных
ИИ получает доступ к рабочим системам без ограничений, сотрудники передают данные внешним сервисам, ключи и агенты не защищены.
Типичные последствия
Поломка CRM и учёта, утечки данных, штрафы и потеря клиентов.
Как этот риск проявляется и что с ним делать
Доступ ИИ-инструментов и агентов к рабочим базам и системам без ограничений
ИИ-агент или ассистент получает права записи и удаления в CRM, 1С, почте и файловых хранилищах без тестовой среды, лимитов и контроля
Почему это важно. Агент может массово изменить или удалить записи, отправить письма клиентам, запустить неверные операции; последствия могут быть необратимы, если нет резервной копии
Типичная ситуация. ИИ-агент перезаписал статусы сделок в CRM; массовая рассылка из почты по ошибочному списку; удалены карточки клиентов
Меры снижения:
- Тестовая копия и резервная копия перед подключением к рабочим системам. Сначала подключайте ИИ к копии CRM или 1С; перед массовыми операциями делайте резервную копию и проверяйте возможность отката
- Минимальные права для ИИ-инструментов и агентов. Отдельные служебные учётные записи, по умолчанию только чтение, запись только в нужные разделы, запрет удаления и массовых изменений
- Подтверждение человеком необратимых действий и журнал действий. Удаление, массовая рассылка, платежи и смена статусов выполняются только после подтверждения; все действия агента пишутся в журнал, действуют лимиты операций
Утечка данных через ИИ-сервисы
Сотрудники передают во внешние ИИ-сервисы клиентские данные, договоры, коммерческую тайну или пароли
Почему это важно. Данные могут храниться за рубежом, использоваться для обучения моделей и попасть к третьим лицам; передача персональных данных за границу регулируется 152-ФЗ. Проверять условия сервиса и действующие требования
Типичная ситуация. Менеджер загрузил в публичный чат-бот базу клиентов для «анализа»; юрист вставил договор с условиями сделки
Меры снижения:
- Правила: какие данные нельзя передавать во внешние ИИ-сервисы. Запретите передачу персональных данных, коммерческой тайны, паролей и договоров в публичные сервисы; поясните примерами и включите в инструктаж
- Корпоративный доступ с условиями без обучения на ваших данных или локальная модель. Для чувствительных задач используйте сервис с договором, где данные не используются для обучения и хранятся в согласованном месте, либо модель в собственном контуре
- Обезличивание данных и проверка требований 152-ФЗ. Перед передачей заменяйте имена и реквизиты на метки; проверьте с юристом передачу персональных данных за границу и условия поставщика
Теневое использование ИИ сотрудниками без правил и ответственных
Сотрудники используют несогласованные ИИ-сервисы, расширения и боты без контроля компании
Почему это важно. Руководитель не знает, какие данные и в какие сервисы уходят; нет политики, нет договоров с поставщиками, нет проверки безопасности
Типичная ситуация. Расширение браузера с ИИ читает содержимое рабочих систем; личный аккаунт ИИ используется для рабочих задач
Меры снижения:
- Ответственный за ИИ и реестр ИИ-систем. Назначьте ответственного и ведите реестр: какая система, какие данные и права, кто владелец, когда проверялась
- Перечень разрешённых ИИ-инструментов и простой порядок согласования новых. Опубликуйте список одобренных сервисов, а для новых определите быстрый запрос и проверку, чтобы сотрудники не обходили правила
- Политика использования ИИ на 1-2 страницы. Что разрешено, какие данные нельзя передавать, как проверять результаты и о чём сообщать при инциденте; ознакомление сотрудников под подпись
- Инвентаризация используемых сервисов. Опрос сотрудников, проверка расширений браузера и расходов на подписки: составьте реестр реально используемых ИИ-сервисов
- Регулярное обучение и разбор кейсов. Раз в квартал разбирайте реальные случаи ошибок и утечек, обновляйте правила
Атаки на ИИ-системы и компрометация ключей доступа
Промпт-инъекции, вредоносные инструкции в письмах и документах, утечка ключей API, отравление данных
Почему это важно. ИИ-агент, читающий письма и документы, может выполнить инструкцию из недоверенного текста; ключи доступа в коде, чатах и таблицах легко утекают, расходы и доступ используют злоумышленники
Типичная ситуация. Письмо с скрытой инструкцией заставило помощника переслать файлы; ключ API найден в публичном репозитории
Меры снижения:
- Безопасное хранение и ротация ключей доступа. Ключи только в защищённых хранилищах, не в коде, чатах и таблицах; лимиты расходов, ограничение по IP, замена при подозрении на утечку
- Защита от промпт-инъекций. Не позволяйте агенту выполнять инструкции из писем, документов и сайтов; разделяйте доверенные инструкции и недоверенные данные, ограничивайте доступные агенту действия
- Проверка поставщиков ИИ. Запросите, где хранятся данные, как изолируются клиенты, какие сертификаты и как обрабатываются инциденты
Оценить этот риск для своего бизнеса