Каталог / Искусственный интеллект
Ошибки ИИ и правовые последствия
Результаты ИИ используются без проверки, возникают ошибочные решения, претензии и нарушения закона.
Типичные последствия
Ошибочные решения и документы, жалобы, иски, штрафы.
Как этот риск проявляется и что с ним делать
Ошибки и выдумки ИИ в бизнес-процессах без проверки человеком
ИИ выдаёт неверные ответы, расчёты, ссылки на несуществующие нормы или документы, и результат используется без проверки
Почему это важно. Ошибки трудно заметить, так как ответ выглядит убедительно; цена ошибки растёт, когда результат уходит клиенту, в договор или в учётную систему
Типичная ситуация. Чат-бот пообещал клиенту несуществующую скидку; в договор попала неверная формулировка; отчёт построен на выдуманных цифрах
Меры снижения:
- Проверка человеком критичных результатов. Тексты клиентам, договоры, расчёты и записи в учётных системах проходят проверку человека; ИИ готовит черновик, решение принимает сотрудник
- Набор тестовых запросов и регулярная проверка качества. Составьте 20-30 типовых вопросов с известными ответами и проверяйте качество после каждого изменения модели или инструкции
- Ограничение автономии ИИ. Начинайте с режима подсказки, затем с отправки после подтверждения; полную автономию допускайте только для задач с низкой ценой ошибки
Правовые и репутационные последствия использования ИИ
Нарушения закона о персональных данных и авторских прав, неясная ответственность за решения ИИ, жалобы клиентов
Почему это важно. Клиент может не знать, что общается с ИИ; сгенерированный контент может нарушать чужие права; отвечать за решения ИИ будет компания, а не поставщик
Типичная ситуация. Жалоба на бота, раскрывшего чужие данные; претензия за использованное изображение; спор об ответственности за ошибку ИИ
Меры снижения:
- Юридическая проверка использования ИИ. Проверьте с юристом 152-ФЗ, авторские права на контент, условия поставщика ИИ и распределение ответственности
- Информирование клиентов и передача разговора человеку. Сообщайте, что клиент общается с ИИ, и всегда давайте способ связаться с сотрудником
- Закрепить ответственность за решения ИИ. Назначьте владельца каждой ИИ-функции, описав, кто отвечает за результат и за реакцию на жалобы
Оценить этот риск для своего бизнеса