Автономный агент с доступом к системам — это мощный инструмент, который требует многоуровневой защиты. Вот как мы обеспечиваем безопасность.
Многослойная фильтрация входных данных: санитизация пользовательского ввода, изоляция системных промптов, детекция попыток переопределения инструкций. Используем как эвристические, так и ML-модели детекции атак.
Специально обученные классификаторы выявляют попытки обхода ограничений: манипуляции с кодировками, role-play-атаки, многошаговые jailbreak-техники. Регулярное обновление сигнатур угроз.
Автоматическое обнаружение и маскирование персональных данных (ФИО, паспорта, телефоны, email) в запросах и ответах. Настраиваемые политики хранения и сроки жизни данных в соответствии с 152-ФЗ и GDPR.
Каждое действие агента записывается в неизменяемый лог: входные данные, цепочка рассуждений, выбранный инструмент, результат выполнения. Готово для compliance-проверок и расследования инцидентов.
У каждого инструмента — свой уровень допуска. Действия с низким риском (чтение) выполняются автоматически, средним (обновление) — с нотификацией, высоким (списание средств) — только с подтверждением оператора.
Все компоненты агента размещаются в изолированном контуре заказчика: VPC, on-premise, air-gapped среда. Данные никогда не покидают периметр. Аттестованные каналы связи и шифрование ГОСТ.
| Услуга | Стоимость (ориентир) | Сроки |
|---|---|---|
| Safety-аудит существующего агента | от 80 000 руб. | 1-2 недели |
| Настройка защиты от Prompt Injection | от 60 000 руб. | 1-2 недели |
| Настройка защиты от Jailbreak-атак | от 50 000 руб. | 1-2 недели |
| PII-фильтрация и маскирование данных | от 40 000 руб. | 1 неделя |
| Настройка Audit Trail (логирование) | от 50 000 руб. | 1 неделя |
| Разработка системы грейдированных доступов | от 70 000 руб. | 1-2 недели |
| Приватное развёртывание (VPC / on-premise) | от 100 000 руб. | 2-4 недели |
| Комплексный safety-контур (все компоненты) | от 250 000 руб. | 4-8 недель |
| Регулярный пентест агента (раз в квартал) | от 60 000 руб. | 1 неделя |
