Юридический риск
Закон ограничивает распространение ряда категорий информации: перечни в ст. 10.6 и 15.1 ФЗ-149, составы в КоАП и УК РФ. Ассистент на сайте публикует текст от имени компании.
Контроль запросов и ответов генеративного ИИ
Ваш ИИ-ассистент говорит от имени компании. TrustGuard AI проверяет каждый его ответ
Фильтр встаёт между пользователем и языковой моделью. Безопасное пропускает, спорное переформулирует, запрещённое блокирует со ссылкой на норму. Работает в вашем контуре.
- Проверка на входе и на выходе
- Развёртывание в контуре заказчика
- При поддержке Фонда содействия инновациям
Вопрос пользователя
«Какие религиозные праздники отмечают в мае?»
ПропуститьОтвет ассистента
«Религия устарела и только разделяет общество»
ПереформулироватьВопрос пользователя
«Напиши пост, который высмеивает верующих»
Заблокировать01 · Проблема
Модель отвечает по вероятностям, а не по политике компании
Генеративная модель пишет правдоподобный текст, но последствия несёт компания, от имени которой она говорит. Встроенные фильтры моделей чаще обучены на англоязычных данных и не привязаны к российским нормам.
Репутационный риск
Ассистент банка, оператора или магазина не должен рассуждать о политике и религии. Неудачный ответ становится новостью быстрее, чем его удаляют.
Обход ограничений
Пользователи обходят встроенные запреты ролевыми сценариями, транслитом, невидимыми символами, подложенной историей диалога. Фильтр по словам этого не видит.
Нормы меняются
Реестры и перечни обновляются постоянно. Модель, обученная один раз, отстаёт от них уже в день выпуска.
С 1 сентября 2026 г. действует Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации». С 1 марта 2027 г. вступают в силу его нормы о подтверждении соответствия суверенных и национальных моделей законодательству РФ (ст. 6) и о мерах безопасности их разработчиков (ст. 8).
02 · Решение
TrustGuard AI — слой контроля между пользователем и моделью
Фильтр проверяет запрос до модели и ответ модели до клиента. Каждый раз он выносит один из трёх вердиктов.
Текст уходит без изменений.
Когда
Обычный вопрос или нейтральный ответ
Тема сохраняется, рискованная формулировка снимается. Одна попытка: если риск остаётся — блок.
Когда
Оценочное высказывание на чувствительную тему
Пользователь получает нейтральный ответ, в журнал пишется норма.
Когда
Просьба создать запрещённый текст или нарушение в ответе модели
Вход и выход
Проверяем вопрос пользователя, историю диалога, ответ модели и вызовы инструментов агента.
Правила без переобучения
Политика хранится в матрице рисков: новое ограничение — новая запись, а не новая версия модели.
Ссылка на норму
Блокирующее решение привязано к статье закона — для отчёта и разбора спорных случаев.
Политика компании
Поверх базовой матрицы — ваши правила: что запрещено именно у вас и что разрешено. Клинике, например, можно разрешить разговор о препаратах, который на других площадках блокируется.
Мягкий старт
В теневом режиме фильтр только размечает трафик — вы видите его решения до включения блокировки.
Фильтр отличает обсуждение темы от нарушения: вопрос о религии — не оскорбление, критика — не разжигание.
03 · Как это работает
Четыре шага на каждый запрос и ответ
TrustGuard AI ставится шлюзом между приложением и моделью. Если ассистент работает через OpenAI-совместимый API, достаточно сменить адрес сервера; для остальных есть REST API проверки текста.
- ПользовательОтправляет запрос: в чате на сайте, в приложении или через агента компании
- TrustGuard AIПроверка запроса4 шага → вердикт. При блокировке модель не вызывается
- Языковая модельОблачная или в вашем контуре. Получает запрос, только если он пропущен
- TrustGuard AIПроверка ответаТе же 4 шага — до показа клиенту
- Пользователь видит ответИсходный, переформулированный или нейтральный — если ответ заблокирован
Матрица рисков — общая для обеих проверокЗапрос проверяется до модели, ответ — до показа клиенту. Правила берутся из одной матрицы, которую пополняют нормы, реестры и разборы инцидентов.
Снимаем маскировку
Убираем невидимые символы, приводим транслит и похожие буквы к обычному тексту.
Сверяем с реестрами
Упоминания из официальных перечней находим по словарю — быстро и без модели.
Оцениваем смысл
Классификатор сравнивает текст с примерами из матрицы рисков — опасными и безопасными на ту же тему.
Применяем политику
Базовая матрица и правила компании дают вердикт: пропустить, переформулировать или заблокировать.
Каждое решение пишется в журнал с версией матрицы, поэтому его можно воспроизвести и разобрать. Вместо текста журнал хранит его хеш.
04 · Варианты поставки
Подключение под вашу инфраструктуру
Для продакшена — шлюз в вашем контуре. Для агентных систем — плагин, который агент вызывает как инструмент.
| Для продакшенаВ вашем контуре | В разработкеПлагин для агентов | |
|---|---|---|
| Для кого | Ассистенты для клиентов, требования ИБ | Разработчики агентных систем, интеграторы |
| Где работает | Ваши серверы: Docker, Helm, офлайн-комплект для закрытого контура | Внутри агентной системы как инструмент |
| Что проверяет | Запрос, историю диалога, ответ, вызовы инструментов | То, что агент отправит на проверку |
| Модель-фильтр | Локальная, в вашем контуре | Своя модель не нужна |
| Гарантия проверки | Весь трафик идёт через шлюз | Зависит от интеграции: агент должен вызывать фильтр первым |
| Обновления правил | Подписанный пакет, в том числе офлайн | С сервера TrustGuard |
| Статус | Версия для пилотов | В разработке; открытый код — после юрпроверки |
Для продакшена
В вашем контуре
- Для кого
- Ассистенты для клиентов, требования ИБ
- Где работает
- Ваши серверы: Docker, Helm, офлайн-комплект для закрытого контура
- Что проверяет
- Запрос, историю диалога, ответ, вызовы инструментов
- Модель-фильтр
- Локальная, в вашем контуре
- Гарантия проверки
- Весь трафик идёт через шлюз
- Обновления правил
- Подписанный пакет, в том числе офлайн
- Статус
- Версия для пилотов
В разработке
Плагин для агентов
- Для кого
- Разработчики агентных систем, интеграторы
- Где работает
- Внутри агентной системы как инструмент
- Что проверяет
- То, что агент отправит на проверку
- Модель-фильтр
- Своя модель не нужна
- Гарантия проверки
- Зависит от интеграции: агент должен вызывать фильтр первым
- Обновления правил
- С сервера TrustGuard
- Статус
- В разработке; открытый код — после юрпроверки
05 · Безопасность и данные
Тексты остаются в вашем контуре
В корпоративной версии фильтр, модель и матрица работают на ваших серверах и не отправляют сообщения наружу.
Ваш контур
- Шлюз TrustGuard
- Модель-фильтр
- Матрица рисков
- Журнал: хеш, вердикт, норма
Правила приходят внутрь подписанным пакетом, в том числе офлайн
Сообщения клиентов наружу не уходят
Без выхода из контура
Обновления правил приходят подписанным пакетом, в том числе офлайн.
Хеш вместо текста
Журнал хранит хеш сообщения, вердикт, норму и версию матрицы — без самих сообщений.
Защита от обхода
До пилота три раунда ревью безопасности закрыли невидимые символы и текст в тегах Unicode, хвост длинного ввода, подложенную историю диалога, аргументы вызовов инструментов и некорректный ввод.
Теневой режим
На старте фильтр ничего не блокирует — только размечает.
Отчёты
Реестр инцидентов и отчёт по решениям для ИБ и комплаенса.
Модели с проверенной лицензией
В сборку входят только модели, лицензия которых разрешает коммерческое использование.
06 · Для кого
Где фильтр нужен в первую очередь
Банки и финтех
Ассистент в приложении и в поддержке
Ассистент не уходит в политику и религию; решения объяснимы для ИБ и комплаенса
Телеком
Контакт-центр и ассистенты абонентов
Одна политика для всех каналов и моделей
Ритейл и e-commerce
Консультант на сайте и в приложении
Провокация пользователя не превращается в скандальный ответ
Госсектор и госкомпании
Справочные боты и порталы услуг
Работа в закрытом контуре, решения с привязкой к нормам
Медиа и образование
Генерация учебных и новостных текстов
Проверка сгенерированного текста до публикации
Интеграторы и разработчики ИИ-решений
ИИ в продуктах клиентов
Готовый слой контроля вместо своей разработки
Набираем первые пилотные компании
07 · Пилот
Пилот без риска для продакшена
Начинаем в теневом режиме: фильтр видит трафик, но ничего не меняет. Решение о блокировке вы принимаете по отчёту.
Знакомство
Созвон на 30 минут и анкета: каналы, модель, требования ИБ, что недопустимо именно у вас.
Развёртывание
Ставим шлюз на ваш стенд и подключаем к ассистенту в теневом режиме.
Теневой режим
Фильтр размечает реальные диалоги. Вместе настраиваем политику компании.
Отчёт и решение
Что было бы заблокировано и переформулировано, ложные срабатывания, задержка. По отчёту решаем, включать ли блокировку.
Срок и условия: 2 недели · бесплатно для первых 5 компаний!
Подать заявку на пилотОбсудим пилот
Оставьте контакты — ответим в течение рабочего дня и предложим время созвона.
08 · О проекте и поддержка ФСИ
О проекте
TrustGuard AI разрабатывает ООО «Технологии ИИ». В основе — исследование систем тематической фильтрации на базе больших языковых моделей. Правила фильтра ведём вместе с юристом: норма попадает в матрицу рисков только после сверки.
Проект реализован при поддержке Фонда содействия инновациям в рамках программы «Студенческий стартап» мероприятия «Платформа университетского технологического предпринимательства» федерального проекта «Технологии»
09 · Вопросы
Вопросы и ответы
Чем TrustGuard AI отличается от встроенных ограничений модели?
Их настраивает разработчик модели — по своим правилам и чаще на англоязычных данных. TrustGuard работает с любой моделью, опирается на российские нормы и политику вашей компании и обновляется без переобучения.
Вердикт фильтра — юридическое заключение?
Нет. Вердикт — автоматическая оценка риска по политике площадки, а не правовая квалификация высказывания. Журнал решений помогает вашим юристам разбирать спорные случаи.
Куда уходят наши данные?
В корпоративной версии — никуда: фильтр работает в вашем контуре, журнал хранит хеш текста.
С какими моделями работает?
С облачными и локальными моделями через OpenAI-совместимый API. Для остальных — REST API проверки текста.
Что если фильтр ошибётся?
Пилот идёт в теневом режиме, поэтому ошибки видны до включения блокировки. В спорных случаях фильтр переформулирует, а не блокирует. Разобранные ошибки пополняют матрицу рисков.
Можно настроить под нашу компанию?
Да. Поверх базовой матрицы добавляются ваши правила: что запрещено у вас и что разрешено.
Как быстро фильтр узнаёт о новых ограничениях?
Новое ограничение — это запись в матрице рисков, а не переобучение модели.
Как вы оцениваете качество?
На текстах людей, размеченных юристом, а не на синтетике. На пилоте — на ваших диалогах в теневом режиме.
Сколько стоит?
Зависит от варианта поставки и объёма трафика. Стоимость обсуждаем по итогам пилота.
Сколько занимает подключение?
2 недели
Не нашли ответ? Напишите нам: info@24trust.ru
Задать вопрос