Persona

Шлюз анонимизации облачной ИИ

Настоящее имя
знаете только вы.

Persona стоит между вашими системами и облачной нейросетью: перед отправкой заменяет все чувствительные данные метками, а ответ пользователю возвращает с настоящими значениями.
Модель видит «[[PERSON_1]]» - пользователь видит реальное имя.

Пример работы
Маска Гая Фокса — символ Persona

Как это работает

[[PERSON_1]][[PASSPORT_1]][[ID_1]]НоутбукТелефонРабочая станцияPERSONAОблачный ИИ[[·]]
● исходные данные● замаскированные метки

Персональные данные не покидают корпоративный контур

Пример отправки промпта

Пользователь набирает запрос
01

Исходный запрос

PERSONA
02

Что уйдёт в GigaChat

PERSONA
03

Ответ пользователю

Текст из фотографий

Пользователь пишет промпт и прикладывает фото
01

Сообщение пользователя

ЗАЯВЛЕНИЕФИОЩеглова Анна СергеевнаПАСПОРТ45 12 608413ТЕЛЕФОН+7 912 345-67-89ПОЧТАa.scheglova@mail.ruДАТА12.04.1987
Фото документа

zayavlenie.jpg — данные пока настоящие

Промпт и фото отправляются вместе — одним сообщением

02

Persona скрывает данные

  • ФИО[[PERSON_1]]
  • Паспорт[[PASSPORT_1]]
  • Телефон[[PHONE_1]]
  • Почта[[EMAIL_1]]
  • Дата12.04.1987пропускается
PERSONA
03

Уходит в облачный ИИ

Таблица соответствий живёт только в памяти шлюза — значения из фото нигде не сохраняются

99%

точность распознавания

98%

точность распознавания с изображений

4 ГБ

оператиновй памяти длоя работы

0

видеокарт используется для работы

Скрывает > 42 типов данных

ИменаАдресаПаспортЗагранпаспортСвидетельство о рожденииСвидетельство о бракеСНИЛСИННПолис ОМСВодительское удостоверениеВоенный билетСТСКартыСчетаIBANДоходыКредитная историяБанковские выпискиНалоговые декларацииТелефоныПочтаМессенджерыIP-адресаГеолокацияЛогиныПаролиКоды из СМСТокены и API-ключиIMEI и MACРекламные идентификаторыКуки и отпечатки браузераНики в соцсетяхЗдоровьеРецептыСудимостиРелигияПолитические взглядыДипломы и аттестатыТрудовая книжкаБиометрияVIN и госномераШтрафы и долги

Приватность любого из типов можно настроить через редактирование политик

Шесть логических слоёв для обеспечения надежности

01

Формат и контрольная сумма

Паспорт, СНИЛС, ИНН, карты и счета проверяются по алгоритму - случайная последовательность не будет распознана как номер.

02

Структура данных

Идентификаторы незнакомого формата распознаются по характерной структуре.

03

Словари

Медицинские диагнозы и судимости определяются по терминологическим словарям.

04

Справочники

Контрагенты и сотрудники определяются по отдельно настраиваемым спискам вашей компании.

05

Локальная NER-модель

Имена, адреса и организации, у которых нет четкого определения типа, находит нейросетевая локальная модель внутри шлюза.

06

Декодирование

Отдельный слой расшифровывает блоки base64, hex и URL-кодирования и проверят данные внутри.

01
02
03
04
05
06
Запросожидание

КлиенткаАнна Щеглова,[[PERSON_1]],паспорт4510 123456,[[PASSPORT_1]],договорAB-77-K9,[[ID_1]],диагнозгипертония.[[DIAGNOSIS_1]].КураторПетров И. В.,[[EMPLOYEE_1]],вложениеQW5uYSAxMjM=[[B64_1]]

Возможность создания отдельных политик под разные задачи

Скрывается

Значение заменяется меткой, ответ собирается обратно

Паспорт, СНИЛС, карты, имена

Блокируется

Запрос в облако не уходит ни в каком виде

Пароли, ключи доступа, CVC-коды

Пропускается

Уходит без изменений, чтобы не портить ответ

Даты, ссылки, реквизиты организаций

Только в памяти

Таблица «метка - значение» хранится только в памяти шлюза и живёт, пока обрабатывается запрос. Для моделей, хранящих историю диалога, есть режим сессий: таблица остаётся в памяти до конца сессии - по умолчанию до двух часов.

Админ-консоль и песочница

В веб-админке задаются свои шаблоны поиска — есть визуальный конструктор регулярных выражений, справочники, пороги уверенности и политики. Правки вступают в силу без перезапуска. В песочнице можно вставить текст и сразу увидеть, что и как будет скрыто.

Системные требования

Считаем CPU и RAM под ваш масштаб

Двигайте ползунок — график пересчитывает пиковую нагрузку и ресурс шлюза. Вся обработка идёт на процессоре: видеокарта не нужна.

1 000человек
33.3

запросов/с в пике

12

vCPU

24

ГБ RAM

Расчёт: пиковый час — 5% сотрудников одновременно, запрос обрабатывается ~1,5 с → 33 зап/с на 1 000 сотрудников. Ресурс: 1 vCPU ≈ 3 запроса/с, 2 ГБ RAM на ядро, минимум 4 vCPU и 8 ГБ.

НагрузкаРесурс шлюза
0601201809:0011:0013:0015:0017:0019:00зап/сресурс шлюза: 36 зап/с

Видеопамять не нужна

Вся обработка — на процессоре

Все шесть слоёв обнаружения, включая локальную модель, работают на CPU. GPU не требуется ни для установки, ни для работы — шлюз ставится на любой сервер внутри вашего контура.

Linux x86_64
Docker Compose
20 ГБ на диске
Исходящий HTTPS к облачному ИИ

Точность моделей

fp16 и fp32 из коробки

Модели собраны в fp16 и fp32 — максимальная точность обнаружения без дополнительной настройки.

По запросу

int8-квантование или GPU

  • Квантование в int8 — рост пропускной способности в ×3–×4 запросов в секунду (зависит от процессора).
  • Подключение GPU начального уровня — если нужно ещё больше скорости и в контуре есть свободная видеокарта.

Простое развертывание

Формат запросов и ответов остаётся прежним - маскирование встраивается между приложением и моделью.  Достаточно изменить адрес облачного сервиса на API 

# было base_url = "https://api.provider.com/v1" # стало base_url = "https://gateway.persona.local/v1"
Persona

На демо расскажем о преимуществах сервиса и покажем на живых примерах, как маскирование работает на ваших данных.