Устройство платформы

Конвейер обработки запроса

Каждый шаг задачи, на котором работает ИИ-модель, идет одним и тем же конвейером из одиннадцати стадий. Порядок объявлен заранее и от задачи не зависит.

• Две коралловые стадии - это рубеж. До пятой текст находится только на ваших серверах, после нее может уйти во внешнюю языковую модель.
• По умолчанию проход линейный и предсказуемый. Самостоятельность языковой модели включается отдельным видом шага, а не появляется сама.
• Для шагов без ИИ-модели, например обращения к вашей системе, неприменимые стадии пропускаются.

Замена персональных данных и обратная замена

Перед отправкой текста во внешнюю ИИ-модель платформа заменяет персональные данные обозначениями, а в готовом ответе возвращает настоящие значения на место.

• Распознается 28 категорий, от ФИО, телефонов и СНИЛС до номеров счетов, БИК, кадастровых номеров и номеров судебных дел.
• В спорных случаях действует правило «сомнение означает замену». Цена выбора названа прямо, потому что иногда языковая модель получает обозначение вместо слова, заменять которое было не нужно.
• Карта соответствия настоящих значений и обозначений хранится зашифрованной и ваши серверы не покидает.
• Для языковой модели, работающей на ваших серверах, замена не обязательна и включается правилами задачи.
• Числовые пороги полноты замены мы не публикуем. Замер вы делаете сами, своим эталонным набором, на своей платформе.

Поиск по документам

Документы разбираются, режутся на фрагменты и индексируются на ваших серверах. Поиск гибридный, смысловой вместе с полнотекстовым.

• Смысловые представления считаются только внутренними моделями. Поля для адреса внешнего сервиса в настройках не существует, потому что запрет держит сама схема настроек.
• Права применяются на стороне указателя, поэтому недоступный документ не виден даже фактом своего существования.
• Модели поиска легкие и работают на обычных процессорах. Видеокарта поиску не нужна.
• Регламенты ведутся с историей версий, а контроль актуальности сам поднимает документы, которым пора на пересмотр.

Единая точка вызова моделей

Все обращения к ИИ-моделям идут через одну точку. Шаг задачи заказывает класс модели, а не конкретного поставщика, поэтому смена поставщика не трогает ни код, ни задачи.

• Это вторая линия защиты после замены персональных данных, потому что обращение наружу без отметки об обезличивании отклоняется.
• При сбое поставщика запрос уходит на резервную модель, но только внутри разрешенных маршрутов данных. Российская меняется на российскую, внешняя на внешнюю.
• Разные задачи одной платформы работают на разных языковых моделях одновременно.
• Сбойный поставщик ставится на паузу, отказ возвращается с машиночитаемым статусом.

ИИ-модели на ваших серверах

Когда данные не должны уходить наружу, ИИ-модели работают у вас. Генеративные работают на видеокартах, быстрые специализированные на обычных процессорах.

• Штатный прием экономии - дешевый процессорный фильтр перед дорогим вызовом генеративной модели. Ставит его маршрут задачи, а не разработчик руками.
• Скоринг воспроизводим, и к оценке прилагается перечень признаков, которые на нее повлияли.
• Веса ИИ-моделей приходят в подписанном комплекте поставки и сверяются по контрольным суммам.
• Сетевого доступа за пределы ваших серверов у этого блока нет.

Управление доступом

Каждое действие проверяется единой точкой решения. Вопрос всегда один, может ли этот субъект сделать это действие с этим объектом.

• Роли вычисляются на сервере, а не приходят из тела запроса.
• Любая ошибка вычисления, недоступность данных или правило с ошибкой дают отказ, а не пропуск.
• Правила слоя соответствия действуют только в границах своего пакета задачи и умеют запрещать, но не разрешать сверх базовых политик.
• Отказы попадают в журнал действий. Метки доступа уходят в поисковый указатель, поэтому поиск не показывает недоступное.
• Подключение вашего единого входа по протоколам OIDC или SAML делается настройкой, без правки кода.

Журналирование

Каждая стадия каждого запроса оставляет след. Записи журнала сцеплены контрольными суммами, поэтому правку задним числом видно.

• В след попадают только обезличенные данные.
• Роль-писатель умеет только добавлять, роли-читатели только читать. Удаления из журнала нет.
• Просмотрщик показывает разбор запроса по шагам с инструкциями для языковой модели и найденным контекстом.
• Журнал по умолчанию не удаляется. Глубина хранения технических записей задается настройкой, в боевом профиле 90 дней.

Оценка качества ответов

У каждой задачи есть набор проверочных заданий с заранее известными правильными результатами. Один и тот же стенд работает у нас и у вас.

• Эталонные результаты у нашего выпуска и у вашей платформы свои, они не смешиваются.
• Тем же запуском ловится ухудшение качества после смены инструкции, ИИ-модели или пакета задачи.
• Свой эталонный набор вы собираете по шаблону задачи, он говорит, что размечать и в каком объеме. Запуск в одну кнопку.
• Отчет ставит рядом два числа, ваш нынешний уровень и то, что дает платформа.

Шаблоны прикладных задач

Задача поставляется одним пакетом объявлений. Исполняемого кода в нем нет, и проверка отклоняет пакет с кодом внутри еще до того, как он попадет на сервер.

• Обновление пакета не трогает уже запущенные процессы, потому что версия фиксируется при старте и процесс доживает на своей.
• Новая отраслевая задача - это новый пакет, а не правка ядра платформы.
• Часть шаблонов - это каркасы, общие для отраслей, извлечение реквизитов из документа и сверка документа со сводом требований. Оба настраиваются объявлением полей под конкретный тип документа.

Управление процессами

Долгий процесс, например кредитная заявка или урегулирование убытка, идет по маршруту из пакета задачи. Маршрут описан данными, без исполняемого кода.

• Точку решения человеком нельзя обойти прямым вызовом программного интерфейса.
• Порог, выше которого решение уходит человеку, задают правила соответствия. Автоматический проход ниже порога остается в журнале отдельной отметкой.
• Процесс переживает перезапуск и отказ любой копии ядра.
• Короткие сценарии, чат и поиск по витрине, идут отдельным путем в памяти, без записи процесса в базу.

Подключения к вашим системам

К вашим системам платформа подключается модулями по открытому протоколу MCP. Договор каждого модуля закреплен схемами.

• Соединения идут только изнутри наружу. Входящих портов открывать не нужно.
• Учетные данные ваших систем хранятся только в хранилище секретов платформы.
• Модуль к 1С поставляется готовым, транспорт в нем общий для всех конфигураций, а под вашу схему данных настраивается только сопоставление полей.
• Отдельный модуль по расписанию опрашивает внешние нормативные источники, например санкционные перечни, и обновляет по ним корпус поиска.
• Правила сетевого экрана переживают перезапуск, остальные сети изолированы.

Рабочие места

Экраны собираются из объявлений пакета задачи, а не верстаются под каждого заказчика заново. Новая задача получает рабочее место без правок ядра.

• Запись в данные идет только операцией процесса. Прямой записи из интерфейса нет.
• Экран оператора нужен только задачам без своей системы. Если заявки уже ведутся в 1С или CRM, сотрудник остается там, а платформа пишет результат туда же.
• Персональные данные в журнале заменены обозначениями.
• Доработанные под вас экраны подключаются через версионируемые точки доработки.

Развертывание и выпуск

Платформа описана одним файлом. Инструмент развертывания работает без интернета и из пустой машины делает работающую платформу одним запуском.

• Ручная правка на сервере ловится сверкой с файлом-описанием.
• Полный список состава ваша служба безопасности проверяет своим сканером до того, как платформа появится на сервере.
• Настройки прошлых версий хранятся рядом, возврат к ним предусмотрен.
• Запускает развертывание ваш инженер по руководству оператора из комплекта. Там же лежит порядок восстановления с чистого сервера.
• Для пилота идет готовый слой настроек малой конфигурации, подбирать ничего не нужно.

Ядро платформы и лицензия

Ядро - это один сервис, собранный из независимых модулей, а не парк из десятков микросервисов. Поэтому сопровождать платформу может небольшая команда.

• Лицензия ничего не отключает. При любых проблемах с ней платформа продолжает работать.
• Ступень лицензии считается от числа завершенных задач, которое платформа измеряет сама. Счетчик виден вам в отчете потребления.
• Если хотя бы одного из двух оснований нет, канала статистики нет. Текстов, документов и персональных данных в нем не бывает ни при каких настройках.
• Ваши доработки подключаются через точки доработки, заранее объявленные места с именем, программным интерфейсом и версией. Код доработки хранится отдельно от ядра.
• Несовместимое обновление обнаруживается заранее сверкой версий и не применяется, пока доработка не адаптирована.