SvayaИИ-платформаПлатформаПримерыПродуктыВнедрение
  1. Помощник разработчика
  2. Проблема
  3. Решение
  4. LLM и код внутри компании
  5. Маскирование
  6. Без интернета
  7. Контроль службы безопасности
  8. Выбор LLM
  9. Удобство
  10. Как начать
  11. Обсудить пилот
Ночью на горизонте светится стеклянный купол, внутри разработчики за ноутбуками и ядро LLM; мимо несутся полосы света

ИИ-⁠помощник по коду, который целиком
работает на серверах компании

Продукты

Помощник разработчика

Справа разработчик за ноутбуком, поток кода от него уходит вверх в облако публичного ИИ-сервиса

ПРОБЛЕМА

Код компании уже уходит
в публичные ИИ-⁠сервисы, и чаще
всего его отправляют разработчики

38 %

обращений сотрудников к публичным ИИ-⁠сервисам
содержат конфиденциальные данные

41 %

из них - исходный код и настройки

43 %

таких обращений отправляют команды разработки

Если компания запретит ИИ-⁠сервисы, разработчики либо останутся
без помощника, либо продолжат тайком отправлять код
в публичные сервисы

Проблема

Код компании уже уходит в публичные ИИ-⁠сервисы, и чаще всего его отправляют разработчики

Разработчик за ноутбуком, поток кода уходит от него в облако публичного ИИ-сервиса
  • 38 %обращений сотрудников к публичным ИИ-⁠сервисам содержат конфиденциальные данные
  • 41 %из них - исходный код и настройки
  • 43 %таких обращений отправляют команды разработки

Если компания запретит ИИ-⁠сервисы, разработчики либо останутся без помощника, либо продолжат тайком отправлять код в публичные сервисы

Вид изнутри светящегося купола: разработчики за ноутбуками, ядро LLM, стойки серверов

РЕШЕНИЕ

Разработчики пишут код
с ИИ-⁠помощником, а LLM, код и журналы
остаются на серверах компании

LLM работает на серверах компании, и код
не уходит наружу

Пароли и ключи из кода маскируются до отправки

Помощник работает без интернета, на Astra Linux
и РЕД ОС

Служба безопасности видит каждое действие

LLM выбирает компания, по оценке своих
разработчиков

1

2

3

4

5

Решение

Разработчики пишут код с ИИ-⁠помощником, а LLM, код и журналы остаются на серверах компании

Внутри светящегося купола разработчики за ноутбуками, в центре ядро LLM, у стены стойки серверов
  1. 1LLM работает на серверах компании, и код не уходит наружу
  2. 2Пароли и ключи из кода маскируются до отправки
  3. 3Помощник работает без интернета, на Astra Linux и РЕД ОС
  4. 4Служба безопасности видит каждое действие
  5. 5LLM выбирает компания, по оценке своих разработчиков
Схема внутри купола: среда разработки, сервер помощника и локальная LLM; запрос и ответ не выходят за купол, облако публичных ИИ-сервисов снаружи

LLM И КОД ВНУТРИ КОМПАНИИ

Код разработчика доходит до LLM и возвращается
с ответом, не покидая серверов компании

Плагины связываются только с сервером помощника: без телеметрии и обращений в интернет

запрос

ответ

Среда разработки

Сервер помощника

собирает контекст проекта
и проверяет права

Локальная LLM

Публичные
ИИ-⁠сервисы

LLM и код внутри компании

Код разработчика доходит до LLM и возвращается с ответом, не покидая серверов компании

Плагины связываются только с сервером помощника: без телеметрии и обращений в интернет

Разработчик за ноутбуком, сервер помощника и локальная LLM внутри купола: запрос идёт от ноутбука через сервер к LLM, ответ возвращается обратно; облако публичных ИИ-сервисов снаружи купола, к нему линий нет
Среда разработки
Сервер помощникасобирает контекст проекта и проверяет права
Локальная LLM
Публичные ИИ-⁠сервисы
Окно VS Code: в редакторе настоящие пароль и токен, в окне помощника «Что уйдёт в запрос» вместо них метки

МАСКИРОВАНИЕ

Пароли и ключи из кода маскируются до отправки и не попадают
ни в LLM, ни в историю диалогов

в коде - настоящие значения

в запрос - метки

Пароли, ключи и токены заменяются
метками - в выделенном коде
и в изменениях коммита

Файлы с ключами и сертификатами
(.env, .ssh) не уходят вовсе

Разработчик видит, что именно уйдёт
в запрос

Маскирование

Пароли и ключи из кода маскируются до отправки и не попадают ни в LLM, ни в историю диалогов

  • Пароли, ключи и токены заменяются метками - в выделенном коде и в изменениях коммита
  • Файлы с ключами и сертификатами (.env, .ssh) не уходят вовсе
  • Разработчик видит, что именно уйдёт в запрос

в коде - настоящие значения

Редактор VS Code: в файле settings.py строки с паролем базы данных и токеном GitLab

в запрос - метки

Окно помощника «Что уйдёт в запрос»: вместо пароля и токена - метки «скрыто: пароль #1» и «скрыто: токен GitLab #2»
Инженер у стойки серверов внутри купола держит подписанный комплект поставки

БЕЗ ИНТЕРНЕТА

Помощник ставится и обновляется
без интернета - на Astra Linux, РЕД ОС
или в Kubernetes

Установка не делает ни одного обращения наружу -
от пустого сервера до первого ответа помощника

Комплект поставки подписан и проверяется до распаковки.
Обновление и откат - тем же способом

а также Ubuntu

Без интернета

Помощник ставится и обновляется без интернета - на Astra Linux, РЕД ОС или в Kubernetes

Инженер у стойки серверов внутри купола держит подписанный комплект поставки со щитом
  • Установка не делает ни одного обращения наружу - от пустого сервера до первого ответа помощника
  • Комплект поставки подписан и проверяется до распаковки. Обновление и откат - тем же способом
Astra LinuxРЕД ОСKubernetesа также Ubuntu
Окно браузера с журналом действий помощника: время, пользователь, действие, объект, исход

КОНТРОЛЬ СЛУЖБЫ БЕЗОПАСНОСТИ

Служба безопасности видит каждое действие с помощником,
а в журнале нет ни строки кода

Вход - через корпоративные учётные
записи (Active Directory, LDAP);
без выданной роли доступа нет

Каждое действие уходит в систему
мониторинга безопасности компании
(SIEM) - без кода и запросов

Поиск по коду показывает только
репозитории, которые разработчик
вправе читать

Контроль службы безопасности

Служба безопасности видит каждое действие с помощником, а в журнале нет ни строки кода

Журнал действий в окне браузера: время, кто, действие; запуск тестов, поиск по коду, оценка ответа
  • Вход - через корпоративные учётные записи (Active Directory, LDAP); без выданной роли доступа нет
  • Каждое действие уходит в систему мониторинга безопасности компании (SIEM) - без кода и запросов
  • Поиск по коду показывает только репозитории, которые разработчик вправе читать
Окно браузера с отчётом стенда проверки LLM и три светящихся ядра, среднее выбрано

ВЫБОР LLM

LLM выбирает компания: её разработчики вслепую оценивают
ответы нескольких LLM на задачах из своего кода

1

2

3

Кандидаты - открытые
LLM, чьи лицензии
разрешают коммерческое
использование в России

Разработчики оценивают
ответы на задачи из своего
кода, не зная, какая LLM
ответила

Сменить LLM можно
и позже - настройкой
установки, после такой же
проверки

Выбор LLM

LLM выбирает компания: её разработчики вслепую оценивают ответы нескольких LLM на задачах из своего кода

Отчёт стенда проверки LLM: доля верных ответов трёх LLM на задачах из кода компании, выбрана LLM BТри светящихся ядра на постаментах, среднее розовое ярче других
  1. 1Кандидаты - открытые LLM, чьи лицензии разрешают коммерческое использование в России
  2. 2Разработчики оценивают ответы на задачи из своего кода, не зная, какая LLM ответила
  3. 3Сменить LLM можно и позже - настройкой установки, после такой же проверки
Шесть окон с экранами помощника: VS Code, JetBrains, веб-чат, поиск по коду, ревью в GitLab, отчёт об оценках

УДОБСТВО

Разработчики работают с помощником
в VS Code, JetBrains и браузере

Тесты к выделенному коду

Замечания до коммита

Чат с помощником в браузере

Поиск по коду доступных проектов

Ревью запросов на слияние

Отчёт: где ответы не помогают

Удобство

Разработчики работают с помощником в VS Code, JetBrains и браузере

  • VS Code: помощник пишет тесты к выделенному коду
    Тесты к выделенному коду
  • IntelliJ IDEA: помощник оставил два замечания до коммита
    Замечания до коммита
  • Веб-чат помощника в браузере: задание и ответ с кодом
    Чат с помощником в браузере
  • Поиск по коду: запрос, проекты и найденные места в коде
    Поиск по коду доступных проектов
  • Запрос на слияние в GitLab: замечание помощника к строке с предложением изменения
    Ревью запросов на слияние
  • Отчёт «Оценки»: сколько ответов и где ответы не помогают
    Отчёт: где ответы не помогают
Внутри большого купола свет разгорается слева направо: одно ядро LLM, несколько рабочих мест, освещённый купол

КАК НАЧАТЬ

Внедрение помощника начинается
с проверки LLM на коде компании

1

2

3

Выбрать LLM

Провести пилот

Принять решение

Разработчики компании вслепую оценивают
ответы нескольких LLM на задачах из своего
кода, а замер показывает, сколько нужно
серверов. От компании нужны сервер
с видеокартой и двое-⁠трое разработчиков

Помощник ставится на серверы компании,
с ним работает группа разработчиков,
которую выбрала компания. Показатели
успеха компания записывает до начала

Отчёты помощника показывают оценки
ответов, использование и долю кода
с помощником. По ним компания решает,
подключать ли остальные команды

Как начать

Внедрение помощника начинается с проверки LLM на коде компании

Внутри купола свет разгорается слева направо: одно ядро LLM, несколько рабочих мест, освещённый купол
  1. 1
    Выбрать LLM

    Разработчики компании вслепую оценивают ответы нескольких LLM на задачах из своего кода, а замер показывает, сколько нужно серверов. От компании нужны сервер с видеокартой и двое-⁠трое разработчиков

  2. 2
    Провести пилот

    Помощник ставится на серверы компании, с ним работает группа разработчиков, которую выбрала компания. Показатели успеха компания записывает до начала

  3. 3
    Принять решение

    Отчёты помощника показывают оценки ответов, использование и долю кода с помощником. По ним компания решает, подключать ли остальные команды