Svaya.Доступ к моделям
Разработчики работают привычными инструментами, а языковая модель для кода стоит на ваших серверах
Что продукт умеет
- Привычный инструмент, открытая модель на ваших серверах
Разработчик обычно приходит с просьбой дать ему знакомого помощника по коду. Инструмент он получает тот же, к которому привык, а отвечает ему открытая языковая модель, развернутая на ваших серверах. Насколько такая модель справится именно с вашими задачами, мы проверяем на вашем коде до внедрения, а не обещаем заранее.
- Два совместимых адреса для разных инструментов
Первый адрес принимает запросы в формате OpenAI, и к нему подключается инструмент, у которого адрес и ключ задаются настройкой. Второй принимает формат Anthropic и нужен там, где инструмент понимает только его. Второй адрес работает через переводчик форматов, и поддержанные возможности у него перечислены списком. Поле, которое перевести нечем, останавливает запрос с названной причиной, а не пропадает молча. За обоими адресами стоит один и тот же шлюз, поэтому права, журнал обращений и бюджеты у них общие.
- Что видно в журнале обращений
Каждое обращение к модели попадает в журнал, который платформа ведет на ваших серверах. По нему видно, кто обращался, когда и сколько токенов израсходовал. Содержимого запросов в журнале нет. Какие каталоги проекта отдавать модели, а какие нет, задает инструмент на машине разработчика. Шлюз видит запросы, а не файлы, и стоит знать это заранее.
- Какой моделью считать, задают правила у вас
Инструмент называет класс модели, а какая модель его обслужит, задают правила маршрутизации, заданные у вас. Поменять модель можно правкой этих правил, обходить машины разработчиков для этого не нужно. Если основная модель не ответила, запрос уходит на резервную, заданную теми же правилами.
- Чего замена персональных данных здесь не дает
Замена персональных данных метками исходный код не защищает. Она рассчитана на переписку, где встречаются имена и телефоны. Поэтому обещание на этой странице другое. Класс данных у этой поставки объявлен коммерческой тайной, а для такого класса платформа отклоняет внешний маршрут при проверке настроек, так что адреса в интернет в описании маршрутов не появится. Это обещание про сеть. Про диск оно держится другим. Движок языковой модели запускается с выключенной записью текста запросов, иначе они оседали бы в его собственных журналах.
Что здесь не запускается
На этом сайте попробовать нажатием нельзя, и кнопки для этого здесь нет. Языковая модель для кода стоит на ваших серверах, а не на нашем демонстрационном стенде, и в работе ее видно только там, где она развернута. Шлюз, оба адреса и журнал мы показываем на встрече. Состав моделей, требования к оборудованию и цену считаем от числа ваших разработчиков и от языков программирования, на которых они пишут.