AI в продакшене
AI-пилот, который так и не вышел, запускаем в прод за 30 дней
Ноутбук работает на демо-данных, и никто не скажет, стала ли модель хуже на прошлой неделе. Инженеры, которые больше 25 лет выпускают продакшен-системы, превращают его в Go-сервис внутри вашей ERP, CRM и очереди тикетов. Эвалы в CI, прод через 30 дней.
Назовите процесс сегодня. В течение 48 часов инженер присылает план сборки, фиксированную цену и дату.
ТЗ в Word, Python-ноутбук, который работает на демо-данных, и один закрытый API вендора.
- spec.docxWord
- proof-of-conceptPython · notebook
- vendor APIclosed
- evalnone
30 дней от ноутбука до продакшена
Рантайм агента на Go, типизированные инструменты, эвалы в CI как шлагбаум и трейсы, по которым можно искать.
- agent runtimeGo
- tool layerTypeScript
- eval harnessCI gate
- tracesOpenTelemetry
От пилота до продакшена за 30 дней
- 01дни 1–3
Выбираем один процесс
Процесс с объёмом и с правильным ответом. Меряем, сколько он стоит вам сегодня в минутах и ошибках, и эта цифра становится планкой, которую сборка обязана взять.
- 02дни 3–8
Сначала набор эвалов
Сотни настоящих случаев из вашей истории, у каждого ответ, который дали ваши люди. С этого момента «лучше» и «хуже» превращаются в число в CI.
- 03дни 8–22
Собираем рантайм и инструменты
Рантайм агента на Go, типизированные адаптеры к вашим системам и шаг подтверждения на всё, что пишет. Эвалы гоняются на каждом коммите, начиная с первого.
- 04дни 22–30
Запускаем и передаём
Трейсы, ранбук и день с вашими инженерами, после которого они меняют промпты и инструменты без звонка нам. На 30-й день процесс работает в продакшене.
Что делает платформа, что делают инженеры
Поиск точек интеграции в вашем коде
Платформа
Часы на репозиторий, который человек читал бы днями.
Выбор первого процесса
Инженер
Объём, проверяемый ответ и владелец с вашей стороны. Наши инженеры берут тот, что окупится первым.
Адаптеры инструментов к вашим API
Вместе
Платформа пишет черновик по контракту API. Инженер правит то, в чём контракт врёт.
Набор эвалов из вашей истории
Вместе
Случаи выгружаются автоматически. Решить, какие прошлые ответы были верными, может только тот, кто знает ваш бизнес.
Регрессия на каждом коммите
Платформа
Падение оценки валит сборку так же, как упавший юнит-тест.
Куда агенту разрешено писать
Инженер
Ваш риск и ваше решение, записанное и подписанное до первого запуска.
На документированном коде больше берёт платформа. На двадцатилетнем больше берут наши инженеры. Дата в договоре держится в обоих случаях.
Кто делает ваш AI
Наши инженеры выпускают продакшен-системы больше 25 лет, рядом с COBOL, RPG, VB6, Delphi и PHP, и слой агентов строят те же люди. Для этой работы они лучшие, потому что знают, где у вас движутся деньги. AI, который они сдают, сидит внутри систем, приносящих выручку, и тесты падают в ту же минуту, как он стал работать хуже.
Фиксированная цена, дата в договоре и код в ваших репозиториях с первого дня. Набор эвалов служит приёмочным тестом: процесс с оценкой ниже согласованной не принимается.
О чём спрашивают CTO перед подписанием
Это обёртка над чат-API?
Модель здесь один компонент, как база данных в вашем биллинге. Вы платите за слой инструментов, за шаги подтверждения и за эвалы, которые ловят обновление модели, сделавшее хуже. Для этого нужны инженеры с четвертью века продакшена за плечами, и именно это мы строим. Пришлите процесс и прочитайте план.
Что будет, когда модель поменяется у нас под ногами?
Набор эвалов прогоняется на модели-кандидате до любого переключения. Если оценка падает, вы остаётесь на текущей модели, пока промпты и инструменты не догонят, и узнаёте об этом из CI задолго до того, как заметит клиент. План эвалов приходит вместе с оценкой.
Можно, чтобы наши данные не покидали сеть?
Да. Наши дообученные модели работают внутри вашей сети или облачного аккаунта, при необходимости в полном воздушном зазоре, на вашем железе или на железе, которое поставим мы. Детали пишем в договор. Перечислите ограничения в форме, и цена будет посчитана под них.
Кому принадлежит то, что вы строите?
Вам. Обычные репозитории на Go и TypeScript, обычные библиотеки, промпты под контролем версий и ни одного вызова к нам в рантайме. Ваши инженеры меняют инструмент, перезапускают эвалы и выкатывают без нас. Пришлите процесс сегодня, и условия владения придут вместе с ценой.
Мы уже сожгли квартал на пилоте. Почему этот дойдёт до прода?
Пилоты умирают, когда до сборки никто не определил правильный ответ. Мы начинаем с набора эвалов из вашей же истории, поэтому процесс измерен с первого коммита и выходит на 30-й день с оценкой на руках. Пришлите пилот, от которого вы отказались, с него и начнём.
Назовите процесс
Выберите процесс, который автоматизировали бы первым, и скажите, во что вам обходится ошибка. Через 48 часов у вас план сборки, фиксированная цена и дата. Ещё через 30 дней он работает в продакшене.
Форма занимает минут десять. Читает её инженер и обычно отвечает в тот же день.