Недавно попалась статья Eyad Khrais (@eyad_khrais) про harness engineering. Хорошее объяснение. Модель это мозг агента. Харнесс это тело. Мозг вызываешь через API. Тело придётся строить самому.Всё так. Но «тело» это ещё не вся картина. Само по себе тело ничего не делает. Ценность в инструментах,…
Это перевод хорошей статьи про базу того, как устроены кодинг-ассистенты и что для них важно: что такое харнесс и харнесс-инжиниринг, в чем разница просто агентной обвязки и кодинговой, что такое компактизация и почему та же самая модель в консольке ощущается мощнее, чем просто в веб-чате. Сильного хардкора и больших откровений в ней нет, но это отличный материал для старта изучения архитектуры кодинг-ассистентов и лучшего понимания, как оно работает внутри. Читать далее
Все обсуждают модели: GPT, Claude, Codex, Gemini, Opus. Но в реальной работе побеждает не только самая сильная модель, а правильно собранная система вокруг неё. Эта система называется agent harness — харнесс. В статье разберём, что это такое, из каких компонентов он состоит и как я собираю свой рабочий AI-сетап: Orca, GitHub, VPS, Pi Agent и кастомный pipeline для разработки. Читать далее
Неважно, где ты гоняешь инференс: в проде на vLLM под нагрузкой или в локалке на llama.cpp, пытаясь втиснуть Llama-3 в 4 ГБ видеопамяти — вопрос всегда один. Какая конфигурация влезет в бюджет по VRAM и при этом не уронит p95?В статье рассказываю про разработанный харнесс, который берет эту рутину на себя и честно сравнивает бэкенды. Разбираем реальные грабли локального и прод-инференса. Читать далее