Пока большие модели соревнуются в увеличении контекстных окон, а их создатели — в маркетинговой находчивости, мы продолжаем следить за наиболее важными событиями в мире ИИ. В апреле OpenAI выкатила сразу несколько GPT — от флагманов до микроскопических версий. Anthropic наконец…
Справочник по основным командам и параметрам llama.cpp. Затрагиваются основные утилиты для инференса: llama-cli, llama-completion, llama-server. Здесь будут представлены все команды и параметры которые можно получить, например, вызовом: “llama-cli --help” или “llama-server --help”, в том же порядке. Я просто взял и…
Справка по Common Params (Общие параметры) llama.cpp.Параметры этой категории в основном полностью пересекаются между всеми утилитами: llama-cli, llama-completion, llama-server. Там где есть отличия, будут соответствующие комментарии.Для каждого параметра сначала указывается его название, шаблон и краткое описание из штатной справки llama.cpp. Затем следует более развернутый комментарий. Читать далее →
Февраль в ИИ выдался оживленным: вышло всё, сразу и у всех. Лидеры индустрии синхронно обновили флагманы, причем фокус сместился с «универсальных болталок» на уклон в кодинг и работу с длинным контекстом. Anthropic выпустили Opus 4.6 с миллионным контекстом, OpenAI ответили релизом GPT-5.3 с…