Ornith‑1.0‑35B обошла Qwen3.5‑397B в Terminal‑Bench, а на нашем локальном срезе хорошо показала себя в агентном кодинге. Мы решили проверить, насколько быстрее она сможет работать на AMD Strix Halo с пропускной способностью памяти до 256 ГБ/с.В статье — результаты экспериментов с Vulkan, MTP, селективной квантизацией и n‑gram reuse: что не дало прироста, как удалось получить 99 ток/с без потери качества и каким способом 35B‑модель запустилась на Windows‑ноутбуке с 8 ГБ VRAM. Читать далее
Игровые ноутбуки ASUS ROG Strix GL504 SCAR II и ASUS ROG Strix GL504 HERO II пришли на смену первым версиям ASUS ROG Strix GL503 SCAR Edition и ASUS ROG Strix GL503 HERO Edition, которые были представлены почти год назад, на выставке IFA 2017. Ноутбук SCAR Edition создавался для фанатов шутеров и прочих экшенов, а HERO Edition – для любителей более…
Всем привет! Продолжаю тему локальных LLM. В предыдущей статье мы сравнивали железо для инференса — Nvidia DGX Spark, Mac Studio M3 Ultra и Strix Halo. И как можно было догадаться, я остановился именно на последнем.Теперь, когда железка есть, встает вопрос: а как из неё извлечь практическую…
Производители все чаще ставят в небольшие системы топовые чипы: Intel Arrow Lake, AMD Strix Halo и Ryzen AI Max+ 395. Некоторые из них охлаждаются жидкостью, другие — пассивно, но все ориентированы на тяжелые задачи: от AI-инференса до 10-гигабитной сети и работы с PCIe 5.0 SSD. Компактные корпуса, процессоры