Я тепломеханик, начальник отдела в проектной организации, не программист. С августа ковыряю форк llama.cpp: хочу, чтобы большие MoE‑модели нормально шли на обычном домашнем ящике, где видеокарта на 6 ГБ, 24 ГБ памяти и SATA‑диск. Полигоном была gpt‑oss-20b. Итог пока…
Бренд: MSI, Серия процессора: GeForce GTX 10xx, Графический процессор: GeForce GTX 1060, Объем видеопамяти: 6144, Тип подключения: PCI-E Видеокарта 6144Mb MSI GeForce GTX 1060 6G OCV1 PCI-E 192bit GDDR5 DVI HDMI DP HDCP GTX 1060 6GT OCV1 Retail в наличии Цена: 19030.00 ₽ КУПИТЬ
При просмотре последних опубликованных статей вы можете заметить в названиях слово «MoE». Что же означает это «MoE» и почему его так часто используют сейчас? В этом наглядном руководстве мы подробно рассмотрим этот важный компонент с более чем 50 иллюстрациями: Смесь Экспертов (MoE)! Читать далее
Всё больше выходит больших MoE моделей с малым числом активных параметров. У MoE совсем другой сценарий нагрузки и использования ресурсов нежели у Dense моделей, достаточно немного VRAM. Большие MoE модели устроит 1 GPU и много обычной RAM. О том, как устроены MoE и как ускорить работу одним параметром не меняя железо. Читать далее