Я дал 9B и 30B одну задачу. 30B сделал 24 шага и вернул неправильный ответ. 9B справился за 3. Разбираю почему размер модели — не главное, и что на самом деле определяет качество локального LLM-агента. Читать далее
Проблемы качества базы данных LLM[1] и необучаемости LLM в силу ограничения размеров контекстного окна сводятся к одной проблеме никак с LLM не связанной – оценке доверия к публикациям и их авторам вообще. Вторая проблема – LLM не умеет решать простые логические задачи легко решаемые
Если вы когда-нибудь смотрели на HF и не понимали, что такое DFlash, квантизация и почему одна и та же модель лежит в десяти репозиториях от десяти разных людей — или давно собирались поднять LLM у себя, но всё не находили повода — выход Muse Glimmer 30B буквально лучший момент начать. Буквально со своего MacBook Air. Ага, да вот уже сейчас прямо. Погрузиться в мир локальных моделей
Что будем делать или что может быть интересного в статье:- Пайплайн из двух независимых LLM агентов- Запуск и анализ ошибки UI автотеста (Root Cause Analysis)- Фикс автотеста в цикле с его запуском.- Кастомизация MCP инструментов чтобы оптимизировать контекстное окно.- Система приоритетов в работе LLM агентов. Читать далее