Статистика утверждает, что в Кремниевой долине успеха достигает только 1 стартап из 100. Если говорить о компаниях, разрабатывающих программные продукты, то тут цифры еще более скромные. Кажется, на рынке ПО уже давным-давно всё изобретено, и придумать что-то новое, а главное —…
Представьте модели LLM размером до более чем 100 миллиардов параметров, каждая из которых мощнее предыдущей. Среди них есть гиганты: Mistral (7 миллиардов), Mixtral (8x7 миллиардов), Llama (70 миллиардов) и колоссальная Falcon (180 миллиардов). Однако существуют и модели наподобие Phi1, Phi1.5 и Falcon 1B,…
В последние время многие организации хотят, чтобы их приложения переходили из монолитов в микросервисам с использованием «платформы как услуги» (PaaS), таких как RedHat OpenShift v3, AppDynamics сделала значительные инвестиции в обеспечение первоклассной интеграции с такими провайдерами. Читать дальше →
Удалось запустить на телефоне пиксель 6 лингво нейронку LLaMa ужатую до 7 миллиардов (альпака лора была настроена пока именно на 7 миллиардов параметров, и ответы могут быть удачнее именно на ней ) или 13 миллиардов параметров и 4 бит. До установки её можно опробовать в гугл колаб. Читать далее