Всем привет! Меня зовут Наталья Бруй, я промпт-инженер в MWS AI. Вместе с моей коллегой Анастасией Тищенковой мы решили ответить на вопрос, который мучает нашего пиарщика многих – почему больше токенов не равно лучше и как заставить LLM работать адекватно на длинном…
Эта статья про новое расширение ахритектуры трансформеров – Titan от Google –, позволяющее расширить рамки LLM до 2 млн токенов, побудила поинтересоваться, сколько токенов, пригодных для LLM, содержат исходники колоссального софта. Какой открытый софт будем «препарировать»: Читать далее
Mjölk Футболка с длинным рукавом Футболка Mjölk [мьёльк] идеально подойдёт для малышей от одного месяца. Футболка с длинным рукавом выполнена из плотного и мягкого трикотажа. Плечики нашиваются внахлёст, благодаря чему горловина более широкая, и топ можно надевать не только через голову, но и через ножки, собрав изделие гармошкой. Футболка с длинным рукавом Mjölk [мьёльк] подойдёт … Читать далее Водолазки и лонгсливы Mjolk Футболка с длинным рукавом
Каждый, кто работал с большими языковыми моделями (LLM), знает про ограничение длины контекста: модель не может напрямую обработать текст, превышающий определённое число токенов. Это накладывает ограничения на работу с длинными документами и обширным контекстом. Но что если бы мы