Ещё пару лет назад мысль о полноценной 27B модели на обычном ноутбуке звучала как шутка: нужна была либо мощная видеокарта, либо максимально урезанные веса и небольшой контекст.Пока индустрия оттачивала классическое low-bit квантование, отдельные команды экспериментировали с куда более радикальным подходом: вообще отказаться от аппроксимации весов и собрать сеть буквально на нескольких значениях. Звучит как безумие, хотя на практике (далеко не сразу) это сработало. Но обо всём по порядку. Читать далее
На хабре было множество публикаций по данной теме, но все они говорят о разных вещах. Решил собрать всё в одну кучку и рассказать людям. Это первая статья серии введения в нейронные сети, «Нейронные сети для начинающих». Здесь и далее мы постараемся разобраться с таким понятием — как нейронные сети, что они вообще из себя представляют и как с ними «подружиться», на практике решая простые задачи. Читать дальше →
Всем привет. В этот раз мы попытаемся разобраться с нейронными сетями без биологии и за 1 день. Зачем они нужны? Для того чтобы понять зачем нужны нейронные сети, нужно разобраться с тем, что они из себя представляют. Искусственные нейронные сети — это совокупность искусственных…
Это вторая статья из серии введения в «Нейронные сети для начинающих». Здесь и далее мы постараемся разобраться с таким понятием — как обработка графических данных, визуализация данных, а также на практике решим пару простых задач. Предыдущая статья — #1 Нейронные сети для…