Привет, Хабр! Сегодня хочу поделиться опытом подбора «идеальной» локальной модели для повседневной работы: от быстрой помощи в кодинге до глубоких рассуждений в физике и биологии.Мой домашний сетап: NUC 64GB + RTX 3090 (24GB) через Thunderbolt + Windows 11 + WSL2. Мне нужна была модель, которая станет основным помощником: быстро набросать скрипт для Proxmox, объяснить научный термин или вытащить данные из кучи документов (RAG)… Почему Nemotron-Cascade-2
Покупка видеокарты стоимостью как подержанная машина — решение откровенно непростое. 300 тысяч рублей за RTX 5090, 150 за RTX 5080 и даже 100 за RTX 5070 Ti — суммы, которые любого заставляют задуматься о целесообразности трат. Особенно когда нет гарантии, что любимая игра раскроет потенциал этих монстров и даст мало-мальски ощутимый прирост кадров в секунду. Тесты показывают неприятную правду: далеко не везде RTX 5000 стоят своих денег. Читать далее
Линейка RTX 5000 серии для многих является символом не только технологий, но и очень высокой стоимости. В самом низу этой линейки находятся RTX 5070 и RTX 5060 Ti, которые предлагают почти все передовые функции, но при этом стоят относительно вменяемых денег. От того становится только интереснее поделиться большим сравнением новинок этого года, в котором они показали какая больше подходит для той или иной задачи. Читать далее
Недавно я купил б/у RTX 3090 для экспериментов с обучением нейронных сетей и выяснил, что карта сильно нагревается и потребляет много энергии. После понижения power limit до 250 Вт производительность упала не так сильно, как я ожидал. Я решил исследовать, как ограничение мощности влияет на различные DL задачи Читать далее