Каждый, кто хоть раз вводил pip install transformers, наблюдал, как терминал начинает безостановочно выводить простыню зависимостей: pytorch, accelerate, bitsandbytes, peft и многие, многие другие. Но если PyTorch является фундаментом, настоящим Атлантом, на плечах которого держатся тензорные вычисления, то…
Все началось с банальной задачи: мне потребовалось подобрать имя для игрового персонажа — гнома (dwarf male). Казалось бы, выбор очевиден, но классические имена вроде Торина, Балина или Гимли затасканы до неприличия и давно превратились в дефицит. В виртуальных мирах царит странный…
В разных командах разработки наблюдается похожая картина. После внедрения ИИ в процессы он ускоряет не только работу, но и масштабирует уже существующие проблемы.Мне приходилось внедрять ИИ в продакшн-среду в разных доменах — от классических моделей классификации до…
Часть 1Во второй части руководства для начинающих будет рассмотрено ООП и некоторые другие возможности. Читать далее
Нич-чего не понимаю! Или это ностальгический обзор легендарной компьютерной игры «Братья Пилоты» и всех ее продолжений, или одно из двух! Невозмутимый многомудрый Шеф, забавный расторопный Коллега, неуловимый злодей Карбофос… Отложим мухобойки, сверим часы и вспомним, как появился, чем запомнился и как тихо ушел в небытие один из первых русских квестов. Читать далее
Нам обещали, что ИИ заменит инженеров, а дали вежливых чат-ботов, которые галлюцинируют и путаются в зависимостях. Мы потеряли cтруктуру. В этой статье я реанимирую идеи Символистов 80-х и объединяю их с мощью современных LLM.Это история создания ZervGen - Фреймворка, который…
Примерно год назад я написал статью ChatGPT без VPN за 10 минут (и установка нативного приложения). Хотя она актуальна до сих пор, сегодня я хочу вам рассказать про еще один способ.Суть: мы делаем свой DNS-профиль в NextDNS или Cloudflare и автоматически актуализируем его раз в сутки.Для этого я написал небольшую программу. Самое приятное: для ее работы вам не придется ничего устанавливать вообще. Читать далее
В конце статьи Python скрипт для сохранения заметок. Последняя шлюпка с «Титаника», чтобы утащить с ЖЖ свои и чужие мысли на жесткий диск, пока «эффективные менеджеры» окончательно не пустили всё на дно.Я писал свои заметки в ЖЖ более 15 лет. Полтора десятилетия текстов, некоторые из
Подробная история открытия и значения радиолинии водорода 21 см. Как сверхтонкий переход, случайность и упрямство учёных подарили нам карту Галактики, доказательства тёмной материи и универсальный эталон для посланий внеземным цивилизациям. Читать далее
В этой статье я делюсь личным опытом выбора платформы для локального инференса (запуска) LLM. Формат - дневник инженера: детали, цифры и грабли вперемешку с эмоциями и выводами по ходу дела. Это не энциклопедия, и, совершенно точно, не "единственно правильный" рецепт, но, надеюсь, статья сэкономит время тем, кто сейчас решает, на каком железе и каким способом запускать модели.Для тех, кто не готов погружаться в цепочку событий, сразу зафиксирую итог... Читать далее