TL;DRЖелезо: 2× NVIDIA DGX Spark (GB10, SM121), 128 GB unified номинально и около 122 GiB видимых системе на ноду, QSFP 200G / RoCEv2, TP=2, драйвер 580.159.03.Основную часть расхождения объяснила смена runtime‑образа. Переход со сборки на базе vLLM 0.21.1 на образ с 0.25.2 дал около +22% на том же…
Привет, Хабр! Go специально сделали маленьким языком. Ключевых слов немного, конструкций мало, за неделю осваиваешь синтаксис и начинаешь писать. Именно из-за этой простоты возникает ложное ощущение, что тут негде ошибиться — код компилируется, значит всё правильно.А потом…
Стандартная (для многих) история. Отдаём какие-то данные в реальном времени через server-side web-gRPC стримы. Цепочка: балансировщик, дальше Envoy с grpc-web, дальше бэкенд. Все проверки зелёные: TCP поднят, хендшейк проходит, /healthz отвечает 200, в графане/slack'e тишина. А фронтенд у клиентов замёрз. И узнали мы об не от мониторинга. Читать далее
Вся история микрокомпьютеров, расцвет которых пришелся на начало 1980-х, фактически сводится к борьбе программистов и инженеров за каждый свободный байт. Именно оперативная память определяла границы дозволенного. Игры и прикладное ПО усложнялись, каждая новая функция отрезала…
В прошлый раз я писал, как из за ограничений и необходимости админить смешанный парк корп устройств, появился собственный MDM. Несмотря на то что предыдущий пост вышел совсем недавно, упорная работа над проектом шла параллельно, поэтому готов представить вам продолжение. Параллельно буду прикреплять скрины нового веб интерфейса, чтобы можно было почувствовать разницу. Пум-пум...
Фриланс часто представляют либо как свободу с ноутбуком у моря, либо как бесконечную борьбу за дешёвые заказы. Реальность сложнее: это рынок, на котором специалисту приходится одновременно быть исполнителем, продавцом, маркетологом и предпринимателем.Я, Александр, автор…
В данной статье я подробно описал в теории, что такое CSRF-атака и CORS-атака и с помощью чего от них защищаться. Читать далее
Открывая онлайн-кинотеатр, сервис для прослушивания аудиокниг или музыки, пользователи редко задумывается о том, почему перед ним оказались именно эти фильмы, книги или треки. Между тем рекомендательные системы в последнее время переживают крупную трансформацию. Если раньше…
Программисты пишут свои вики в obsidian, в org файлах и других инструментах. С ними готовятся к собеседованию, ищут команды для баша, хранят информацию про их сервер и много чего еще.Почему бы не использовать такой подход для кода, а не только для текста? У меня хранится куча…
Что ж, этот день наконец-то настал. Спустя годы путешествий по Египту, Греции, Скандинавии и Японии мы получили хорошую игру от некогда великой компании Юбисофт. Однако игра эта представляет собой лишь ремейк, а не полноценное продолжение серии Assassin's Creed. Но, как говорится, имеем что имеем, поэтому предлагаю послушать восторженную оценку бывшего фаната и впоследствии, быть может, самим прикоснуться к ожившей классике. Читать далее