Я доигрался с обновлениями и это привело к катастрофе: все ноды внезапно перестали видеть сетевые интерфейсы, и, сколько я ни бился, оживить кластер у меня не получилось. Мой домашний кластерёнок вырос в зрелый кластер из шести нод (всё благодаря супруге, которая знала, что мне…
1 октября мне заблокировали аккаунт Claude. До этого приложение месяц писало, что сервис недоступен в моём регионе. В логах Mac таких строк набралось 2 891. Первая версия была очевидной: VPN иногда отваливался, и запрос уходил напрямую. Доказать её я так и не смог. Зато по дороге починил доступ к amoCRM и TGBooster при включённом WireGuard и сам же сломал себе интернет на целый вечер. Читать далее
Фото Carles Rabada, Unsplash.com Мы заскейлили кластер Kubernetes до 7500 нод, создав масштабируемую архитектуру для крупных моделей, вроде GPT-3, CLIP и DALL·E, и для небольших итеративных исследований, например, законов масштабирования для нейронных моделей языка. Кластер Kubernetes такого размера — редкость, и действовать нужно осторожно, зато мы получили простую инфраструктуру, в которой специалисты по машинному обучению работают быстрее и могут масштабироваться без изменения кода. Читать дальше →
Лучшие практики Kubernetes. Создание небольших контейнеров Лучшие практики Kubernetes. Организация Kubernetes с пространством имен Лучшие практики Kubernetes. Проверка жизнеспособности Kubernetes с помощью тестов Readiness и Liveness Лучшие практики Kubernetes. Настройка запросов и лимитов ресурсов Лучшие…