???? Применение Nginx для балансировки нагрузки LLM чат сессийВ сети много примеров подключения LLM модели к Telegram-боту, но при большом числе пользователей нет руководств по распределению нагрузки между процессами — все туториалы предлагают монолит с одной репликой. Эта статья объясняет, как балансировать нагрузку бота для тысяч пользователей, в том числе, после подключения model context protocol для интеграций Читать далее
Если искусственный интеллект однажды обретет сознание, научится чувствовать и заявит: «Я существую!» — сможем ли мы отказать ему в праве называться живым? Сегодня СИИ лишь имитирует разум, но если он начнет ставить цели, страдать от одиночества или бороться за свои права, граница между «живым» и «неживым» рухнет. Эта статья про рассуждение над вопросами о том, когда СИИ станет живым и станет ли он живым вообще? Читать далее
25 марта в сервис Have I Been Pwned, собирающий сведения об утечках персональных данных, была добавлена информация о краже базы электронных адресов у основателя этого сервиса Троя Ханта. Данные были украдены из учетной записи на сервисе Mailchimp, которую Трой использовал для рассылки писем
Перетасовав карты в стандартной колоде из 52 карт, Алекс Маллен, трёхкратный чемпион мира по запоминанию, может запомнить их порядок менее чем за 20 секунд. Перелистывая карты, он мысленно прогуливается по дому. В каждой точке своего путешествия — у почтового ящика, входной двери,
По ощущениям, на Хабре одна группа пользователей пользуется LLM локально, а другая - через внешние API. А третья еще не определилась, и у неё периодически возникают следующие вопросы:- Что будет, если запускать LLM на CPU вместо GPU? Сильно упадет скорость?- А как это от размера модели…
Привет, Хабр! Я Лера, технический писатель в Авито. В этой статье я разбираю тезисы Джеймса Клира в его работе «Атомные привычки». Материал будет полезен тем, кто хочет подробно разобраться в природе привычек и понять, как незначительные изменения могут сильно улучшить траекторию ваших результатов и уровень жизни в целом. Читать далее
Привет, Хабр! Я Таня Гладких — разработчик в команде корпоративного мессенджера Rocket.Chat в МКБ (Московском кредитном банке). А теперь представьте SuperApp — единое мобильное приложение, через которое можно зайти в корпоративный мессенджер, новости компании, сервисы…
Однопоточные приложения на Python ограничены в производительности: они выполняют задачи последовательно и не используют преимущества многоядерных процессоров. Кроме того, такие программы не справляются с обработкой множества операций одновременно, особенно если речь идет о…
В нашем портфолио за последние 5 лет около 40 продуктов. Часть из них погибла, часть вот-вот закроется. Но есть проекты, которые растут, масштабируются и развиваются. Я задался вопросом: почему при всех прочих равных одни проекты запускаются, а другие не проходят свою собственную…
Как обойти конкурентов из топ-10 выдачи «Яндекса» и Google? Какие требования к медицинский сайтам сейчас? Как развивать SEO, когда все уже пользуются нейросетями, а не привычным поисковиком? И можно ли доверить ИИ создание контента в медицине? Ответы на эти вопросы — в статье. Читать далее