Привет, Хабр! Меня зовут Артём, я фаундер Leadl.ai. Мы строим AI-агента для поиска b2b-клиентов, и одна из его ключевых задач это мониторинг чатов и различных источников.Звучит просто, пока не сталкиваешься с масштабом.У нас в пуле 20000+ чатов в 15 источниках. Суммарно около 1000 000 000 сообщений
Когда я запустил свой парсер Telegram-чатов на проде, он просто ослеп. В тестовой группе всё летало, а в 26 боевых чатах — абсолютная тишина и ноль лидов. В этой статье расскажу, почему стандартный слушатель events.NewMessage в Telethon ломается под капотом алгоритмов Телеграма, и как я полностью переписал архитектуру на Active Pull. Бонусом покажу, как двойная фильтрация (Python + n8n + LLM) спасла меня от разорения на токенах OpenAI и отсекла 99% мусора. Читать далее
Недавно я обнаружил в Telegram очень интересный баг. Он позволяет читать удалённые сообщения. И как сторонник и фанат культовых продуктов — тут же отправил сообщение о баге саппорту Telegram. Со спокойной совестью демонстрировал коллегам на работе, найденный баг. «Хочешь восстановлю твоё последнее сообщение в Telegram?» — говорил я и принимался за дело, наблюдая удивленные лица коллег. Читать дальше →
???? Оркестрация чатов LLM через RedisПри работе с языковыми моделями частым явлением являются галлюцинации - когда модель даёт неверных вывод. Это связано с издержками математической модели, которая пораждает важные нюансы, разобранные в данной статье. Статья описывает, что именно нужно сделать, чтобы эффективно бороться с галлюцинациями LLM на проде Читать далее