История про сумасшедшую скорость изменений. Пока мы в Ideco создавали задачи в Jira, исследовали технологии и возможность реализации модуля «LLM Firewall» в Ideco NGFW – ландшафт угроз использования AI принципиально изменился и все приходится переделывать заново.Первое поколение LLM Firewall…
За последние несколько лет хайпа вокруг LLM образовался новый класс решений — LLM firewall. Его часто позиционируют как аналог WAF/FW для ИИ‑приложений: фильтрация входа и контроль выхода как базовый механизм защиты. Но на практике всё сложнее.В статье разбирается класс LLM firewall: какие угрозы он закрывает, новые вызовы и в каком направлении развивается безопасность AI‑систем Читать далее
Память ИИ‑агентов: как агенты запоминают, забывают и учатсяВсем привет! Продолжаю рассказывать и делиться своим опытом создания и внедрения ИИ-агентов. Сегодня давайте поговорим про память ИИ-агентов. Я поделюсь какие типы памяти использую чаще всего, поговорим про базовый минимум без которого нет смысла пытаться строить ИИ-агентов. Начнём с того как вообще работает контекстное окно и почему его не хватает, потом разберём какие типы памяти бывают, как они хранятся и как подгружаются в контекст. Читать далее
Привет, Хабр! Меня зовут Артём, я фаундер Leadl.ai. Мы строим AI-агента для поиска b2b-клиентов, и одна из его ключевых задач это мониторинг чатов и различных источников.Звучит просто, пока не сталкиваешься с масштабом.У нас в пуле 20000+ чатов в 15 источниках. Суммарно около 1000 000 000 сообщений