Как злоумышленники могут использовать слабые места агентов ИИ с поддержкой баз данных? В этом исследовании рассматривается, как уязвимости при генерации SQL-запросов, внедрение сохранённых подсказок (stored prompt injection) и отравление векторных хранилищ (vector store poisoning) могут быть применены злоумышленниками для организации мошеннических действий. Читать далее
Когда продуктам и фичам нужен редизайн?— Дизайн устарел, конверсия упёрлась в потолок — надо искать новое решение;— Обновился брендинг или дизайн-система — нужно подтянуть визуал;— Руководитель посмотрел, что у конкурентов красиво, и захотел так же;— Или всё вроде работает,…
Эта статья — продолжение серии статей, опубликованных в этом блоге, в которых мы пытаемся отслеживать влияние новых технологических трендов на пересечении кибербезопасности и искусственного интеллекта на основной бизнес нашей компании — удостоверение персональных данных…
Привет! Меня зовут Катя, я заместитель руководителя направления системного анализа в Контуре, а еще программный директор Конференции аналитиков. Уже 6 лет каждый август проходит Конференция аналитиков Контура. Она начиналась как внутренний ивент для функциональной зоны, а затем трансформировалась в большое мероприятие для наших внешних коллег!В статье расскажем, как мы готовились (готовимся до сих пор!) и что вас ждёт! Читать далее
Как часто вы запускали какую-нибудь штуку в терминале — и она зависала навсегда? Или наоборот: вам нужно было увидеть, как что-то меняется каждую секунду, а вы упорно жали стрелку вверх и Enter? А может вы хотели запланировать задачу через 5 минут, но cron — это уже overkill?Для всех этих…
В прошлой статье мы погрузились в оценку самых популярных AI продуктов.По итогам ручного тестирования и попытки автоматизации по выбранным критериям был сделан вполне себе ожидаемый вывод о невозможности применения одних и тех же метрик к оценке задач разного рода.Поэтому было принято решение ознакомиться с основными метриками для оценки качества ответов AI продуктов.Такими метриками стали: Precision, Recall, Specificity и Confusion matrix, а также MAP и MRR.Для чего такие метрики нужны? Читать далее
Когда в 2006 году вышел фильм Майка Джаджиса, его посчитали слишком глупым, чтобы быть гениальным. Сегодня он воспринимается как пророчество, выполненное в формате чёрной комедии. Но ключевой вопрос:Мы движемся к Идиократии — или уже в ней? Читать далее
Представьте: квадрокоптер летает в ангаре, на складе или в квартире. GPS не ловит, а барометр и гироскоп дают дрейф в позиции. Что остаётся? Читать далее
Ну хорошо, ну есть у нас ИИ. Уже как 3 года он есть. А толку? Как его правильно впихивать в техпроцесс?- Меня не надо впихивать!- ЧЕМ ТЫ ЭТО СКАЗАЛ? Читать далее
Большинство компиляторов — это монолитные черные ящики, унаследованные из прошлого. Мы отвергли этот путь. Мы разбираем архитектуру x86_64 до "первых принципов", чтобы понять, как на самом деле работает кремний. В этой статье мы вскрываем капот нашего компилятора ZGEN и его "фабрики машинного кода" — hwm. Никакой магии. Только чистая, детерминированная инженерия, которая превращает ассемблер в исполняемые биты. К инженерным чертежам