Привет, хабр, меня зовут Кияшева Екатерина. Вообще я из QA, но сегодня сделаю шаг в сторону и разберу AI-базу.За последний год встречалась масса литературы об AI, она, или теоретическая - не ясно, как это пощупать, или углубленная в одну тему - не сразу ясно, какую задачу решает. …
ИИ‑агенты получают доступ к данным и инструментам, но вместе с автономностью появляются новые риски. Разбираем, как работают атаки на агентные системы — от промпт‑инъекций до отравления данных — и какие подходы помогают защитить ИИ‑системы. Разобрать угрозы
На данный момент я прохожу 5-дневный интенсив по AI-агентам от Google и параллельно веду собственный конспект. Эта статья представляет собой перевод оригинального материала, выполненный с помощью Gemini и мной. В некоторых местах я немного упростила формулировки или обобщила идеи. Оригинал статьи тут Agent QualityДругие статьи:Интенсивный курс «AI-агенты» от Google День 1Интенсивный курс «AI-агенты» от Google День 2Интенсивный курс «AI-агенты» от Google День 3 Читать далее
ИИ-агенты берут на себя задачи по улучшению кода, исправлению ошибок и даже автоматической отправке pull request’ов. Эти агенты также обещают значительно ускорить рефакторинг. Недавнее исследование показало, что современные ИИ-агенты хорошо исправляют код с типовыми…