Кодинг‑агент выполняет то, что читает — README, вывод MCP‑инструмента, результат команды. Если там спрятана инструкция, это превращается в реальное действие: curl | sh, утечка секретов, push во внешний репозиторий. Stroq — открытый локальный файрвол, который связывает…
Каждые несколько лет (а сейчас уже и чаще) разработчиков снова хоронят.Сначала нас должны были заменить визуальные конструкторы. Потом no-code. Потом low-code. Потом автогенерация CRUD. Потом Copilot. Теперь, кажется, пришёл финальный босс в виде больших языковых моделей, которые за вечер…
После непродолжительных поисков в нормативных недрах обнаружились следующие документы за авторством ФСТЭК России, в которых так или иначе упоминается «искусственный интеллект»: Читать далее
Не всегда даже самые добрые намерения одних людей оборачиваются благом для других.Добро или зло принесёт ИИ человечеству? Интересный вопрос, правда? Во многом ответ зависит от того, с каким намерением мы сегодня развиваем эту технологию.Давайте рассмотрим два крайних направления развития ИИ: общечеловеческое — направленное на развитие человечества, и индивидуалистическое — направленное прежде всего на интересы и победу его создателей. Читать далее
Быстрый ответ Алисы AI — это самый массовый генеративный продукт Яндекса и первое соприкосновение с Алисой для пользователей Поиска. Даже в час пиковой нагрузки пользователь должен получить лаконичный ответ за считаные секунды. Для этого мы, команда Alice AI Search,
Неделя выдалась такая, что впору сериал снимать с открытым финалом. Модели штампуют быстрее, чем успеваешь придумывать им имена, лидерборды переворачиваются за завтраком, а где-то в недрах OpenAI десять тысяч автономных агентов молча уселись решать задачу, за которую математики бьются с прошлого века (и, кажется, решили).Что же произошло на этой неделе? Читать далее
Можно ли научить детектор атак, ни разу не показав ему настоящую атаку?Звучит как противоречие. Если хочешь, чтобы нейросеть находила боковое движение, ей вроде бы надо показать боковое движение. Я сделал наоборот: сгенерировал целую корпоративную сеть с её историей входов,…
Меня зовут Павел Медведев, я занимаюсь поддержкой B2B-клиентов в компании Samsung и пишу про это в блоге Samsung на Хабре. Сегодня я в гостях у коллег из SafeMobile — мы давно работаем вместе, а в их версии SM16 появилась удобная настройка MDM-плагинов, так что повод показать её в деле нашёлся сам…
В 2023 году RAG был единственным способом засунуть знания в LLM — контекстное окно было маленьким, часто были галлюцинации. RAG постепенно стал одной из самых популярных технологий, чтобы получить базу знаний, по которой можно искать данные через натуральный язык.Но с другой стороны…
https://security-tracker.debian.org/tracker/DSA-6492-1