Люди и модели похожи больше, чем вы думаете. Собственно, это и не удивительно, ведь модели для этого и создаются. В идеале они должны когда-нибудь стать вообще неотличимыми от людей. Но как это проявляется сейчас, на данном этапе их развития? И в чем конкретно мы так похожи на них, или они на нас?Подойдем к этому вопросу в терминах, свойственных самим LLM. Читать далее
Разработчики фокусируются на промпт-инжиниринге, но настоящий прорыв — в контекст-инжиниринге. Это системный подход к подготовке данных для LLM.AI-хайп накидывает новых терминов, в статье объясняем о чем тут речь. Читать далее
Сегодня рассмотрим недавно вышедшую модель ChatGTP-5.Посмотрим на сведения которые новая модель скрытно собирает о пользователе, обновленный системный промпт, и под конец покажу рабочий jailbreak. Читать далее
LLM-систем есть класс уязвимостей, которого нет в обычных веб-приложениях. Извлёк системный промпт Grok двумя способами, поймал утечку thinking tokens в NDJSON-стриме и обошёл safety-фильтры в 14 из 22 категорий. Самое неожиданное — Grok активно помогал мне себя ломать. Читать далее