Во второй части мы сделали консольный чат с циклом и system prompt. Но у него был пробел: каждый запрос шёл к модели независимо, без контекста предыдущих реплик. В третьей части добавляем историю сообщений — и чат наконец начинает помнить разговор. Читать далее
Мой агент на Llama 3.1 8B в третий раз спросил, как меня зовут. Я представился 200 сообщений назад. Контекст переполнился — начало разговора уехало. Большие контексты не спасают: дорого, «Lost in the Middle», локально не влезает. Суммаризация теряет детали. Я сделал по-другому — три типа внешней памяти: Redis для фактов, ChromaDB для семантического поиска, файлы для документов. Контекст маленький, память большая. Внутри — код на Python и грабли, на которые я уже наступил. Читать далее
Третья часть из серии статей на тему создания сетевого чата в Unity с использованием Netcode for GameObjects. Добавляем звуковые уведомления, приватные сообщения и продвинутые функции.Научимся добавлять звуки для новых сообщений, создавать систему приватных сообщений, автоответчик, фильтр слов и сохранение истории. Интегрируем все с существующим кодом из первых двух частей. Все с подробными объяснениями и готовым кодом. Читать далее
В прошлой статье мы сгенерировали Enpoint-ы WebApi по описанию на основе классов, свойств и атрибутов. (первая часть, вторая часть, третья часть, четвертая часть) В этой статье мы добавим генерацию абстракций EventHandler-ов, работающих с шиной, саму шину, реализацию EventHandler-ов для MassTransit, узнаем во сколько раз больше мы генерируем, чем пишем (на этот раз без ошибки). Читать далее