У нас почти каждая заметная операция в продукте идёт через LLM: генерация follow-up, сборка КП, скоринг, саммари звонков. Пока провайдер один — это бомба замедленного действия. Он ложится по 503, упирается в рейт-лимит, или цена улетает, потому что дешёвый разбор команды почему-то…
Запустил свой первый open source проект. Задача простая, но полезная: автоматический сбор цен на LLM-модели всех основных провайдеров и загрузка в PostgreSQL для BI-аналитики.Что делает:• Каждый день скачивает актуальные цены из базы pydantic/genai-prices (29 провайдеров, 1100+ связок провайдеров и…
Проблемы качества базы данных LLM[1] и необучаемости LLM в силу ограничения размеров контекстного окна сводятся к одной проблеме никак с LLM не связанной – оценке доверия к публикациям и их авторам вообще. Вторая проблема – LLM не умеет решать простые логические задачи легко решаемые
Меня зовут Олег, я ведущий юрист в ispmanager. В этой заметке я освещу основные изменения, касающиеся хостинг-провайдеров. 26 июля 2023 года законодатель принял федеральный закон, вносящий перемены в деятельность хостинг-провайдеров, новостных агрегаторов и владельцев сайтов. Что делать и как подготовиться к новым требования, расскажу под катом. Читать далее