Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент на экзамене.Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью. Читать далее
Вот так когда-то отвечала языковая модель, когда её просили привести пример стихотворения Бальмонта. Стихотворение с таким названием действительно есть, но начинается оно совсем не так. К сожалению, генеративные модели могут галлюцинировать и выдумывать ответ. С таким мы…
Как я устал дебажить MAX API, отреверсил их вебхуки и отучил Cursor галлюцинировать Когда я писал своего первого более-менее серьезного бота под Max, случилась классика. Я и мой ИИ-ассистент (Cursor) пишем код, строго опираясь на официальную документацию Max API. Запускаю — падает. Сижу по 5-6…
Нейросети оперативно анализируют гигантские массивы текстовой информации, обучаются на промахах и обеспечивают перевод довольно точно. Сегодня даже профильные лингвисты нередко применяют подобный метод перевода больших текстов. Можно ли довериться переводу нейросети и когда его хватит?Конечно, нейросети сильно упрощают нашу жизнь. Но даже самые современные нейронки делают ошибки. Уже набралось немало примеров, когда машинный перевод оказался не слишком удачным. Читать далее