Все знают, как большие языковые модели – такие, как ChatGPT, – галлюцинируют или даже врут. Такие ошибки могут создавать проблемы людям, активно использующим нейросети. Интересный и, может, неожиданный вопрос: это ошибка или это вообще-то необходимо для интеллекта?В юности я хотел…
В этой статье посмотрим как можно влиять на так называемые «галлюцинации» ChatGPT.А что такое эти «галлюцинации»? По сути это придумывание фактов нейронной сетью, ну или просто — враньё. Управление «галлюцинациями» позволит получать то что мы хотим, ну или по крайней мере улучшит вероятность получения правдивого ответа. Читать далее
– И интереснее всего в этом вранье то, – сказал Воланд, – что оно – вранье от первого до последнего слова. Читать далее
Однажды в вагоне метро мне попалась на глаза реклама: улыбающийся человек в новенькой форме сотрудника метрополитена обещал будущим соискателям сказочные условия обучения и фантастическую зарплату. Поверх рекламы маркером было жирно написано: «Все вранье». Это явно написал…