Команда AI for Devs подготовила перевод исследования в котором учёные показали: чтобы встроить «бэкдор» в большую языковую модель, вовсе не нужно контролировать огромную долю обучающих данных — достаточно около 250 вредоносных документов. Этот результат переворачивает представления о масштабируемости атак через отравление данных и ставит новые вопросы к безопасности ИИ. Читать далее
Полиция Косово арестовала пятерых человек, подозреваемых в связях с террористической группировкой «Исламское государство», и якобы планировавших отравить систему водоснабжения.
Проблемы качества базы данных LLM[1] и необучаемости LLM в силу ограничения размеров контекстного окна сводятся к одной проблеме никак с LLM не связанной – оценке доверия к публикациям и их авторам вообще. Вторая проблема – LLM не умеет решать простые логические задачи легко решаемые
Кажется, LLM достигли в некоторых областях уровня мидла. В статье будет попытки потестировать LLM на тему генерации кода, описание одной из AI-IDE, тейк про то, что LLM — слепой программист, немного примеров кода на гитхабе и бесстыдное рекламирование собственного канала. Не переключайтесь! Читать далее