Исследование механизмов и патологий формирования субъективного опыта в системах искусственного интеллекта Читать далее
У современных систем искусственного интеллекта нет субъектности (собственного «Я»), они не имеют способности к рефлексии в процессе принятия решений, и не имеют понимания смысла и последствий даже собственных «действий». Способность перспективных когнитивных систем к рефлексии (в том числе, пониманию смыслов и последствий), является естественным барьером для таких ситуаций.В статье приводится гипотеза с формализуемым определением субъектности. Читать далее
Вследствие увеличения сложности систем и необходимости уменьшения затрат на их поддержание традиционные методы ОДН (обнаружение и диагностика неисправностей) не справляются со своей задачей. С другой стороны, эксперты в этой области не сильно доверяют методам, основанным на…
Все вокруг спорят, станет ли крупная языковая модель субъектом.Показывают скрины ответов, где модель рассуждает про себя, говорит что ей страшно или радостно, и делают выводы про зарождающееся сознание.Проблема в том, что на уровне инженерии там нет ни субъекта, ни траектории, ни устойчивого Я. Есть мощный условный распределитель по токенам. Все. В этой статье я разберу, почему так, что для субъектности не хватает и как это закрывает архитектура ENA как отдельный слой поверх LLM. Прочитать статью