Эндогенная значимость: как система решает, что важно без награды?

Кто решает, что для системы важно? В обычном машинном обучении ответ часто задаётся заранее: программист определяет награду, цель или value-функцию. Система учится выбирать действия, которые увеличивают внешний показатель. Но возможна ли другая архитектура — такая, в которой значимость возникает из собственных последствий взаимодействия со средой? В рассматриваемой модели агент не получает готовой награды «правильно/неправильно». Он изучает последствия собственных действий и оценивает события по тому, как они изменяют доступное множество будущих возможностей. Рабочий цикл: событие → физические последствия → изменение доступных действий → новая политика поведения → сохранение причинно важного опыта → новая история системы. В этом видео: — чем внешняя ценность отличается от внутренней значимости; — как устроена модель без внешних подсказок; — почему история должна быть длиннее доступной памяти; — какие фрагменты прошлого сохраняет система; — как последствия изменяют пространство будущих действий; — почему защищаемая норма должна пересматриваться; — чем эндогенная значимость отличается от обычной value-функции; — какие ограничения остаются у такой модели; — появляется ли у системы собственная шкала значимости. Разнообразие доступных действий здесь не объявляется смыслом жизни или универсальной ценностью. Это операциональный кандидат: событие считается значимым, если оно причинно изменяет пространство возможного будущего системы. Эксперименты показали физическую полезность рассматриваемого механизма: улучшались сохранение доступных действий, продолжительность функционирования и устойчивость ресурса. Однако строгие критерии полной эндогенной значимости пока не выполнены. В основном тесте все сравниваемые системы прошли только 4 из 7 критериев. В контрфактической версии кандидат A₀ прошёл 5 из 8, но ни одна архитектура не прошла все проверки. Поэтому результаты не доказывают возникновение субъективного смысла, сознания или полноценной собственной системы ценностей. Корректный вывод: построен и проверяется операциональный контур, связывающий историю, физические последствия, память и сохранение будущих возможностей действия. Работа «Значимость вариантов и сохранение множества действий»: https://doi.org/10.5281/zenodo.22103321 00:00 Эндогенная значимость 00:29 Пять вопросов исследования 00:49 Внешняя и внутренняя оценка 01:30 Модель без внешних подсказок 02:21 Условия возникновения значимости 02:49 Замкнутый причинный цикл 03:28 Как работает механизм оценки 03:57 От события к сохранению опыта 04:32 Пересмотр эндогенной нормы 05:10 Ограничения существующих подходов 05:34 Разнообразие действий — не смысл жизни 05:55 Два возможных типа ошибки 06:08 Собственная шкала значимости 06:38 Завершение