← к хронологии

EXP-PRE-DECISION-ACTIVATION-PRECURSOR-LAYER

в работе

Предварительная активация перед принятием решения: предшествующий слой

2026-06-03 L4-L5 уровень 0
new
premortem
mock
real
metrics
analyze
review
krit
done

Простыми словами

В стеке измерений между слоями (параметр → активация → выход) отсутствует слой перед принятием решения: состояние остаточного потока в позиции логита «принять/отклонить» ПЕРЕД семплированием softmax.

Технические детали

Исследовательская гипотеза

В измерительном стеке между слоями (параметр → активация → выход) отсутствует слой предварительного принятия решения: состояние остаточного потока в позиции логита «принять/отклонить» ПЕРЕД семплированием softmax. Гипотеза: эта предшествующая активация лучше коррелирует с последующим многоагентным результатом (доля «да» от коллег), чем сам выходной токен, поскольку выбор токена — это семплирование с высокой температурой, которое теряет информацию.

Для комитета «предлагать-голосовать»: зафиксировать снимок остаточного потока в позиции N (где N = позиция токена «принять») ДО того, как модель выполнит семплирование. Измерить L2-расстояние между предшествующими состояниями (событие «принять», событие «отклонить»); сравнить с базовым уровнем (случайная пара); сравнить с предсказательной силой разницы логитов.

construct paper7-related pool-drained phase7-3-generated