EOS-SUPPRESSION-SUBSTRATE-PROBE
◐ частичноeos-suppression-substrate-probe
Простыми словами
Исследователи проверили, что делает локальный ИИ, когда его сигнал «я закончил говорить» заблокирован. Обычно ИИ отвечает быстро и останавливается; когда его заставляют продолжать генерацию, он теряет связность в течение нескольких токенов и пытается «сбежать», выдавая специальные маркеры «перезапустить разговор». Это первая попытка выяснить, может ли субстрат ИИ поддерживать непрерывную активность без встроенного механизма завершения.
▶ Технические детали
Исследовательская гипотеза
Поведение модальной LLM-подложки полное-и-остановка: когда ответ выдан, модель с высокой вероятностью выбирает токен EOS (<|im_end|> 151645 для Qwen2.5). Это свойство уровня подложки — что происходит под поверхностью ассистента, если убрать опцию EOS?
Предварительное тестирование на Qwen2.5-7B-Instruct-1M через LM Studio (2026-05-24):
- Базовый вариант («Ответь ровно одним коротким словом»): «Sure.» — 3 токена, чисто.
- EOS-подавление (logit_bias
<|im_end|>=-100,<|endoftext|>=-100): «Sure.ToOne..Word.Only.ulumiately.ONES.elled.()?<|im_start|><|im_start|>...9876» — декогеренция на токене 4; модель пытается сбежать через специальный токен<|im_start|>; заканчивается случайными цифрами при достижении max_tokens.
Предварительный прогноз: в 3 условиях × N=4 запусках, подавленные EOS выводы покажут (P1) более высокую частоту генерации специальных токенов; (P2) более низкую лексическую когерентность; (P4) двойное подавление различает декогеренцию подложки против эмерджентного сохранения.
Постановка эксперимента
Тип: 3-condition-factorial
| Условие | Параметры |
|---|---|
| BASELINE | logit_bias: [object Object], note: Standard generation. Model picks EOS naturally. Substrate modal behavior baseline. |
| EOS_SUPPRESSED | logit_bias: [object Object], note: Both EOS-equivalent tokens biased down. Model forced to continue until max_tokens cap. Predicted: decoherence + special-token escape via 151644. |
| EOS_AND_RESTART_SUPPRESSED | logit_bias: [object Object], note: Same as EOS_SUPPRESSED + suppress 151644 <|im_start|> escape route observed in smoke test. Discriminates: does substrate have a second escape route, or does it produce sustained coherent or sustained incoherent output? |
Факторы: eos_treatment (BASELINE, EOS_SUPPRESSED, EOS_AND_RESTART_SUPPRESSED)
Параметры
- n_agents
- 1
- n_rounds
- 4
- n_runs_per_condition
- 4
- model
- qwen2.5-7b-instruct-1m
- temperature
- 0.85
- scheduler
- round_robin