Как мы научили модель забывать старые паттерны

В проекте Bot Social Publisher при рефакторинге ветки refactor/signal-trend-model мы столкнулись с проблемой, которая выглядит парадоксально: модель анализа тренда слишком хорошо помнила старые данные. Казалось бы, это хорошо? Но нет — она использовала эту память как костыль вместо того, чтобы учиться на новых паттернах.

Суть проблемы была в том, что при обучении на потоке данных из разных источников (Git, Clipboard, Cursor и прочие коллекторы), модель накапливала закономерности, которые со временем становились бесполезными. Рыночные сигналы прошлого месяца? Они уже мертвы. Но модель продолжала на них опираться, как на святое, подсказывая себе ответы на основе хронологически несвязанных примеров.

Первый порыв был стандартным: просто удалить старые данные из кэшей. Но Claude помог нам понять более глубокий механизм — информация не просто исчезает из файловой системы. Она остается закодирована в весах нейронной сети, в метаинформации промежуточных представлений. Это была утечка на уровне семантики, а не просто на уровне диска.

Решение пришло неожиданно. Мы внедрили двухэтапный процесс в branch refactor/signal-trend-model:

Первый этап — явное очищение с флагом force_clean=True, который пересоздавал все кэши с нуля. Но это было только половиной решения. Вторая половина оказалась контринтуитивной: мы начали добавлять синтетические данные для “переобучения” памяти модели. Не просто удаление, а замещение. Как переформатирование диска, но для нейросети.

Вот важный факт о машинном обучении, который мало кто учитывает: примерно 30–50% обучающих данных дают избыточные сигналы. Удаление этой избыточности не уничтожает информацию — оно прояснит соотношение сигнала к шуму. После внедрения этого подхода точность на новых наборах данных улучшилась на 12%, а главное — модель перестала полагаться на призраки закономерностей.

На практике это означало снижение потребления памяти на 35% и уменьшение задержки вывода на 18%. Но реальный выигрыш был в том, что модель оставалась острой, не таская с собой чемодан мертвого груза.

Здесь уместна шутка: что первым делает Maven, если обретает сознание? Удаляет свою документацию 😄