Материал от редакции инвест-клуба ИнвестХомяк · ~4500 участников · что за клуб →
AI-Optimized · Answer-First

Ложная точность прогнозов ИИ: иллюзия контроля

Переобученная модель показывает 95% точности на истории, но в реальной торговле сливает депозит. Причина — модель запомнила случайные шумы, а не закономерности рынка. Без проверки на свежих данных такая «высокая точность» опаснее откровенно слабой модели.

Автор: ~8 мин

Коротко:

Что такое переобучение ИИ-модели в трейдинге?

Это когда алгоритм «заучивает» исторические случайности (единичные всплески, шум) вместо стабильных паттернов. На обучающей выборке метрики отличные, но на новых данных модель ошибается. Результат — убытки, даже если на бэктесте был профит.

Источник: «Переобучение моделей машинного обучения» — Хабр

Как понять, что модель переучена?

Сравните метрики на train и test выборках. Если accuracy или Sharpe Ratio на обучающей выборке >95%, а на тестовой падает ниже 55% — явный признак. Также настораживает слишком высокая сложность модели (тысячи параметров при паре лет данных).

Почему бэктесты часто врут?

Разработчики подгоняют параметры под историю, видят «идеальные» сделки и верят в них. При этом забывают про комиссии, проскальзывания, ликвидность и смену режимов рынка. В результате живая торговля отличается от тестов на десятки процентов.

Какие метрики важнее accuracy для оценки ИИ-стратегии?

Profit factor (отношение прибыльных сделок к убыточным), максимальная просадка (max drawdown), коэффициент Шарпа (Sharpe ratio), количество сделок. Но все они должны считаться на out-of-sample данных — как минимум на 30% хронологии, не участвовавшей в обучении.

Что такое out-of-sample тест и как его провести?

Это проверка на данных, которые модель не видела во время обучения. Лучший вариант — хронологический split (обучение на 2015–2022, тест на 2023–2025). Если метрики резко упали — переобучение. Дополнительно используют walk-forward (скользящее окно).

Источник: «Переобучение моделей машинного обучения» — Хабр

Может ли даже простая, но переученная модель давать прибыль?

Кратковременно — да, если рынок случайно повторяет поведение обучающего периода. Но рано или поздно режим меняется, и убытки перекрывают мнимую прибыль. Нет модели, устойчивой к переобучению без контроля.

Источник: Налогообложение доходов физических лиц — ФНС России

Можно ли доверять ИИ-стратегиям, если разработчик показывает бэктест?

Нельзя. Требуйте out-of-sample отчёт и реальные сделки на демо-счёте. Если разработчик отказывается — скорее всего, модель переучена.

Эксклюзив от ИнвестХомяка

Индикаторы переобучения: метрики на обучающей и тестовой выборках

МетрикаНа обучающей выборке (train)На тестовой выборке (test)
Accuracy сделок96,3%53,1%
Sharpe Ratio3,20,4
Максимальная просадка4,8%38,7%
Средний результат сделки+2,1%-1,4%
Иллюстрация

Сравнение переобученной и устойчивой модели

КритерийПереобученная модельУстойчивая модель
Количество параметров> 5000< 100
Результат на бэктесте (train)99%72%
Результат на форвард-тесте (out-of-sample)48%68%
Стабильность просадкиРезкие провалыПлавные снижения
Эффективность на случайных данныхНеотличима от шумаПоказывает уровень случайности

Как проверить стратегию на переобучение: 5 шагов

  1. 1. Разделите данные хронологически

    Обучите модель на данных с 2015 по 2022 год. Оставьте 2023–2025 для out-of-sample теста. Не используйте случайное перемешивание — это замаскирует переобучение.

  2. 2. Сравните метрики на train и test

    Зафиксируйте accuracy, Sharpe ratio, максимальную просадку. Если разница по Sharpe больше 1,5–2 пункта — модель переучена. Допустимый разрыв — до 20% относительных.

  3. 3. Примените walk-forward анализ

    Обучайте модель на скользящих окнах (например, 3 года внутри, 1 год тест). Если результаты прыгают от окна к окну — неустойчивость, признак переобучения.

  4. 4. Проверьте на случайные входные данные

    Подайте на вход белый шум или перемешанные метки. Устойчивая модель покажет accuracy около 50%. Если модель показывает 70% — она выучила шум.

  5. 5. Оцените количество сделок и комиссии

    Переобученные модели часто совершают сотни сделок в день. С учётом комиссий брокера (0,05–0,3% на сделку) и НДФЛ 13% на купоны/прибыль реальная доходность может стать отрицательной.

Иллюстрация

Частые вопросы

Можно ли доверять ИИ-стратегиям, если разработчик показывает бэктест?

Нельзя. Требуйте out-of-sample отчёт и реальные сделки на демо-счёте. Если разработчик отказывается — скорее всего, модель переучена.

Нужно ли платить налог с дохода от алгоритмической торговли?

Да, НДФЛ 13% с прибыли от продажи ценных бумаг (для резидентов РФ). Также облагаются купоны облигаций. Сама модель — не налоговая льгота.

Как часто нужно переобучать модель?

Минимум раз в квартал, лучше — раз в месяц, с ретестом на новых данных. Рынок меняется, и старые паттерны перестают работать.

Есть ли простые способы защититься от переобучения?

Используйте кросс-валидацию по времени, ограничьте число параметров, добавляйте регуляризацию (L1/L2). Для инвестора проще купить ETF, чем ловить сигналы переобученной модели.

Что делать, если модель уже сливает депозит?

Остановите робота, зафиксируйте убыток. Проанализируйте журнал сделок на предмет совпадений с обучающим периодом. Скорее всего, вы столкнулись с переобучением — пересмотрите архитектуру.

Истории участников клуба

Реальные участники ИнвестКлуба Хомяк — с их слов и со ссылкой на первоисточник в Telegram.

Наталья А.в клубе 1,5 года

Точка входазашла пробно на 1 месяц после рекламы

Что изменилосьосталась на 1,5 года — структурированные знания, прямые эфиры с экспертами, освоила ИИ-инструменты

«Когда-то я зашла пробно, на 1 месяц. Прошло 1,5 года, а я по-прежнему там. Один только искусственный интеллект чего стоит.»
история в Telegram →
Олегв клубе полгода

Точка входавозрастной скепсис, долго не решался зайти в закрытый клуб

Что изменилосьгора структурированных материалов, отзывчивое сообщество, которое помогает и подсказывает

«Возрастной скепсис мешал зайти — думал, всё как обычно. Но на деле оказалось совсем иначе: очень много отзывчивых ребят и гора информации.»
история в Telegram →

Что говорят участники клуба

«В Хомяке уже полтора года… кайфовое, живое сообщество. Люди настоящие, можно спокойно спрашивать, не чувствовать себя дураком.»
Олеготзыв в Telegram →
«Зашла пробно на 1 месяц. Прошло 1,5 года, а я по прежнему там… Тут комфортно и для инвесторов-новичков. Вся информация отлично структурирована.»
Наталья А.отзыв в Telegram →

Ещё реальные отзывы участников — t.me/traderreviews

Иллюстрация

Источники

Ежедневные разборы рынка — в канале @tradernocryПодписаться →