Как узнать, почему ИИ-помощник рекомендует именно это

SHAP (SHapley Additive exPlanations) — это метод, который разбивает предсказание нейросети на вклад каждого признака. Для инвестора это означает: вы видите не просто «акция вырастет на 5%», а понимаете, какие именно факторы (волатильность, динамика цены, объёмы) на это влияют. Это критично, потому что реальный рынок часто опровергает прогнозы — и если вы знаете логику модели, вы можете проверить её предположения и отказаться от совета, если они вам не нравятся.

LIME (Local Interpretable Model-agnostic Explanations) объясняет отдельное предсказание, возмущая входные данные и смотря, как меняется выход. SHAP основан на теории игр и даёт глобальную картину вклада каждого фактора. На практике: LIME быстрее и проще для одного предсказания, SHAP точнее, если вы хотите понять паттерны модели целиком. Для инвестора SHAP предпочтительнее, потому что показывает, какие факторы модель считает стабильно важными.

Первый сигнал — модель опирается на единственный фактор (например, только на цену за последние 3 дня). Второй — фактор не имеет смысла в контексте (например, рекомендация по бумаге основана на объёме торговли за час, а не на фундаментальных данных). Третий — в историческом беклесте этого фактора нет стабильной корреляции с результатом. Если вы видите хотя бы один из этих сигналов, стоит не доверять совету или требовать дополнительной верификации.

Разберитесь в исходных данных, которые модель использовала. Если модель говорит «акция вырастет», поймите: какой временной период? какие метрики? есть ли там опечатки в тикере или в данных? Затем возьмите исторический беклест — посмотрите, когда раньше были похожие комбинации факторов, и что на самом деле случилось. Если совпадения нет — это красный флаг. Если совпадения есть — это не гарантия, но повышает уверенность.

Переходите на другую модель или используйте конкурирующие сервисы. ChatGPT, Claude и Gemini позволяют вам запросить пошаговое объяснение любого совета. Если сервис не даёт объяснений — это серьёзный сигнал о том, что создатели сами не уверены в качестве. Для критичных решений (выбор брокера, объём позиции, таймфрейм) поставьте правило: совет без объяснения = совет отклонен.

Инвестор часто верит ИИ, потому что это звучит убедительно, но не знает, опирается ли совет на твёрдые данные или на артефакт переобучения модели. SHAP и аналоги позволяют вам проверить логику до того, как вы потеряете деньги. Примечание: даже прозрачная модель может ошибаться, если её обучали на нерепрезентативной выборке или если рынок изменился.

Да, косвенно. Попросите модель объяснить решение пошагово и указать, какой фактор был наиболее важен. ChatGPT и Claude не считают SHAP-числа в фоне, но могут дать эквивалентное объяснение на языке вероятностей и весов.