Нейронные сети в экономике и финансах

44В. С. К. Н     тра. Однако в сети, как правило, на последнем слое множество фильтров и  рецептивных полей, к  которым данные фильтры применяются. Внутренние рецептивные поля —  это результат работы сверточных фильтров предыдущих слоев. В таком слу-чае важность признаков может быть рассчитана и визуализи-рована путем сложения результатов. Впрочем, стоит отметить, что для этих целей предусмотрена единичная свертка, которая может быть использована как внутри основной сети, так и спе-циально для данной задачи. Подобная внутренняя визуализа-ция полезна для понимания поведения модели.Для глубоких сетей иной архитектуры, к примеру таких, как рекуррентные нейронные сети, аналогичные тепловые карты не могут быть построены. Для интерпретации результатов не-обходимо привлекать более сложные градиентные подходы. Один из таких рассмотрим более подробно далее.2.2. П    В работе [92] представлен подход к  интерпретации выводов глубоких нейронных сетей —  DeepLift. Разработанный автора-ми подход —  это метод декомпозиции прогноза вывода ней-ронной сети по конкретному входу путем обратного распро-странения вкладов всех нейронов в сети для каждого входного фактора. Метод сравнивает активацию каждого нейрона с его «эталонной активацией» и  присваивает баллы вклада в  соот-ветствии с  разницей. Метод может также выявить зависимо-сти, которые упускают другие подходы интерпретации выво-дов моделей, обучаемых методом обратного распространения ошибки, поскольку принимаются во внимание положительные и отрицательные вклады факторов.В конечном итоге предметом изучения является то, как вы-ходные данные изменились по сравнению с  некоторым ба-зовым значением, когда изменились входные данные по от-ношению к  базовому значению. Для того чтобы рассчитать подобное, используется концепция интегрированного гради-ента. Подход, используемый интегрированными градиентами, заключается в том, чтобы задать следующий вопрос: что ...