Публикации по теме 'batch-normalization'


Временные ряды + нейронные сети: избегайте этого!
Итак, я занимаюсь этим уже довольно давно, экспериментируя с наборами данных временных рядов и нейронными сетями, и хотел бы поделиться здесь некоторыми мыслями, которые, надеюсь, могут оказаться полезными для других, чтобы избежать некоторых ненужных ошибок. Мы знаем, что нейронные сети могут страдать от явления, называемого ковариатным сдвигом. Для тех, кто не в курсе, очень коротко, это изменение распределения выходных активаций при изменении параметров сети. То, что мы хотели бы..