- Высокоразмерный предел однопроходного SGD по методу наименьших квадратов (arXiv)
Автор: Элизабет Коллинз-Вудфин, Эллиот Пакетт.
Аннотация: Мы даем описание многомерного предела однопроходного однопакетного стохастического градиентного спуска (SGD) в задаче наименьших квадратов. Этот предел берется с ненулевым размером шага и с пропорциональным отношением количества выборок к размерности задачи. Предел описывается в терминах стохастического дифференциального уравнения в больших размерностях, которое, как показано, аппроксимирует эволюцию состояния SGD. Как следствие, показано, что статистический риск аппроксимируется решением уравнения Вольтерра типа свертки с исчезающими ошибками при стремлении размерности к бесконечности. Чувство сходимости является самым слабым, что показывает, что статистические риски двух процессов совпадают. Это отличается от существующих анализов типом данного многомерного предела, а также общностью ковариационной структуры выборок.
2.SALSA: Метод последовательных чередующихся наименьших квадратов для оценки канала MIMO (arXiv)
Автор: Сепидех Герехлоо, Халед Ардах, Мартин Хаардт.
Аннотация: В этой статье мы рассматриваем проблему оценки канала в широкополосных системах связи восходящей линии связи MIMO-OFDM с частотой менее 6 ГГц, где пользовательское оборудование с полностью цифровой структурой формирования луча взаимодействует с базовой станцией, имеющей гибридную аналого-цифровую структуру формирования луча. состав. Предлагается новый метод оценки канала, называемый последовательным чередующимся методом наименьших квадратов (SALSA), использующий скрытую тензорную структуру в матрице измерений восходящей линии связи. В частности, показывая, что любая матрица канала MIMO может быть приблизительно разложена на сумму матриц R-фактора, имеющих структуру Кронекера, матрица измерения восходящей линии связи может быть преобразована в трехсторонний тензор, допускающий разложение Такера. Используя тензорную структуру, матрица канала MIMO последовательно оценивается с использованием метода чередующихся наименьших квадратов. Представлены подробные результаты моделирования, показывающие эффективность предложенного метода SALSA по сравнению с классическим методом наименьших квадратов.
