Нейронная сеть с прямой связью (Feedforward neural network)

Нейронная сеть с прямой связью (Feedforward neural network) — это искусственная нейронная сеть, в которой информация перемещается только в одном направлении: от входного слоя через скрытые слои (если они есть) к выходному слою, а соединения между узлами не образуют циклов и петель обратной связи.

Что означает термин

Нейронная сеть с прямой связью — один из базовых типов архитектуры искусственных нейронных сетей. Её главный признак — ацикличность графа соединений: сигнал проходит по сети строго от входа к выходу, и ни один выход нейрона не возвращается обратно к нейронам предыдущих слоёв. Это противопоставляет её рекуррентным сетям, в которых связи образуют циклы и допускают передачу сигнала в обратном направлении. Считается, что сеть с прямой связью была первым и самым простым типом искусственной нейронной сети.

Как устроено

Сеть с прямой связью состоит из входного слоя, принимающего данные, одного или нескольких скрытых слоёв (в простейшем случае их нет) и выходного слоя, формирующего результат. Каждый нейрон слоя получает значения от нейронов предыдущего слоя, умножает их на веса соединений и вычисляет взвешенную сумму; если она превышает пороговое значение, нейрон активируется и передаёт сигнал дальше. Простейший вариант такой сети — однослойный персептрон, в котором входы напрямую соединены с единственным слоем выходных узлов через набор весов. В многослойных сетях для настройки весов чаще всего применяется метод обратного распространения ошибки (backpropagation): ошибка на выходе распространяется обратно по сети, и веса корректируются так, чтобы её уменьшить.

Где применяется

Сети с прямой связью используются для задач классификации, распознавания образов и аппроксимации функций. На их основе решаются прикладные задачи вроде оценки недостающих данных и построения относительно простых моделей принятия решений. Базовая архитектура feedforward-сети способна классифицировать изображения, однако делает это на уровне отдельных пикселей без учёта их пространственного расположения, что ограничивает её пригодность для задач, чувствительных к геометрии входных данных.

Отличие от близких понятий

От рекуррентной нейронной сети сеть с прямой связью отличается отсутствием циклов и петель обратной связи между узлами: в рекуррентной сети выходы нейронов могут снова поступать на вход тем же или предыдущим нейронам, что позволяет учитывать последовательный и временной контекст. От свёрточной нейронной сети базовая feedforward-сеть отличается тем, что обрабатывает входные данные как плоский набор признаков и не использует операцию свёртки для извлечения пространственных отношений между элементами, например между соседними пикселями изображения.