深度學習 基礎

ReLU

Rectified Linear Unit / 修正線性單元

白話解析

輸入為負時輸出零、正時原樣輸出的激活函數,計算簡單且能緩解梯度消失

生活化比喻

像濾水閥——負壓(負數)完全關閉,正壓(正數)直接通過