Neural-Networks
與非方形核的捲積
到目前為止,我只遇到過方形的捲積核(即,具有與列相同的行)。
是否存在非方形內核有意義的情況?如果不是,為什麼?
實際上,理想的形狀可能是圓形,但這在計算上很不方便。關鍵是你通常沒有先驗卷積網絡應該學習的特徵形狀的假設。例如,在圖像上訓練的捲積網絡的最低層通常會學習檢測邊緣。這些邊緣可以具有任何方向,例如垂直、對角線、水平或介於兩者之間的方向。如果您檢查了垂直邊緣檢測器的權重,您可能會發現實際上可以將它們放在一個高矩形內,並從內核的側面裁剪出一些不相關(接近於零)的權重。類似地,水平邊緣檢測器可能適合寬矩形,不需要正方形的頂部和底部位。但是您事先不知道哪個地圖將學習哪個特徵,因此您不能提前指定這些形狀,這樣做也不會帶來很大的優勢。
如果您事先知道所有特徵都會(例如)比高度更寬,那麼也許值得使用(非方形)矩形內核。