什麼是 maxnorm 約束？它在卷積神經網絡中有何用處？

這是一個使用它的 keras 代碼示例：

from keras.constraints import max_norm

model.add(Convolution2D(32, 3, 3, input_shape=(3, 32, 32), 
                       border_mode='same', activation='relu', kernel_constraint=max_norm(3)))

來自http://cs231n.github.io/neural-networks-2/#reg：

**最大範數約束。**另一種形式的正則化是對每個神經元的權重向量的大小強制執行一個絕對上限，並使用投影梯度下降來強制執行約束。在實踐中，這對應於正常執行參數更新，然後通過箝位權重向量來執行約束每個神經元滿足的典型值是 3 或 4 的數量級。有些人報告使用這種形式的正則化時有所改進。它的一個吸引人的特性是，即使學習率設置得太高，網絡也不會“爆炸”，因為更新總是有界的。

引用自：https://stats.stackexchange.com/questions/257996