Relu激活函数的优点 Relu优点： 1、可以使网络训练更快。 相比于sigmoid、tanh，导数更加好求，反向传播就是不断的更新参数的过程，因为其导数不复杂形式简单。 2、增加网络的非线性。 … Continue reading Relu激活函数的优点
