简述sigmoid激活函数的优缺点
优点:1.便于求导的平滑函数;2.能压缩数据,保证数据幅度不会有问题;3.适合用于前向传播。缺点:1.容易出现梯度消失(gradient vanishing)2.Sigmoid 的输出不是 0 均值(zero-centered)3.幂运算相对耗时
简述sigmoid激活函数的优缺点
优点:1.便于求导的平滑函数;2.能压缩数据,保证数据幅度不会有问题;3.适合用于前向传播。缺点:1.容易出现梯度消失(gradient vanishing)2.Sigmoid 的输出不是 0 均值(zero-centered)3.幂运算相对耗时