You can not select more than 25 topics Topics must start with a chinese character,a letter or number, can include dashes ('-') and can be up to 35 characters long.

mindspore.ops.SeLU.rst 897 B

4 years ago
4 years ago
4 years ago
1234567891011121314151617181920212223242526272829303132
  1. mindspore.ops.SeLU
  2. ==================
  3. .. py:class:: mindspore.ops.SeLU()
  4. 激活函数SeLU(Scaled exponential Linear Unit)。
  5. 该激活函数定义为:
  6. .. math::
  7. E_{i} =
  8. scale *
  9. \begin{cases}
  10. x_{i}, &\text{if } x_{i} \geq 0; \cr
  11. \text{alpha} * (\exp(x_i) - 1), &\text{otherwise.}
  12. \end{cases}
  13. 其中, :math:`alpha` 和 :math:`scale` 是预定义的常量( :math:`alpha=1.67326324` , :math:`scale=1.05070098` )。
  14. 更多详细信息,请参见 `Self-Normalizing Neural Networks <https://arxiv.org/abs/1706.02515>`_ 。
  15. **输入:**
  16. - **input_x** (Tensor) - 任意维度的Tensor,数据类型为float16或float32。
  17. **输出:**
  18. Tensor,数据类型和shape与 `input_x` 的相同。
  19. **异常:**
  20. - **TypeError** - `input_x` 的数据类型既不是float16也不是float32。