mindspore2022/docs/api/api_python/nn/mindspore.nn.leakyrelu.rst

mindspore.nn.LeakyReLU
=======================

.. py:class:: mindspore.nn.LeakyReLU(alpha=0.2)

   Leaky ReLU激活函数。

   LeakyReLU与ReLU相似，但LeakyReLU有一个斜率，使其在x<0时不等于0，该激活函数定义如下：

   .. math::
      \text{leaky_relu}(x) = \begin{cases}x, &\text{if } x \geq 0; \cr
      \text{alpha} * x, &\text{otherwise.}\end{cases}


   更多细节详见 `Rectifier Nonlinearities Improve Neural Network Acoustic Models <https://ai.stanford.edu/~amaas/papers/relu_hybrid_icml2013_final.pdf>`_。

   **参数：**

   **alpha** (`Union[int, float]`) – x<0时激活函数的斜率，默认值：0.2。

   **输入：**

   **x** （Tensor） - LeakyReLU的输入。shape为 :math:`(N, *)` ，其中 :math:`*` 表示任意的附加维度数。

   **输出：**

   Tensor，shape和数据类型与 `x` 的相同。

   **异常：**

   **TypeError** - `alpha` 不是浮点数或整数。

   **支持平台：**

   ``Ascend`` ``GPU`` ``CPU``

   **样例：**

	>>> x = Tensor(np.array([[-1.0, 4.0, -8.0], [2.0, -5.0, 9.0]]), mindspore.float32)
	>>> leaky_relu = nn.LeakyReLU()
	>>> output = leaky_relu(x)
	>>> print(output)
	[[-0.2  4.  -1.6]
	 [ 2.  -1.   9. ]]