You can not select more than 25 topics Topics must start with a chinese character,a letter or number, can include dashes ('-') and can be up to 35 characters long.

mindspore.nn.InstanceNorm2d.rst 3.0 kB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051
  1. mindspore.nn.InstanceNorm2d
  2. ============================
  3. .. py:class:: mindspore.nn.InstanceNorm2d(num_features, eps=1e-5, momentum=0.1, affine=True, gamma_init='ones', beta_init='zeros')
  4. 对四维输入实现实例归一化(Instance Normalization Layer)。
  5. 该层在四维输入(带有额外通道维度的mini-batch二维输入)上应用实例归一化,详见论文 `Instance Normalization:
  6. The Missing Ingredient for Fast Stylization <https://arxiv.org/abs/1607.08022>`_ 。
  7. 使用mini-batch数据和学习参数进行训练,参数见如下公式。
  8. .. math::
  9. y = \frac{x - \mathrm{E}[x]}{\sqrt{\mathrm{Var}[x] + \epsilon}} * \gamma + \beta
  10. 其中\gamma和\beta是可学习的参数向量,如果 `affine` 为True,则大小为 `num_features` 。通过偏置估计函数计算标准偏差。
  11. 此层使用从训练和验证模式的输入数据计算得到的实例数据。
  12. InstanceNorm2d和BatchNorm2d非常相似,但略有不同。InstanceNorm2d应用于RGB图像等通道数据的每个通道,而BatchNorm2d通常应用于批处理。
  13. .. note::
  14. 需要注意的是,更新滑动平均和滑动方差的公式为 :math:`\hat{x}_\text{new} = (1 - \text{momentum}) \times x_t + \text{momentum} \times \hat{x}` ,其中 :math:`\hat{x}` 是估计的统计量, :math:`x_t` 是新的观察值。
  15. **参数:**
  16. - **num_features** (int) - 输入Tensor的通道数量。
  17. - **eps** (float) - 添加到分母中的值,以确保数值稳定。默认值:1e-5。
  18. - **momentum** (float) - 动态均值和动态方差所使用的动量。默认值:0.1。
  19. - **affine** (bool) - bool类型。设置为True时,可以学习gamma和beta参数。默认值:True。
  20. - **gamma_init** (Union[Tensor, str, Initializer, numbers.Number]) - gamma参数的初始化方法。str的值引用自函数 `initializer` ,包括'zeros'、'ones'等。默认值:'ones'。
  21. - **beta_init** (Union[Tensor, str, Initializer, numbers.Number]) - beta参数的初始化方法。str的值引用自函数 `initializer` ,包括'zeros'、'ones'等。默认值:'zeros'。
  22. **输入:**
  23. - **x** (Tensor) - shape为 :math:`(N, C, H, W)` 的Tensor。数据类型为float16或float32。
  24. **输出:**
  25. Tensor,归一化,缩放,偏移后的Tensor,其shape为 :math:`(N, C, H, W)` 。类型和shape与 `x` 相同。
  26. **异常:**
  27. - **TypeError** - `num_features` 不是整数。
  28. - **TypeError** - `eps` 不是float。
  29. - **TypeError** - `momentum` 不是float。
  30. - **TypeError** - `affine` 不是bool。
  31. - **TypeError** - `gamma_init` / `beta_init` 的类型不相同,或者初始化的元素类型不是float32。
  32. - **ValueError** - `num_features` 小于1。
  33. - **ValueError** - `momentum` 不在范围[0, 1]内。
  34. - **KeyError** - `gamma_init` / `beta_init` 中的任何一个是str,并且不存在继承自 `Initializer` 的同义类。