添加数据增强方法

Author: xinetzone

doc/conf.py

@@ -30,7 +30,7 @@
 
 # The full version, including alpha/beta/rc tags
 release = torch_book.__version__
-html_baseurl = 'https://xinetzone.github.io/torch_book'
+html_baseurl = 'https://xinetzone.github.io/torch-book'
 
 # -- General configuration ---------------------------------------------------
 
@@ -166,7 +166,7 @@
     # 默认情况下，编辑按钮将指向版本库的根。
     # 如果你的文档被托管在一个子文件夹中，请使用以下配置：
     "path_to_docs": "doc/",  # 文档的路径，默认 `docs/``
-    "github_url": "https://github.com/xinetzone/torch_book",
+    "github_url": "https://github.com/xinetzone/torch-book",
     "repository_url": "https://github.com/xinetzone/torch_book",
     "repository_branch": "main",  # 文档库的分支，默认 `master`
     # -- 在导航栏添加一个按钮，链接到版本库的议题 ------------------------------

…paper/convolution-arithmetic/intro.ipynb …paper/convolution-arithmetic/chaos.ipynbdoc/paper/convolution-arithmetic/intro.ipynb renamed to doc/paper/convolution-arithmetic/chaos.ipynb doc/paper/convolution-arithmetic/intro.ipynb renamed to doc/paper/convolution-arithmetic/chaos.ipynb

@@ -1,5 +1,5 @@
 # 卷积算法指南
 
 ```{toctree}
-intro
+chaos
 ```

doc/paper/convolution-arithmetic/index.md

@@ -3,6 +3,7 @@
 ```{toctree}
 :maxdepth: 2
 
+transforms/index
 quant/index
 convolution-arithmetic/index
 ```

doc/paper/index.md

@@ -0,0 +1,3 @@
+# Cutmix
+
+{cite:p}`yun2019cutmix`

doc/paper/transforms/cutmix.md

@@ -0,0 +1,51 @@
+{
+ "cells": [
+  {
+   "attachments": {},
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "# 数据增强之 Cutout\n",
+    "\n",
+    "```{note}\n",
+    "{cite:p}`devries2017improved` 是由 Devansh Arpit、 Stanisław Jastrzębski、Nicolas Ballas、David Krueger、Emmanuel Bengio 和 Yoshua Bengio 于 2017 年发布的一篇研究论文。\n",
+    "\n",
+    "这篇论文介绍了一种正则化技术，用于解决卷积神经网络（CNNs）中的过拟合问题。当 CNN 基于有限的数据集进行训练时，就容易出现过拟合的问题，导致网络仅仅是记忆了训练数据，而未能适应新的数据点。\n",
+    "\n",
+    "这种正则化技术名为“Cutout”，它涉及到在训练期间随机选择输入图像的正方形区域，将其所有像素设置为零。这个过程在不同的训练示例中随机进行，有助于防止网络过度依赖于特定的特征或输入数据的部分。\n",
+    "\n",
+    "该论文提供了实验结果，表明 Cutout 改进了 CNN 在多个图像分类数据集上的表现，包括 CIFAR-10、CIFAR-100 和 SVHN。Cutout 被证明可以显著减少过拟合，并提高 CNN 的泛化性能。作者还将 Cutout 与其他正则化技术（如 dropout）进行了比较，并表明 Cutout 在泛化性能方面优于它们。\n",
+    "\n",
+    "总的来说，“使用 Cutout 改进卷积神经网络的正则化”提供了一种有力的正则化技术，可以帮助改善 CNN 的泛化性能。这种方法易于实现并可以轻松集成到现有的 CNN 架构中，因此是处理深度学习应用中的过拟合问题的一种有用技术。\n",
+    "\n",
+    "Cutout 技术在很多方面都是可扩展的，因为它的思想是基于一个通用的原则。例如，类似于 Cutout 的技术，如 MixUp，DropBlock 和 DropPath，都是以类似的想法出现的，即在训练期间随机删除或修改输入。这些变体进一步拓展了 Cutout 的应用领域和功效，使其成为更加灵活和适用于更多深度学习应用的技术。\n",
+    "```"
+   ]
+  },
+  {
+   "attachments": {},
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Cutout 使用固定大小的正方形区域，采用全 0 填充，而且允许正方形区域在图片外（由于这点，Cutout 非正方形区域都在边界处）。\n",
+    "\n",
+    "- 正方形区域的边长固定；\n",
+    "- 正方形区域使用同一种像素值填充；\n",
+    "- 正方形随机出现在图片中，超出边界的部分被截断。\n",
+    "\n",
+    "```{tip}\n",
+    "- 正方形边长的设定，是否会覆盖图像主要信息；在尺度不一的实际业务场景中可能影响其效果，比如目标检测中将目标全部覆盖了。\n",
+    "- 使用 Cutout 前，先进行归一化，以降低像素填充的影响。\n",
+    "```"
+   ]
+  }
+ ],
+ "metadata": {
+  "language_info": {
+   "name": "python"
+  },
+  "orig_nbformat": 4
+ },
+ "nbformat": 4,
+ "nbformat_minor": 2
+}

doc/paper/transforms/cutout.ipynb

@@ -0,0 +1,17 @@
+# 数据增强
+
+一些常用的数据增强方法：
+
+- Cutout：通过 0 填充，随机删除矩形区域
+- Random Erasing：通过均值填充，随机删除矩形区域，
+- Mixup：两张图像每个位置的像素根据一定比例进行叠加，label 根据像素叠加比例进行分配
+- Cutmix：随机删除矩形区域，并通过另一张图像的同一位置像素值填充，label 根据像素所占比例进行分配
+
+
+```{toctree}
+cutout
+random-erasing
+mixup
+cutmix
+mosaic
+```

doc/paper/transforms/index.md

@@ -0,0 +1,3 @@
+# Mixup
+
+{cite:p}`zhang2018mixup`

doc/paper/transforms/mixup.md

@@ -0,0 +1,7 @@
+# Mosaic
+
+Mosaic数据增强方法是[YOLOV4](https://link.zhihu.com/?target=https%3A//github.com/Tianxiaomo/pytorch-YOLOv4)论文中提出来的，主要思想是将四张图片进行随机裁剪，再拼接到一张图上作为训练数据。这样做的好处是丰富了图片的背景，并且四张图片拼接在一起变相地提高了batch_size，在进行batch normalization的时候也会计算四张图片，所以对本身batch_size不是很依赖，单块GPU就可以训练YOLOV4。
+
+- cutout和cutmix就是填充区域像素值的区别；
+- mixup和cutmix是混合两种样本方式上的区别：
+- mixup是将两张图按比例进行插值来混合样本，cutmix是采用cut部分区域再补丁的形式去混合图像，不会有图像混合后不自然的情形。

doc/paper/transforms/mosaic.md

@@ -0,0 +1,3 @@
+# Random Erasing
+
+{cite:p}`zhong2017random`