在機器學習和深度學習中，“epoch”（批次）和"batch"（批量）是兩個重要的概念，它們分別表示訓練過程中的不同階段和數(shù)據(jù)處理方式。

Epoch（批次）

• 定義：Epoch（批次）指的是整個訓練數(shù)據(jù)集被送入神經網絡中，并且被用于更新參數(shù)一次的過程。簡單來說，一個 epoch 表示神經網絡訓練時所有訓練數(shù)據(jù)通過網絡一次，用于參數(shù)的更新。
• 意義：完成一個 epoch 后，整個數(shù)據(jù)集中的所有樣本都參與了一次訓練，用于計算損失函數(shù)、計算梯度并更新模型的參數(shù)。通常情況下，訓練過程會通過多個 epoch 來提高模型的性能，直到達到預定的停止條件（如收斂）。

Batch（批量）

• 定義：Batch（批量）是指在一個 epoch 中，為了加速訓練過程，將大規(guī)模的數(shù)據(jù)集分成若干個較小的塊進行訓練。每個 batch 包含一定數(shù)量的樣本數(shù)據(jù)。
• 意義：通過使用 batch，可以減少每次參數(shù)更新的計算量，提高計算效率。在每個 batch 中，模型會根據(jù)這些樣本的損失函數(shù)計算梯度并更新參數(shù)。通常情況下，一個 batch 中的樣本數(shù)目稱為 batch size。

區(qū)別總結

• Epoch 是訓練過程中的一個單位，指的是所有訓練數(shù)據(jù)被送入模型并進行了一次前向傳播和一次反向傳播的過程。
• Batch 是在一個 epoch 中，為了提高計算效率和減少內存消耗而將數(shù)據(jù)分成的小塊，每個塊中包含的樣本數(shù)量即為 batch size。

示例理解：

• 如果你的訓練數(shù)據(jù)集有 1000 個樣本，你設定的 batch size 是 50，那么在一個 epoch 中會有 1000/50=20 個 batch。
• 在訓練過程中，會連續(xù)地用每個 batch 中的數(shù)據(jù)計算梯度并更新模型參數(shù)，直到完成一個 epoch。