Batch nei processi di elaborazione dati

Durante l'addestramento di un modello di machine learning, è comune fornire i dati in piccoli blocchi invece che tutti insieme. Questi blocchi sono chiamati "batch". Invece di mostrare al modello un singolo elemento di dati (come un'immagine o una frase), si può fornire un batch di, ad esempio, 32 elementi contemporaneamente. Questo approccio rende l'addestramento più stabile e veloce.

Nel contesto dei tensori, ciò significa aggiungere una dimensione extra all'inizio. Quindi, se i dati di un singolo elemento sono rappresentati da un tensore di forma (height, width), un batch di questi elementi avrà la forma (batch_size, height, width). In questo esempio, se la dimensione del batch è 32, la forma diventa (32, height, width).

Supponiamo di avere 2048 campioni di dati, ciascuno con una forma (base shape). Questo ci dà un tensore di (2048, base shape). Se suddividiamo questi dati in batch da 32 campioni, otterremo 64 batch, poiché 64 * 32 = 2048. La nuova forma sarà quindi (64, 32, base shape).

Durante la progettazione di una rete neurale o di un altro modello, è possibile utilizzare forme diverse per i compiti sopra menzionati. Tuttavia, queste tecniche di strutturazione sono standard in Tensorflow, in quanto organizzate sia logicamente che gerarchicamente per ottimizzare le prestazioni degli algoritmi di apprendimento.