Canali vs. Strati nelle reti neurali: una distinzione chiara
Sebbene entrambi contribuiscano alla profondità di una rete, canali e strati sono concetti ortogonali: uno rappresenta l'estrazione parallela di caratteristiche, l'altro la trasformazione sequenziale.
Canali (Mappe di caratteristiche)
- Dimensione: Il 3° asse di un tensore (Altezza × Larghezza × Canali).
- Ruolo: Ogni canale apprende una risposta di filtro distinta — bordi, texture, colori, parti di oggetti.
- All'interno di uno strato: Uno strato convoluzionale outputta molti canali; una convoluzione 1×1 mescola i canali.
- Pooling/stride: Tipicamente applicati spazialmente (H, W), non attraverso i canali (eccetto convoluzione 1×1 o meccanismi di attenzione dei canali).
Strati (Stadi di elaborazione)
- Sequenza: Impilati verticalmente — Input → Nascosto₁ → Nascosto₂ → … → Output.
- Funzione: Ogni strato trasforma il suo input (convoluzione, pooling, normalizzazione, attivazione, attenzione, ecc.).
- Profondità: Numero di strati = profondità della rete.
- Campo ricettivo: Cresce con la profondità degli strati.
Analogia intuitiva
Canali = canali di colore in un'immagine (R, G, B), ma con caratteristiche apprese invece di lunghezze d'onda fisse. Strati = filtri fotografici successivi applicati uno dopo l'altro.
Tabella di confronto
| Aspetto | Canali | Strati |
|---|---|---|
| Direzione | Parallela (larghezza) | Sequenziale (profondità) |
| Operazione | Estrazione di caratteristiche (filtri paralleli) | Trasformazione (serie di operazioni) |
| Dimensione tipica | 32–2048 per strato | 10–1000+ totali |
| Asse di pooling | Spaziale (H, W) | Spaziale (H, W); talvolta canale (global avg pool) |
Comprendere questa distinzione è cruciale per il design dell'architettura: allargare (più canali) aumenta la capacità rappresentativa per stadio; approfondire (più strati) aumenta la gerarchia di astrazione.