Batch-Normalisierung ist eine Technik, um das Lernen in neuronalen Netzen zu verbessern, indem die Verteilung jedes Eingabe-Features in jeder Schicht über jeden Minibatch auf N (0, 1) normiert wird.
Ich verstehe, dass die Stapel-Normalisierung zu einem schnelleren Training beiträgt, indem man die Aktivierung in Richtung der Gauß-Verteilung der Einheit umwandelt und so dem Problem der verschwindenden Gradienten begegnet. Batch-Norm-Acts werd...
02.08.2017, 14:34
Ich würde gerne die Möglichkeiten kennen lernen, Batch-Normalisierungsebenen mit Batchstatistiken zu synchronisieren, wenn Sie mit Multi-GPU trainieren.
Caffe Vielleicht gibt es einige Varianten von caffe, die das tun könnten, wie link . A...
27.03.2017, 21:42