Ich habe versucht, Hyperparameter (wie Regularisierung zum Beispiel) zu wählen, indem ich Kreuzvalidierung verwende, oder mehrere Initialisierungen von Modellen trainieren und dann das Modell mit der höchsten Genauigkeit der Kreuzvalidierung auswählen. Das Implementieren von k-falten oder CV ist einfach, aber langwierig / nervig (besonders wenn ich versuche, verschiedene Modelle in verschiedenen CPUs, GPUs oder sogar verschiedenen Computern usw. zu trainieren). Ich würde erwarten, dass eine Bibliothek wie TensorFlow so etwas für den Benutzer implementiert, so dass wir nicht 100 Mal dasselbe programmieren müssen. Also, hat TensorFlow eine Bibliothek oder etwas, das mir helfen kann, Cross Validation zu machen?
Als Update könnte man scikit lernen oder etwas anderes dazu verwenden. Wenn dies der Fall ist, dann, wenn jemand ein einfaches Beispiel für NN-Training und Kreuzvalidierung mit scikit lernen kann, wäre es großartig! Nicht sicher, ob dies zu mehreren CPUs, Gpus, Clustern usw. tendiert.
Wenn der Datensatz größer wird, wird die Kreuzvalidierung teurer. Im tiefen Lernen verwenden wir normalerweise große Datensätze. Sie sollten mit einfachem Training gut zurechtkommen. Tensorflow hat keinen eingebauten Mechanismus für cv, da er normalerweise nicht in neuralen Netzwerken verwendet wird. In neuronalen Netzwerken hängt die Effizienz des Netzwerks hauptsächlich von der Datenmenge, der Anzahl der Epochen und der Lernrate ab.
Ich habe cv in sklearn benutzt Sie können den Link überprüfen: Ссылка
Gehen Sie dazu in "poi_id.py" in "Betrug von Enron-Daten erkennen" (im Ordner "Projekt")
Wie bereits erwähnt, bietet Tensorflow keinen eigenen Weg, um das Modell zu validieren. Die empfohlene Methode ist die Verwendung von KFold . Es ist ein bisschen langweilig, aber machbar. Hier ist ein vollständiges Beispiel für die Validierung des MNIST-Modells mit tensorflow und KFold :
Tags und Links python tensorflow machine-learning scikit-learn cross-validation