gradient-descent

Gradient Descent ist ein Algorithmus zum Auffinden des Minimums einer Funktion. Es berechnet iterativ partielle Ableitungen (Gradienten) der Funktion und steigt in Schritten proportional zu diesen partiellen Ableitungen ab. Eine Hauptanwendung von Gradient Descent ist das Anpassen eines parametrisierten Modells an eine Menge von Daten: Die zu minimierende Funktion ist eine Fehlerfunktion für das Modell.
4
Antworten

Schnelle Gradientenabstieg-Implementierung in einer C ++ - Bibliothek?

Ich möchte eine Gradienten-Abstiegsoptimierung durchführen, um die Kosten für eine Instanziierung von Variablen zu minimieren. Mein Programm ist sehr rechenintensiv, deshalb suche ich nach einer beliebten Bibliothek mit einer schnellen Implement...
16.07.2012, 23:12
1
Antwort

Was ist die Tripelverlust-Rückpropagationsgradientenformel?

Ich versuche Caffe zu verwenden, um den Triplett-Verlust zu implementieren, der in Schroff, Kalenichenko und Philbin "FaceNet: Eine einheitliche Einbettung für Gesichtserkennung und Clustering" beschrieben wird. , 2015 . Ich bin neu dazu, wi...
25.10.2015, 14:25
2
Antworten

Wie lässt sich die Lernrate und die Varianz eines Gradienten-Algorithmus bestimmen?

Ich habe letzte Woche angefangen, das maschinelle Lernen zu lernen. Wenn ich ein Gradientenskript erstellen möchte, um die Modellparameter zu schätzen, stieß ich auf ein Problem: Wie man eine angemessene Lernrate und Varianz auswählt. Ich fand,...
19.05.2013, 23:13
1
Antwort

Verlauf einer Verlustfunktion für eine SVM

Ich arbeite an dieser Klasse für konvolutionelle neuronale Netze. Ich habe versucht, den Gradienten einer Verlustfunktion für ein SVM zu implementieren und (ich habe eine Kopie der Lösung) Ich habe Probleme zu verstehen, warum die Lösung korre...
26.07.2016, 04:52
3
Antworten

Gradientenabstieg in Java

Ich habe die AI-Klasse bei Coursera und ich habe eine Frage im Zusammenhang mit meiner Umsetzung des Gradientenabstiegsalgorithmus. vor kurzem begonnen Hier ist meine aktuelle Implementierung (ich habe die mathematischen Ausdrücke einfach in...
23.08.2015, 18:27
1
Antwort

scipy.optimize.fmin_l_bfgs_b gibt 'ABNORMAL_TERMINATION_IN_LNSRCH' zurück

Ich benutze scipy.optimize.fmin_l_bfgs_b, um ein Gaußsches Mischungsproblem zu lösen. Die Mittel der Gemischverteilungen werden durch Regressionen modelliert, deren Gewichte mit Hilfe des EM-Algorithmus optimiert werden müssen. %Vor% Aber ma...
07.01.2016, 19:27
1
Antwort

Machine Learning - Lineare Regression mit Batch-Gradienten-Abstieg

Ich versuche, Batch-Gradienten-Abstieg auf einem Datensatz mit einer einzigen Funktion und mehreren Trainingsbeispielen ( m ) zu implementieren. Wenn ich versuche, die normale Gleichung zu verwenden, bekomme ich die richtige Antwort, aber d...
28.08.2015, 15:20