Gradient Descent: Wie verschwindet hier auf einmal die Summe?
Da steht doch vorm = das gleiche wie dahinter, nur ohne Summe. Oder überseh ich was?
Falls sich noch jemand mit dem Thema Gradient Descent generell auskennt, das hier ist laut Vorlesung dann die Update Regel für die Weights:
Dann könnte ich mir den ganzen Spaß ja sparen und gleich das Label verwenden? Da passt doch irgendwas nicht
1 Antwort
Zum ersten Teil:
Ja, die Summe fällt raus, weil alles außer dieser eine Term Null ist. Die einzelnen Terme der Summe haben (wenn man die Summe nach außen zieht) alle die Form
Für alle Fälle wo j nicht i ist, ist der obere Term in f(x_i) konstant, die Ableitung also null. Es bleiben nur die Terme mit dem Indey der Ableitung über.
