Gradient Descent einfach erklärt: Das Gradientenabstiegsverfahren im Machine Learning

Gradient Descent ist zweifelsohne einer der wichtigsten Algorithmen im Machine Learning. Dank ihm kann ein Modell lernen.
Stellt euch folgendes Szenario vor: Ich setze euch mit verbundenen Augen irgendwo auf einem Berg ab und sage: Findet zurück zum Auto, das im Tal steht. Genau das macht ein Machine-Learning-Modell beim Training.

In dieser Folge erkläre ich ohne Formeln, wie Modelle ihre Parameter tatsächlich anpassen, was ein Gradient ist und wie der Algorithmus funktioniert.
Wir schauen uns auch die Schwächen des Verfahrens an: lokale Minima, die Lernrate als sog. Hyperparameter und dass Gradient Descent theoretisch jedes Mal den gesamten Datensatz zur Berechnung braucht.
Für alle drei Probleme gibt es in der Praxis Lösungen. Die schauen wir uns in der nächsten Folge an.

Themen dieser Folge:
• Was ein Gradient ist
• Wie Gradient Descent als Algorithmus funktioniert mit einer einfachen Analogie
• die Kostenfunktion als 3D-Landschaft
• Probleme beim Gradient Descent

🎧 Voraussetzung für diese Folge: Kostenfunktion und mathematische Optimierung (open.spotify.com/episode/3n5nxWR2jN6aq83u9I3Lr…)

Schaut gerne auch auf der neuen Website zum Podcast vorbei:
⁠⁠⁠⁠podcast.pyucation.de⁠⁠⁠ (podcast.pyucation.de)
Dort findet ihr eine Übersicht über alle Folgen sowie die meist gestellten Fragen schnell beantwortet.