Đạo hàm và gradient

Một model đoán điểm bằng $\hat{y} = wx$ với một trọng số $w$. Đặt $w = 0$ thì đoán sai nhiều, loss lớn. Nên tăng hay giảm $w$, và đổi bao nhiêu? Với một trọng số thì có thể thử từng giá trị, nhưng mạng neural có hàng triệu trọng số. Đạo hàm cho biết đổi $w$ một chút thì loss đổi bao nhiêu và theo hướng nào. Bài này đi từ đạo hàm tới gradient và gradient descent, thuật toán dùng để huấn luyện gần như mọi model trong khóa học.