Fine-tuning

Học chuyển giao (transfer learning) tận dụng những gì mạng đã học, như cạnh hay hình khối. Nhờ vậy bài toán mới cần ít dữ liệu và thời gian hơn.

Ôn lạiBài 5.3Transfer learning chuyển cái gì?Bài 4.3Chuyển kiến thức nào sang nhiệm vụ mới?

Tinh chỉnh cập nhật một phần hoặc toàn bộ trọng số trên dữ liệu mới. Người ta thường dùng tốc độ học nhỏ để không làm hỏng những gì mạng đã học.

Ôn lạiBài 4.3Chuyển kiến thức nào sang nhiệm vụ mới?

Phần bị đóng băng (freeze) vẫn chạy để tạo đặc trưng, nhưng trọng số của nó không được cập nhật. Chỉ phần phân loại mới học từ dữ liệu của ta.

Ôn lạiBài 4.3Freeze, eval và BatchNorm là ba chuyệnBài 4.3Bắt đầu bằng một head mới