Ở bài 4.2, ta chỉ mượn vector đặc trưng của một model có sẵn. Khi dữ liệu mới khác nhiều so với dữ liệu model từng học, vector ấy có thể chưa đủ tốt. Fine-tuning là học tiếp chính model pretrained trên dữ liệu mới, để nó tự chỉnh cho hợp.
Bài này đi hai bước: trước hết giữ nguyên thân model, chỉ học lớp cuối mới thêm vào; rồi mới mở thêm các lớp của thân với bước học nhỏ. Mỗi bước đều chọn bằng điểm validation, và luôn kiểm xem tham số nào thật sự đã đổi. Cuối bài là một tình huống rất hay gặp trong đề thi: thêm lớp mới mà không làm model quên lớp cũ.
Bài này dành cho tài khoản Pro
Mở khóa bằng tài khoản Pro