Transfer learning và fine-tuning
Transfer learning tận dụng một mô hình đã học ở tác vụ khác. Fine-tuning là tiếp tục cập nhật một phần hoặc toàn bộ tham số của mô hình đó trên dữ liệu mới.
Điểm chính
Một cách khác là đóng băng phần trích đặc trưng rồi chỉ học đầu dự đoán. Cách này ít tham số cần cập nhật; fine-tuning có thêm khả năng thích nghi khi tác vụ mới khác tác vụ cũ.
Chỗ dễ nhầm
Với ít dữ liệu, mở tất cả tầng ngay có thể làm overfit. So với mốc đóng băng mô hình và kiểm tra trên dữ liệu tách đúng trước khi chọn.