Chương 1·Bài 1.7Pro
Hyperparameter tuning
Chọn câu
Medium
Câu 1
Nhóm A thử 50 cấu hình, lần nào cũng xem điểm trên test, rồi báo cáo điểm cao nhất là 94,2%. Nhóm B chọn cấu hình bằng validation và chỉ đánh giá trên test một lần, được 91,8%. Con số nào đáng tin hơn?
Khi dùng test để chọn trong 50 lần thử, ta vô tình chọn cấu hình hợp với chính tập test đó. Điểm 94,2% vì thế đẹp hơn thực tế. Nhóm B giữ test sạch đến cuối, nên 91,8% mới gần với kết quả trên dữ liệu mới.
Ôn lạiBài 1.7Chốt phương án và mở test một lầnBài 1.1Ba phần dữ liệu, ba công việc
Câu 2
Mỗi lần huấn luyện mất đúng 1 giờ. Với mỗi bộ siêu tham số, ta chạy 4 lượt kiểm định, mỗi lượt huấn luyện một lần. Tổng thời gian là 100 giờ. Siêu tham số ω thử 8 giá trị. Siêu tham số γ thử được tối đa bao nhiêu giá trị?
Mỗi bộ (γ, ω) tốn 4 giờ, nên 100 giờ chạy được 25 bộ. Với 8 giá trị ω, γ chỉ có 25 / 8 ≈ 3,1, tức tối đa 3 giá trị. Con số 12 là quên rằng mỗi bộ phải chạy 4 lượt.
Câu 3
Có 2 siêu tham số nhưng chỉ một cái thật sự ảnh hưởng tới kết quả. Ngân sách là 9 lần huấn luyện. Vì sao tìm ngẫu nhiên thường tốt hơn lưới 3 × 3?
Lưới 3 × 3 chỉ có 3 giá trị riêng cho mỗi tham số, nên tham số quan trọng chỉ được thử 3 mức. Tìm ngẫu nhiên lấy 9 điểm khác nhau, mỗi điểm cho tham số quan trọng một giá trị mới, nên dò được kỹ hơn với cùng chi phí.
Còn 4 câu dành cho tài khoản Pro
Mở khóa bằng tài khoản Pro