Chương 5·Bài 5.9Pro
Phân tích hành vi model
Chọn câu
Light
Câu 1
Mô hình phát hiện lửa hay báo nhầm khi gặp đèn đỏ và ánh hoàng hôn. Cách sửa hợp lý nhất là gì?
Mô hình đang dựa vào màu đỏ cam. Cho nó thấy những ảnh trông giống lửa mà không phải lửa thì nó phải học thêm hình dạng, khói và chuyển động.
Câu 2
Muốn biết mô hình nhìn vào vùng nào của ảnh khi đoán là “chó”, ta dùng gì?
Bản đồ nhiệt (như Grad-CAM) tô đậm những vùng góp phần lớn vào dự đoán. Nếu vùng đậm nằm ở nền thay vì con chó, mô hình đang học sai thứ.
Câu 3
Thêm một lớp nhiễu rất nhỏ, mắt người không thấy, làm mô hình đoán con gấu trúc thành con vượn. Ảnh như vậy gọi là gì?
Ảnh đối kháng được tạo có chủ đích để lừa mô hình. Nó cho thấy mô hình nhìn ảnh rất khác con người, và là một rủi ro bảo mật cần kiểm tra.
Còn 4 câu dành cho tài khoản Pro
Mở khóa bằng tài khoản Pro