SVM

SVM (support vector machine) chọn ranh giới có lề rộng nhất giữa hai lớp. Lề rộng thường giúp phân loại ví dụ mới vững hơn.

Ôn lạiBài 2.8Lề lớn nhất

γ lớn làm kernel rất hẹp: mỗi điểm chỉ ảnh hưởng vùng sát nó, nên ranh giới thành các đảo nhỏ và mô hình học thuộc train. Giảm γ, hoặc giảm C, cho ranh giới mượt hơn.

Ôn lạiBài 2.8Hai tham số C và γ

SVM chỉ phụ thuộc các vector hỗ trợ, mà điểm này không phải vector hỗ trợ. 1-NN quyết định theo điểm gần nhất, mà điểm này ở rất xa vùng test. Loss của hồi quy logistic cộng trên mọi điểm, nên bỏ một điểm là ranh giới nhích đi một chút.

Ôn lạiBài 2.8Lề lớn nhấtBài 2.3Hàm mất mát: cross-entropy