Max

Đoạn code gradient boosting sau đúng với loss bình phương. Đổi sang loss tuyệt đối (L1) thì phải sửa dòng nào?

F = np.zeros(len(y))
for i in range(n_estimators):
    residuals = y - F                       # dòng A
    tree = DecisionTreeRegressor(max_depth=3)
    tree.fit(X, residuals)                  # dòng B
    F += learning_rate * tree.predict(X)    # dòng C

LogisticRegression của scikit-learn tối thiểu ½‖w‖² + C·Σᵢ log-loss(xᵢ). Lặp mỗi mẫu huấn luyện thêm một lần (dữ liệu gấp đôi), giữ nguyên C. Mức regularization hiệu dụng thay đổi thế nào?

Lấy mẫu bootstrap n lần có hoàn lại từ n mẫu, với n lớn. Tỉ lệ mẫu không được chọn lần nào (mẫu ngoài túi) xấp xỉ bao nhiêu?