Fine-tuning toàn bộ một model lớn cần nhiều bộ nhớ GPU: ngoài trọng số còn phải lưu gradient và trạng thái optimizer cho từng tham số. LoRA giữ nguyên trọng số gốc và chỉ học thêm hai ma trận nhỏ đặt cạnh mỗi lớp tuyến tính, nên số tham số cần học giảm đi rất nhiều. Bài này tự cài một lớp LoRA, đếm số tham số, kiểm gradient bằng NumPy, rồi gắn LoRA vào model văn bản DistilBERT.
Bài này dành cho tài khoản Pro
Mở khóa bằng tài khoản Pro