Chương 6·Bài 6.3Pro
BERT
Chọn câu
Light
Câu 1
Tin nhắn gửi đến tổng đài được xếp vào “khẩn cấp”, “hỏi đáp” hoặc “khác”. Mô hình cho ra gì với mỗi tin nhắn?
Phân loại văn bản chọn một nhãn cho cả đoạn văn bản. Nếu cần gán nhãn cho từng từ thì đó là một bài toán khác.
Câu 2
Câu “Mai mình đi meeting nhé” trộn tiếng Việt với tiếng Anh. Loại mô hình nào phù hợp hơn?
Mô hình đa ngôn ngữ có tokenizer và dữ liệu cho nhiều thứ tiếng. Dù vậy nó không chắc tốt đều ở mọi ngôn ngữ. Ngôn ngữ ít dữ liệu thường kém hơn.
Ôn lạiBài 6.3Từ encoder nhỏ sang checkpoint pretrainedBài 4.5Tên lớp, prompt và tập ứng viên có ảnh hưởng
Câu 3
Chữ “đường” trong “con đường” và trong “cốc nước đường” có nghĩa khác nhau. Vì sao mô hình hiện đại phân biệt được?
Mô hình theo ngữ cảnh, như Transformer, tạo biểu diễn cho “đường” dựa trên cả câu. Nhờ vậy cùng một từ có thể có biểu diễn khác nhau ở hai câu.
Ôn lạiBài 6.3Token có ngữ cảnh, không chỉ một hàng trong bảng
Còn 27 câu dành cho tài khoản Pro
Mở khóa bằng tài khoản Pro