"Cross-lingual transfer learning" (học chuyển giao đa ngôn ngữ) trong NLP có nghĩa là gì?

BERT chỉ có thể xử lý văn bản tiếng Anh, trong khi Word2Vec và GloVe có thể xử lý đa ngôn ngữ.

BERT tạo ra biểu diễn từ theo ngữ cảnh (contextualized word embeddings), trong khi Word2Vec và GloVe tạo ra biểu diễn từ tĩnh (static word embeddings).

BERT sử dụng mạng nơ-ron hồi quy (RNN), trong khi Word2Vec và GloVe sử dụng mạng nơ-ron tích chập (CNN).

BERT đòi hỏi ít dữ liệu huấn luyện hơn so với Word2Vec và GloVe.

Phân tích cảm xúc trong văn bản.

Lưu trữ và truy xuất thông tin, hỗ trợ trả lời câu hỏi và suy luận.

Tạo ra văn bản tự động.

Dịch văn bản giữa các ngôn ngữ.

Giảm kích thước dữ liệu huấn luyện để tăng tốc độ huấn luyện.

Loại bỏ dữ liệu nhiễu khỏi tập huấn luyện.

Tạo ra các biến thể của dữ liệu hiện có (ví dụ: thay thế từ đồng nghĩa, xáo trộn câu) để tăng tính đa dạng của tập huấn luyện.

Chia nhỏ dữ liệu huấn luyện thành các phần nhỏ hơn để huấn luyện song song.

Khả năng xử lý tốt hơn với các từ ngoài từ vựng (out-of-vocabulary words) và lỗi chính tả.

Tạo ra biểu diễn từ giàu ngữ nghĩa hơn.

Huấn luyện nhanh hơn và hiệu quả hơn.

Yêu cầu ít dữ liệu huấn luyện hơn.

Giảm chiều dữ liệu văn bản hiệu quả hơn.

Nắm bắt được mối quan hệ ngữ nghĩa giữa các từ.

Tăng tốc độ xử lý văn bản trong các mô hình NLP.

Đơn giản hóa quá trình tiền xử lý văn bản.

Tỷ lệ các trường hợp dự đoán là lớp tích cực và thực sự là lớp tích cực.

Tỷ lệ các trường hợp thực sự là lớp tích cực được dự đoán đúng là lớp tích cực.

Tổng số trường hợp dự đoán đúng trên tổng số trường hợp.

Mức độ mô hình khái quát hóa tốt trên dữ liệu mới.