Để xử lý hiệu quả các từ "out-of-vocabulary" (OOV - từ ngoại từ điển) mà mô hình chưa từng gặp trong quá trình huấn luyện, kỹ thuật nào thường được sử dụng trong các mô hình ngôn ngữ hiện đại, ví dụ như mô hình dựa trên Transformer?

Các mệnh đề độc lập và phụ thuộc

Các từ khóa quan trọng nhất trong câu

Các cụm từ có nghĩa (ví dụ: cụm danh từ, cụm động từ)

Các thực thể có tên (Named Entities)

BERT chỉ xử lý văn bản từ trái sang phải, giống như các mô hình RNN truyền thống.

BERT xem xét cả ngữ cảnh bên trái và bên phải của một từ khi tạo biểu diễn vectơ từ đó.

BERT chỉ phù hợp cho các bài toán phân loại văn bản, không dùng được cho nhận dạng thực thể.

BERT là một mô hình ngôn ngữ dựa trên CNN, không phải Transformer.

Nhận dạng thực thể có tên (Named Entity Recognition)

Tóm tắt văn bản (Text Summarization)

Phân tích cú pháp (Syntactic Parsing)

Phân tích cảm xúc (Sentiment Analysis)

Độ chính xác (Precision)

Độ đo F1 (F1-score)

ĐộRecall (Recall)

Độ đo AUC (AUC-score)

Chọn lọc và kết hợp các câu quan trọng nhất từ văn bản gốc để tạo bản tóm tắt

Diễn giải lại nội dung của văn bản gốc bằng ngôn ngữ khác

Sử dụng mô hình sinh văn bản để tạo ra bản tóm tắt mới hoàn toàn

Loại bỏ các thông tin không quan trọng và giữ lại các từ khóa chính

Sinh văn bản (Text Generation)

Dịch máy (Machine Translation)

Trích xuất thông tin (Information Extraction)

Phân loại văn bản (Text Classification)

Đếm tần suất từ (Term Frequency - TF)

TF-IDF (Term Frequency-Inverse Document Frequency)

Bag-of-Words

N-gram