Mô hình không gian vectơ từ (Word embedding) nào sau đây thể hiện mối quan hệ ngữ nghĩa giữa các từ bằng cách chiếu chúng vào một không gian vectơ đa chiều, nơi các từ có nghĩa tương tự nằm gần nhau hơn?

Các mệnh đề độc lập và phụ thuộc

Các từ khóa quan trọng nhất trong câu

Các cụm từ có nghĩa (ví dụ: cụm danh từ, cụm động từ)

Các thực thể có tên (Named Entities)

BERT chỉ xử lý văn bản từ trái sang phải, giống như các mô hình RNN truyền thống.

BERT xem xét cả ngữ cảnh bên trái và bên phải của một từ khi tạo biểu diễn vectơ từ đó.

BERT chỉ phù hợp cho các bài toán phân loại văn bản, không dùng được cho nhận dạng thực thể.

BERT là một mô hình ngôn ngữ dựa trên CNN, không phải Transformer.

Chọn lọc và kết hợp các câu quan trọng nhất từ văn bản gốc để tạo bản tóm tắt

Diễn giải lại nội dung của văn bản gốc bằng ngôn ngữ khác

Sử dụng mô hình sinh văn bản để tạo ra bản tóm tắt mới hoàn toàn

Loại bỏ các thông tin không quan trọng và giữ lại các từ khóa chính

Nhận dạng thực thể có tên (Named Entity Recognition)

Tóm tắt văn bản (Text Summarization)

Phân tích cú pháp (Syntactic Parsing)

Phân tích cảm xúc (Sentiment Analysis)

Sinh văn bản (Text Generation)

Dịch máy (Machine Translation)

Trích xuất thông tin (Information Extraction)

Phân loại văn bản (Text Classification)

Đếm tần suất từ (Term Frequency - TF)

TF-IDF (Term Frequency-Inverse Document Frequency)

Bag-of-Words

N-gram

Tăng tốc độ tính toán song song

Cho phép mô hình học được mối quan hệ giữa các từ trong cùng một câu

Giảm thiểu hiện tượng biến mất gradient

Thay thế hoàn toàn mạng nơ-ron tích chập (CNN)