1000+ câu Trắc nghiệm Nhập môn xử lý ngôn ngữ tự nhiên có đáp án - Phần 20

Tách từ (Tokenization)

Loại bỏ từ dừng (Stop word removal)

Nguyên thể hóa (Lemmatization)

Chuẩn hóa văn bản (Text normalization)

Word2Vec

Bag-of-Words

TF-IDF

One-hot encoding

Đếm tần suất từ (Term Frequency - TF)

TF-IDF (Term Frequency-Inverse Document Frequency)

Bag-of-Words

N-gram

Độ chính xác (Accuracy)

ĐộRecall (Recall)

Điểm F1 (F1-score)

Lỗi dương tính giả (False Positive)

Tăng tốc độ tính toán song song

Cho phép mô hình học được mối quan hệ giữa các từ trong cùng một câu

Giảm thiểu hiện tượng biến mất gradient

Thay thế hoàn toàn mạng nơ-ron tích chập (CNN)

Mạng nơ-ron truyền thẳng (Feedforward Neural Network)

Mạng nơ-ron tích chập (Convolutional Neural Network - CNN)

Mạng nơ-ron hồi quy dài-ngắn hạn (Long Short-Term Memory - LSTM)

Mạng tự mã hóa (Autoencoder)

Phân tích cấu trúc cú pháp của câu nguồn

Đảm bảo tính trôi chảy và ngữ pháp của câu dịch ở ngôn ngữ đích

Đối chiếu từ vựng giữa ngôn ngữ nguồn và ngôn ngữ đích

Xử lý các từ không có trong từ điển

Độ chính xác (Precision)

Độ đo F1 (F1-score)

ĐộRecall (Recall)

Độ đo AUC (AUC-score)

Đánh giá chất lượng bản dịch máy

Cải thiện tốc độ dịch máy

Giảm kích thước mô hình dịch máy

Tăng cường dữ liệu huấn luyện cho mô hình dịch máy

Phân tích cấu trúc ngữ pháp của một câu để xác định mối quan hệ giữa các từ

Chuyển đổi văn bản thành giọng nói

Phân loại văn bản theo chủ đề

Loại bỏ các từ không quan trọng trong văn bản

Thay thế từ OOV bằng từ đồng nghĩa

Sử dụng mã hóa theo cặp byte (Byte Pair Encoding - BPE) hoặc các phương pháp phân tách từ con

Bỏ qua hoàn toàn các từ OOV trong quá trình xử lý

Gán ngẫu nhiên vectơ cho các từ OOV

Các mệnh đề độc lập và phụ thuộc

Các từ khóa quan trọng nhất trong câu

Các cụm từ có nghĩa (ví dụ: cụm danh từ, cụm động từ)

Các thực thể có tên (Named Entities)

BERT chỉ xử lý văn bản từ trái sang phải, giống như các mô hình RNN truyền thống.

BERT xem xét cả ngữ cảnh bên trái và bên phải của một từ khi tạo biểu diễn vectơ từ đó.

BERT chỉ phù hợp cho các bài toán phân loại văn bản, không dùng được cho nhận dạng thực thể.

BERT là một mô hình ngôn ngữ dựa trên CNN, không phải Transformer.

Chọn lọc và kết hợp các câu quan trọng nhất từ văn bản gốc để tạo bản tóm tắt

Diễn giải lại nội dung của văn bản gốc bằng ngôn ngữ khác

Sử dụng mô hình sinh văn bản để tạo ra bản tóm tắt mới hoàn toàn

Loại bỏ các thông tin không quan trọng và giữ lại các từ khóa chính

So sánh số lượng từ chung giữa hai câu

Kiểm tra xem hai câu có cùng chủ đề hay không

Đếm số lượng thực thể có tên giống nhau

Sử dụng biểu diễn vectơ câu (sentence embeddings) và tính độ tương đồng cosine giữa chúng

NLTK (Natural Language Toolkit)

SpaCy

underthesea

Stanford CoreNLP

Nhận dạng giọng nói (Speech Recognition)

Tổng hợp tiếng nói (Text-to-Speech - TTS)

Dịch máy (Machine Translation)

Phân tích văn bản (Text Analytics)

Nhận dạng thực thể có tên (Named Entity Recognition)

Tóm tắt văn bản (Text Summarization)

Phân tích cú pháp (Syntactic Parsing)

Phân tích cảm xúc (Sentiment Analysis)

Sinh văn bản (Text Generation)

Dịch máy (Machine Translation)

Trích xuất thông tin (Information Extraction)

Phân loại văn bản (Text Classification)

Khả năng dự đoán chuỗi từ tiếp theo của mô hình ngôn ngữ

Tốc độ huấn luyện của mô hình ngôn ngữ

Kích thước bộ nhớ cần thiết để lưu trữ mô hình ngôn ngữ

Độ phức tạp của kiến trúc mô hình ngôn ngữ