Trong ngữ cảnh NLP, "zero-shot learning" (học không cú nhảy) có nghĩa là gì?

Lemmatization

Tokenization

Stemming

Parsing

Phân tích cấu trúc cú pháp của câu

Xác định các thực thể có tên trong văn bản

Dự đoán xác suất xuất hiện của một từ hoặc một chuỗi từ trong một ngữ cảnh nhất định

Phân loại văn bản theo chủ đề

Thay đổi tốc độ sinh văn bản

Điều chỉnh độ dài của văn bản được sinh ra

Kiểm soát tính ngẫu nhiên và đa dạng của văn bản được sinh ra; nhiệt độ cao hơn tạo ra văn bản ngẫu nhiên và sáng tạo hơn

Cải thiện tính nhất quán ngữ pháp của văn bản

Stemming

Lemmatization

Sử dụng Byte-Pair Encoding (BPE) hoặc WordPiece

Loại bỏ các từ hiếm gặp khỏi văn bản

Word2Vec sử dụng ma trận đồng xuất hiện toàn cục, trong khi GloVe sử dụng cửa sổ trượt

GloVe dựa trên mạng nơ-ron, còn Word2Vec dựa trên phân tích ma trận

Word2Vec chỉ học được ngữ nghĩa, còn GloVe học được cả ngữ nghĩa và cú pháp

Word2Vec dự đoán ngữ cảnh từ từ trung tâm hoặc ngược lại, trong khi GloVe trực tiếp học các vectơ từ dựa trên ma trận đồng xuất hiện toàn cục

Cả hai đều chuyển đổi văn bản thành dạng số

Cả hai đều xác định cấu trúc ngữ pháp của câu

Cả hai đều loại bỏ các từ dừng (stop words) khỏi văn bản

Cả hai đều cố gắng đưa các từ về dạng gốc hoặc dạng cơ bản của chúng

Một phương pháp huấn luyện mà trong đó mô hình được yêu cầu dự đoán các từ bị che ngẫu nhiên trong câu; được sử dụng trong BERT

Một phương pháp để tăng cường dữ liệu huấn luyện bằng cách tạo ra các biến thể của câu gốc

Một kỹ thuật để giảm thiểu overfitting bằng cách che giấu một số kết nối nơ-ron

Một phương pháp để đánh giá hiệu suất của mô hình ngôn ngữ bằng cách che giấu một phần văn bản và xem mô hình có thể khôi phục nó tốt đến đâu