Để xử lý ngôn ngữ có cấu trúc phức tạp và mối quan hệ phụ thuộc xa, kiến trúc mạng nơ-ron nào thường được ưu tiên hơn so với mạng nơ-ron truyền thẳng (Feedforward Neural Networks) thông thường?

Phân tích cảm xúc và thái độ trong văn bản

Dịch văn bản từ ngôn ngữ này sang ngôn ngữ khác

Tóm tắt nội dung chính của văn bản

Xác định và phân loại các thực thể có tên trong văn bản, như tên người, tổ chức, địa điểm, thời gian, v.v.

Xác định chủ đề chính của văn bản

Phân loại văn bản dựa trên tình cảm

Xác định cấu trúc ngữ pháp và mối quan hệ phụ thuộc giữa các từ trong câu

Chuyển đổi văn bản thành dạng số để xử lý bằng máy

Phân tích cấu trúc cú pháp của câu

Xác định các thực thể có tên trong văn bản

Dự đoán xác suất xuất hiện của một từ hoặc một chuỗi từ trong một ngữ cảnh nhất định

Phân loại văn bản theo chủ đề

Xác định cảm xúc, thái độ hoặc quan điểm được thể hiện trong văn bản

Dịch văn bản sang ngôn ngữ khác

Tóm tắt văn bản thành các ý chính

Sửa lỗi chính tả và ngữ pháp trong văn bản

Phân tích tình cảm

Trích xuất thông tin (Information Extraction)

Sinh văn bản

Dịch máy

Word2Vec sử dụng ma trận đồng xuất hiện toàn cục, trong khi GloVe sử dụng cửa sổ trượt

GloVe dựa trên mạng nơ-ron, còn Word2Vec dựa trên phân tích ma trận

Word2Vec chỉ học được ngữ nghĩa, còn GloVe học được cả ngữ nghĩa và cú pháp

Word2Vec dự đoán ngữ cảnh từ từ trung tâm hoặc ngược lại, trong khi GloVe trực tiếp học các vectơ từ dựa trên ma trận đồng xuất hiện toàn cục

Mô hình được huấn luyện trên dữ liệu tổng hợp

Mô hình có thể học từ rất ít dữ liệu huấn luyện

Mô hình có khả năng thực hiện nhiệm vụ hoặc phân loại các lớp mà nó chưa từng được thấy trong quá trình huấn luyện

Mô hình có thể học mà không cần bất kỳ dữ liệu huấn luyện nào