Để xây dựng một hệ thống chatbot có khả năng duy trì ngữ cảnh hội thoại, loại mô hình mạng nơ-ron hồi quy (RNN) nào sau đây thường được sử dụng vì khả năng ghi nhớ thông tin từ các bước thời gian trước đó?

Các mệnh đề độc lập và phụ thuộc

Các từ khóa quan trọng nhất trong câu

Các cụm từ có nghĩa (ví dụ: cụm danh từ, cụm động từ)

Các thực thể có tên (Named Entities)

BERT chỉ xử lý văn bản từ trái sang phải, giống như các mô hình RNN truyền thống.

BERT xem xét cả ngữ cảnh bên trái và bên phải của một từ khi tạo biểu diễn vectơ từ đó.

BERT chỉ phù hợp cho các bài toán phân loại văn bản, không dùng được cho nhận dạng thực thể.

BERT là một mô hình ngôn ngữ dựa trên CNN, không phải Transformer.

Chọn lọc và kết hợp các câu quan trọng nhất từ văn bản gốc để tạo bản tóm tắt

Diễn giải lại nội dung của văn bản gốc bằng ngôn ngữ khác

Sử dụng mô hình sinh văn bản để tạo ra bản tóm tắt mới hoàn toàn

Loại bỏ các thông tin không quan trọng và giữ lại các từ khóa chính

Nhận dạng thực thể có tên (Named Entity Recognition)

Tóm tắt văn bản (Text Summarization)

Phân tích cú pháp (Syntactic Parsing)

Phân tích cảm xúc (Sentiment Analysis)

Sinh văn bản (Text Generation)

Dịch máy (Machine Translation)

Trích xuất thông tin (Information Extraction)

Phân loại văn bản (Text Classification)

Tăng tốc độ tính toán song song

Cho phép mô hình học được mối quan hệ giữa các từ trong cùng một câu

Giảm thiểu hiện tượng biến mất gradient

Thay thế hoàn toàn mạng nơ-ron tích chập (CNN)

Phân tích cấu trúc cú pháp của câu nguồn

Đảm bảo tính trôi chảy và ngữ pháp của câu dịch ở ngôn ngữ đích

Đối chiếu từ vựng giữa ngôn ngữ nguồn và ngôn ngữ đích

Xử lý các từ không có trong từ điển