Yêu cầu của phép mã hóa: những từ mã có độ dài nhỏ hơn không trùng với phần đầu của từ mã có độ dài lớn hơn Các tin có xác suất xuất hiện lớn hơn được mã hóa bằng các từ mã có độ dài nhỏ và ngược lại. Cho nguồn tin X = {x1,x2,x3,x4,x5} với các xác suất lần lượt là {1/2, 1/4, 1/8, 1/16, 1/16}. Biết x1 được mã hóa thành 0; x2 được mã hóa thành 10. Chọn câu đúng dưới đây để mã hóa cho x3:

Số từ mã nhỏ nhất

Số từ mã không đổi

Chiều dài trung bình của các từ mã nhỏ hơn hoặc bằng entropy của nguồn

Chiều dài trung bình các từ mã nhỏ nhất trong tất cả các cách mã hóa

H(A) + H(A/B)

H(A) + H(B)

H(A) + H(B) – H(A/B) – H(B/A)

H(B) + H(A/B)

0101110;

0110100;

1110110;

0010111;

I(A,B) = -H(A) khi kênh có nhiễu

0 <= I(A,B) <= H(A)

I(A,B) = H(B) khi kênh có nhiễu

I(A,B) = H(A) khi kênh có nhiễu

1

2

5

4

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của k-1 dấu thông tin trong từ mã

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của k dấu thông tin trong từ mã

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của n-k dấu thông tin trong từ mã

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của r = n - k dấu thông tin trong từ mã

Nếu m = 2 thì bộ mã tương ứng được gọi là mã nhị phân

Nếu m = 3 thì bộ mã tương ứng được gọi là mã tam phân

Nếu m = 0 thì bộ mã tương ứng được gọi là mã đều

Nếu m = p thì bộ mã tương ứng được gọi là mã p phân