Nội dung của định lý mã hoá thứ nhất của Shannon (đối với mã nhị phân) được phát biểu như sau: "Luôn luôn có thể xây dựng được một phép mã hoá các tin rời rạc có hiệu quả mà độ dài trung bình của từ mã có thể nhỏ tuỳ ý, nhưng không nhỏ hơn entropie xác định bởi các đặc tính thống kê của nguồn" . Chọn câu đúng về độ dài từ mã:

H(A) + H(A/B)

H(A) + H(B)

H(A) + H(B) – H(A/B) – H(B/A)

H(B) + H(A/B)

0101110;

0110100;

1110110;

0010111;

I(A,B) = -H(A) khi kênh có nhiễu

0 <= I(A,B) <= H(A)

I(A,B) = H(B) khi kênh có nhiễu

I(A,B) = H(A) khi kênh có nhiễu

k.n

n

n.2k

n+k

1

2

5

4

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của k-1 dấu thông tin trong từ mã

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của k dấu thông tin trong từ mã

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của n-k dấu thông tin trong từ mã

Mã hệ thống tuyến tính (n,k) là mã tuyến tính độ dài n trong đó ta có thể chỉ ra được vị trí của r = n - k dấu thông tin trong từ mã