Học sinh A có thành tích 12 năm liền đạt danh hiệu học sinh Giỏi, học sinh B học lực kém. Thi tốt nghiệp phổ thông trung học, học sinh A trượt, học sinh B đỗ thủ khoa. Thông tin về học sinh B đỗ thủ khoa, học sinh A trượt có độ bất định là:

Cho mã Cyclic C(7,4) có đa thức sinh là g(x)=1 + x + x3 tương ứng đa thức thông tin a(x) = 1 + x . Sử dụng thuật toán 4 bước để thiết lập từ mã hệ thống, sẽ được kết quả nào dưới đây:

Entropy có điều kiện về một trường tin A khi đã rõ trường tin B là H(A/B). Trong các tính chất của H(A/B) dưới đây, tính chất nào sai:

Thông lượng của một kênh truyền được hiểu là?

Nội dung của định lý mã hoá thứ nhất của Shannon (đối với mã nhị phân) được phát biểu như sau: "Luôn luôn có thể xây dựng được một phép mã hoá các tin rời rạc có hiệu quả mà độ dài trung bình của từ mã có thể nhỏ tuỳ ý, nhưng không nhỏ hơn entropie xác định bởi các đặc tính thống kê của nguồn" . Chọn câu đúng về độ dài từ mã:

Cho bảng mã W = {01,00,0010,0111,0110}

Khái niệm lượng thông tin được định nghĩa dựa trên?

Cho nguồn tin X = {x1, x2, x3} với các xác suất lần lượt là {1/2, 1/4, 1/4}. Entropy của nguồn tin H(X) được tính là: