Khái niệm lượng thông tin được định nghĩa dựa trên?

Cho mã Cyclic C(7,4) có đa thức sinh là g(x)=1 + x + x3 tương ứng đa thức thông tin a(x) = 1 + x . Sử dụng thuật toán 4 bước để thiết lập từ mã hệ thống, sẽ được kết quả nào dưới đây:

Entropy có điều kiện về một trường tin A khi đã rõ trường tin B là H(A/B). Trong các tính chất của H(A/B) dưới đây, tính chất nào sai:

Thông lượng của một kênh truyền được hiểu là?

Nội dung của định lý mã hoá thứ nhất của Shannon (đối với mã nhị phân) được phát biểu như sau: "Luôn luôn có thể xây dựng được một phép mã hoá các tin rời rạc có hiệu quả mà độ dài trung bình của từ mã có thể nhỏ tuỳ ý, nhưng không nhỏ hơn entropie xác định bởi các đặc tính thống kê của nguồn" . Chọn câu đúng về độ dài từ mã:

Cho bảng mã W = {01,00,0010,0111,0110}

Cho nguồn tin X = {x1, x2, x3} với các xác suất lần lượt là {1/2, 1/4, 1/4}. Entropy của nguồn tin H(X) được tính là: