早教吧 育儿知识 作业答案 考试题库 百科 知识分享

6700汉字信息熵H=-p1*logp1-p2*logp2.-p6700*logp6700,怎么会是10bit以内呢?

题目详情
6700汉字信息熵H=-p1*logp1-p2*logp2.-p6700*logp6700,怎么会是10bit以内呢?
▼优质解答
答案和解析
假设,最混乱情况(也就是每个都不一样),总的信息熵是-log2(1/6700),为方便计算假设为-log2(1/6400) 月80bit
假设最好的情况,所有元素都一样log1=0,也就是这些汉子从熵的角度上信息量为0,
所以实际情况应该是介于两者之间才对,10bit以内也是可能的了