为什么在计算信息熵的时候要用log?

来源:学生作业帮助网 编辑:作业帮 时间:2024/05/07 18:36:29

为什么在计算信息熵的时候要用log?
为什么在计算信息熵的时候要用log?

为什么在计算信息熵的时候要用log?
熵在信息论中的定义如下:  如果有一个系统S内存在多个事件S = {E1,...,En},每个事件的机率分布 P = {p1,...,pn},则每个事件本身的讯息为   Ie = − log2pi   (对数以2为底,单位是位元(bit))   Ie = − lnpi   (对数以e为底,单位是纳特/nats)   如英语有26个字母,假如每个字母在文章中出现次数平均的话,每个字母的讯息量为   I_e = -\log_2 {1\over 26} = 4.7   ;而汉字常用的有2500个,假如每个汉字在文章中出现次数平均的话,每个汉字的信息量为   I_e = -\log_2 {1\over 2500} = 11.3   整个系统的平均消息量为   H_s = \sum_{i=1}^n p_i I_e = -\sum_{i=1}^n p_i \log_2 p_i   这个平均消息量就是消息熵.因为和热力学中描述热力学熵的玻耳兹曼公式形式一样,所以也称为“熵”.

为什么在计算信息熵的时候要用log? 请问为什么在计算信息熵的时候要取对数呢? 电脑信息熵计算,log以什么为底数 log平方的计算 cisco 2960 的LOG日志最多能保存多少条 为什么我只能看到今天的LOG信息,其它信息看不到 信息论基础...二元信源 信息熵 计算公式.不是联合熵。最好有图片形式的公式。写log时不必写底。 为什么我在用CASS计算两工期间土方量的时候,要形成两个断面线再添加断面线的时候 计算完基础垫层的工程量了,在计算砼搅拌的时候为什么要乘以系数1.01 log计算问题原始式子为(1+r)^t = FV/PV如何转换到 t*log(1+r) = log FV/PVt=log(FV/PV)/log(1+r)我是这样想的 (1+r)^t = log (1+r)(t)为什么t 提出来 FV/PV前面要加log吗?还有log6(2)为什么等于1log6(3)为什么等于1,怎么 在sniffer pro中设置网卡的时候有log off和log on的选项 打钩的 log off 和log 什么时候该设置log off和logon呢有没有更详细的使用方法呢~ 在计算积分的时候 如何计算2^log(2)*5^log(5)*2^log(5)*5^log(2) 的结果? 我选的是信息与计算科学,为什么要学高等数学? 我选的是信息与计算科学,为什么要学高等数学? maya 曲线映射为什么我用曲线映射工具的时候,映射下来的曲线没有历史信息 材差计算的时候是不是根据基期价格和当期信息价? 为什么篱笆网不能注册注册的时候要验证绑定手机,但是一直提示发送验证信息错误! 请计算log(15)5·log(15)45+[log(15)3]的平方.