信息=负熵
信息=负熵
这是从陈卫星的Ideas of communication里读到的概念。
熵本来是物理学范畴的概念,要解释这个等式,必须要恶补下物理学常识,这也是我最恶心的部分。
万幸的是高中物理的不堪回首还隐隐残留在备受折磨的记忆里,所以当提到熵需要热力学第二定律来解释说明时,暗暗松了口气。
一百多年前德国佬克劳修斯提出“热量总是从高温向低温处散发”和“热转化为功时总有一部分白白损耗,而且这种损耗是不可逆的”这么个简洁易懂童叟无欺的现象,进而证明宇宙处于不断的热耗散,所以它的无序程度总是不断地无情地趋向极大值。
用人话来说,就是世间万物都在做功,但不一定全是有用功,一部分总要损耗掉,无限做功的结果是,都变成热。那时候也就是全人类翘辫子的时候了。
废话不多说,重点是,这个牛逼哄哄的德国佬在继热力学守恒定律后,又提出了热力学第二定律:热量总是由较高温的物体流向较低温的物体,但是不能从低温物体自发地流向高温物体。
咚锵锵~于是熵就华丽丽地出现了!
再次用人话来说,所谓熵,就是用来算计这些损耗的能量的。熵值越高,不可逆的能量就越高,整个universe就越混乱越无序。可不是嘛,只出不进,整的跟欧盟危机财政赤字似的,不彻底崩溃也是轻度精神分裂。
Anyway,信息就是救世主啊。
小盆友都知道不写作业的后果是罚站蹲墙角种蘑菇,因为老师总是不厌其烦地这么说这么做的。这就是老师给咱幼小心灵传递的信息——不写作业的后果很严重,惩罚是必滴。
所以,信息就是消除不确定性的东西,也就是说,是消除系统无序性和不肯定性的绝世良药。
之前提到熵越大系统就越混乱无序,咣咣咣~信息来了,抵消了这种混乱无序,故称之为“负熵”。看起来学术得一逼的名字,也不过是用了几个搜狗不咋待见的字。
总结控制论的鼻祖——香农的理论:给一个复杂的系统强加一种秩序,这就是负熵。他还贴心地补充了一句让东方人看的蛋疼的话:负熵组成一个信息系统复杂性的尺度。不知道陈卫星怎么想的,反正我是看的咬牙切齿几近神经紊乱。
这是从陈卫星的Ideas of communication里读到的概念。
熵本来是物理学范畴的概念,要解释这个等式,必须要恶补下物理学常识,这也是我最恶心的部分。
万幸的是高中物理的不堪回首还隐隐残留在备受折磨的记忆里,所以当提到熵需要热力学第二定律来解释说明时,暗暗松了口气。
一百多年前德国佬克劳修斯提出“热量总是从高温向低温处散发”和“热转化为功时总有一部分白白损耗,而且这种损耗是不可逆的”这么个简洁易懂童叟无欺的现象,进而证明宇宙处于不断的热耗散,所以它的无序程度总是不断地无情地趋向极大值。
用人话来说,就是世间万物都在做功,但不一定全是有用功,一部分总要损耗掉,无限做功的结果是,都变成热。那时候也就是全人类翘辫子的时候了。
废话不多说,重点是,这个牛逼哄哄的德国佬在继热力学守恒定律后,又提出了热力学第二定律:热量总是由较高温的物体流向较低温的物体,但是不能从低温物体自发地流向高温物体。
咚锵锵~于是熵就华丽丽地出现了!
再次用人话来说,所谓熵,就是用来算计这些损耗的能量的。熵值越高,不可逆的能量就越高,整个universe就越混乱越无序。可不是嘛,只出不进,整的跟欧盟危机财政赤字似的,不彻底崩溃也是轻度精神分裂。
Anyway,信息就是救世主啊。
小盆友都知道不写作业的后果是罚站蹲墙角种蘑菇,因为老师总是不厌其烦地这么说这么做的。这就是老师给咱幼小心灵传递的信息——不写作业的后果很严重,惩罚是必滴。
所以,信息就是消除不确定性的东西,也就是说,是消除系统无序性和不肯定性的绝世良药。
之前提到熵越大系统就越混乱无序,咣咣咣~信息来了,抵消了这种混乱无序,故称之为“负熵”。看起来学术得一逼的名字,也不过是用了几个搜狗不咋待见的字。
总结控制论的鼻祖——香农的理论:给一个复杂的系统强加一种秩序,这就是负熵。他还贴心地补充了一句让东方人看的蛋疼的话:负熵组成一个信息系统复杂性的尺度。不知道陈卫星怎么想的,反正我是看的咬牙切齿几近神经紊乱。