人类社会的熵是下降的，从熵的角度看社会发展
4
4
继续以信息论的角度解读奥卡姆剃刀原理，再谈熵的问题。首先是一些常识。
熵的常识
对于一个分布，只有均匀分布，它的熵才是最大的。比如一枚硬币，正反两面的概率都是0.5，那么它的熵为H=1 bit(以2为底数)；如果它正面的概率为0.9，反面的概率为0.1，它的熵为H=0.47 bit。也就是说，如果熵越大，它的不确定性越大，我们需要更多的bit来描述它（描述它需要更长的句子）。
我们知道，天之道，损有余而补不足，人之道，损不足以奉有余。对于天之道，由于热力学定律，温度高的朝着温度低的流动，墨汁滴到水里会不断扩散，从整体上看，整个宇宙是不断变得“平均”的。因此， 天之道是一种熵增的过程。
人之道
然而人之道，是财富、权力的不断集中，它其实是一种熵减的过程。其实这很好理解，人类社会是一个耗散系统，一方面有热力学的熵增过程，另一方面太阳在不断注入能量，额外的能量输入就可以产生熵减。那么人类社会到底是熵增还是熵减呢，这个放在后文讨论。
近几十年（1990年）左右至今，有一个很大的科学突破：无标度网络的发现，非常精确的描述了熵减的过程。它的假设是，在一个网络中，新增一个节点，它连接到老节点 i 的概率 Π(i) 正比于该节点的度 kᵢ（度是节点的性质，度的意思是一个节点所有边的和）：
它对应的社会现象就是，在社交网络中，新的用户倾向于连接网络大V，即已经受到很多人关注的博主，从而产生富者愈富的现象。类似的现象包括：可以把度类比为财产，当新的财产产生（GDP），财富会按照比例流向财产多的人等等。
它导出的结论就是，网络中节点度的分布满足：
即，网络粉丝数越多的人，人数越少，但是它也不是指数分布，是厚尾分布。
可以注意到，如果人类社会满足(1)的规律，那必然是一个熵减过程，从一个比较均匀的状态变为幂律分布。
下文熵定义
我们这里对熵的含义进行扩大化，不完全是热力学和概率的熵，为了讨论人类社会的熵，作出以下（粗糙）的定义：
- 第一种熵是预测，即 \(p(x_{t}|x_{t-1})\) 。通过上一时刻的状态预测下一时刻的状态。比如我知道车的位置和速度，我可以很容易地预测下一秒车的位置。
- 第二种熵是状态的分布，即 \(p(x_t)\) 。与硬币的例子完全一致。比如社会上的财富呈现幂律定律，20%的人拥有80%的钱。状态熵可以描述了社会中钱的分布、观点的分布等等。
从熵的角度看社会发展的宏观趋势
我第一次看到将熵的观点扩大到社会领域，是在阮一峰的博客里，他当时引用了一个经济学家的分析，认为从宏观上看，整个社会在不断地熵减，但是自然环境是不断地熵增的，增加的熵就从人类宏观转移到微观的个体，这也是为什么现代人有各种各样的精神问题。这个观点乍一看非常有道理，但地球并不是一个封闭系统，太阳在不断地输入能量，根本无法对微观和宏观的熵进行分析，事实上连怎么度量都做不到。
但是这个观点也给出了非常好的思路，就是人类社会微观和宏观上，是否存在熵的转移？那么我个人的观点是有的：从奴隶社会到现代社会，一个明显的趋势是人不断让渡自己的权利，提升人类社会的能力，从而获得便利。在这个过程中，出现了权力的集中、钱的集中，系统从均匀的状态变为幂律的状态，是熵减的过程。
举几个例子，在钱出现之前，人和人之间通过以物易物之间交易。但钱出现之后，有人通过囤积货币，操控市场，可以不事生产，却获得大量财富。类似《货殖列传》中，从古至今，巨富显然不是靠生产挣的，而是投机倒把，到处套利挣的。而且不是一般的商业性套利，而是窃钩者诛，窃国者诸侯。
在法律出现之前，人与人之间是以眼偿眼，以命偿命，但如果没有能力报复，就白死了。法律出现之后，人将报复的权利让渡给国家，让暴力机构代为报复。
我认为通过权力的让渡，金钱的转移（其实钱就是量化的权力），从人类社会上看熵都降低了。正是熵的降低，人类社会才实现了发展。
现代社会的进一步实现了信息的集中和转移。你天天使用的微信等APP，虽然在交易、通讯上带来了极大的便利，但其实是你向腾讯让渡了自己的隐私。以前，个人私有的通讯信息都是通过邮政分发的，虽然邮政主体是集中的，但是信息内容是未知的，然而现在主体和信息存储都是集中的。
因此，从这个角度看，人类社会是微观个体不断让渡自己的熵，最终使得宏观的人类社会熵减，提升整体的效率，并且这个趋势并没有停止。那么会导致什么问题呢？从字面意义上看，微观个体的熵降低，即不确定性降低，意味着人与人之间同质化严重，可能对于社会，同质化的人就相当于标准的零件，有利于提升效率，但是对于人的个体而言，可能不是什么好事。
熵减和熵增对应的社会形态
是不是熵越低越好呢？回到信息论的定义，熵越小，概率分布越集中，熵为0，也就是未来是完全可以预测的，即社会的运行过去和未来是完全已知，没有任何变化的。
那是不是熵越大越好呢？需要注意的是，熵最大的情况一定是平均的情况，那么平均的情况当然是宇宙是一锅粥，混沌兮，恍惚兮，还没有诞生。
对于中间状态就有可以讨论的地方，在讨论费米悖论时，有一个解答是平庸原理：
- 如果宇宙中大多数潜在文明都无法跨越某个阶段，那么人类很可能并不特殊，也会面临同样的障碍。
- 因此，“平庸”的文明往往无法突破过滤器，而人类尚未证明自己“不平庸”。
也就是说，论至德者，不和于俗。平庸的人只能产生平庸的文明，伟大的突破，产生于意外。如果未来是完全确定的，那就没有任何意外，那一定是平庸的文明，因此，我认为熵可以作为一个指标，但是它既不是越大越好，也不是越小越好。
熵和自由度、复杂度的关系
- 信息熵越高 → 系统越随机、越无序、越没有模式 → 复杂度可能很低（例如完全白噪声）。
- 信息熵越低 → 系统越有序、越规则、越可预测 → 复杂度也可能很低（例如完全晶体或重复字符串）。
- 真正的复杂度出现在中等信息熵的区域，即系统既不是完全随机也不是完全有序，而是具有层次化、关联、自相似等结构。
- 有效自由度（或称“相关维度”、“嵌入维度”）：这个有效自由度往往远小于系统的微观自由度，它反映了系统动力学在相空间中所占据的子维数。
- 复杂度与有效自由度通常呈正相关直到饱和：随着系统动力学维数增加，能够产生的模式更丰富，复杂度上升；但当维数过高（趋向随机），复杂度反而下降（因为模式变得无结构）
系统必须远离平衡态才能产生结构，但是必须约束在某个范围内才能持续存在。
总结
我一直觉得熵是一个很有意思的东西，当你用熵讨论人和人的衍生物的极限时，你会发现，地球上的人的社会是存在极限的。因为太阳的输入熵减是有限的，人类社会的熵增是存在的，也就是说，如果没有额外输入，到了一定程度人类社会就会停滞。那太阳的能量输入是否能够支撑地球走向星际文明呢？