AI 必将统治人类——《乌合之众》读后感

《乌合之众》这本书我先前多次看到被人提起。因为知名度太高，我反倒没有很想去读它。后来愈发觉得没读过《乌合之众》就像没有常识一样，所以就买来读了。

请原谅我起了这样一个惊悚的标题。其实我本人是科学的坚定信仰者，对阻碍科技发展的一切事物尤其是传统思想深恶痛绝。我并不相信机器人在将来起义，反抗人类这种事。我觉得相信这种故事的人很可笑，把别人编电影游戏的脑洞当真，实际上是对计算机程序的无知。

不过讨论 AI 是否会统治人类跟《乌合之众》这本书有什么关系？

这确实是我在读这本书过程中想到的事。我觉得从社会层面来探讨本书内容，评判它哪里对哪里不对的文字一定很多，所以本文便力争打开一个新视角。我所说的 AI 统治人类，指的不过是用计算机程序来代替政府管理人类，制订规则，并对个人发展提出建议这种事，表面上看来像是 AI 统治了人类，其实只是我们找到了更好的工具方法而已。

深蓝战胜卡斯帕罗夫的时候，人们叫唤一阵；现在 AlphaGo 战胜李世石，人们又叫唤一阵。因为多数人对新鲜科技名词的认识来源于利欲薰心的流氓分子，只是跟着瞎诈乎而已。几块钱的计算器做算数的能力远远高于普通人，人们却并不会担心计算器会造反。将来的计算机程序，也会是类似的地位，被人们熟悉后成为普通的存在。AlphaGo 纪录片里，DeepMind 团队某一成员接受采访时，表示对人们用 “she” 来称呼 AlphaGo 这件事感到很有趣，因为在计算机科学家眼里，程序只是程序，并不具有人格。之前有个朋友跟我说，人类棋手应该可以从 AlphaGo 的程序中学习怎样下围棋，我说并不能。人类只能从它运算的结果来学习，它的程序原理和人类下围棋的思路完全是两码事。人类并不是用程序写了一个大脑，再去教它怎么下围棋。它只是在解决数学问题，要保证它算法的正确性，并不需要太高的围棋能力。所以 AI 就应当是这样一种地位，它出自团队之手，但下围棋的能力不但超过任何一名成员，也能超过人类第一。这个社会的运作同样是一个复杂问题，把它交给计算机来做是再合适不过的。在将来，我们只需要计算机科学家来保证算法的正确性，并不断改进它，而计算机程序在特定问题上，能力远远超过任何一个人类，是理所当然的事。

人类的思维方式先天就有弱点，而群体又放大这些弱点，让人们表现得反智、非理性、情绪化、易冲动……过去的人类社会靠精英领导群体，随着科学的发展，我相信 AI 代替人类来管理人类的过程已经开始。我相信人们会渐渐认同 AI 的管理，因为计算机代替人类的好处显而易见。其实无论是谁在统治，大多数普通人只会接受并服从，并不会有什么特别的感觉。DeepMind 开发 AlphaGo 时，最先是让它以人类几百年的棋谱为输入来训练的，大概他们以为人类经验无论如何还是有其价值。而到了 AlpahZero，直接抛弃人类，自己从零学起，得到的结果是远超 AlphaGo 的能力。

我很期待计算机程序管理人类社会时代的到来。我相信到那个时候，能源利用能最大限度接近于最合理，社会效率无限接近于理论值最大，人类文明的发展几乎达到最快，每个人都会知道通往幸福概率最高那条路，都能找到最适合自己的那个人。