AI与未来

ChatGPT 的出现除了带来生产力提升，也掀起了一股恐慌情绪，人们担心自己的工作会被机器取代，担心 AI 进化得太快后会把人类置于《黑客帝国》那样的末日场景中。许多人高声疾呼大模型和生成式 AI 带来的道德问题，呼吁政府监管，这其中也包括 OpenAI 的创始人。

2023年6月6日，Marc Andreessen 发表了一篇长文 Why AI Will Save The World，阐述了 AI 技术发展对人类社会积极的影响，呼吁加大对 AI 的研发投入。这篇文章质疑了“反对派”的动机，并对反对派提出的各种风险逐个予以抨击。

风险一：AI 会杀掉所有人吗？Marc 认为 AI 是数学、代码、计算机，由人类建造、拥有、使用和控制，它并不会有朝一日发展出自己的思想，甚至产生杀死人类的动机。他还认为这种理念的鼓吹者们已经带有狂热教派的意味，不应该轻信。—— 这个问题目前无法证实，也无法证伪，我倾向于认为这样的担心不无道理。

风险二：AI 会毁灭我们的社会吗？这点主要针对仇恨言论和虚假信息展开。Marc 认为人们担心 AI 生成的内容有害，与前段时间社交媒体遭受空前的内容审查压力异曲同工。他认为尽管我们应该制定某些规则来规范 AI 的输出，但是过度行为则像是政府、企业和学界形成的联合体在进行言论专政。他们试图制定人工智能运作的规则，而当AI真正成为一切的控制层时，这个规则将变得无比重要。—— 我倾向于认同这个观点。对内容的审核肯定要有，但不用太过于担心其负面影响，它并不会比社交媒体更糟。

风险三：AI 会取代所有工作吗？Marc 认为这种担心是多余的，技术会提升生产力，产品和服务的价格下降，消费者有更多的购买力买别的东西，促使新产品和服务的出现，而生产这些新产品和新服务又需要更多的人和机器。消费者福利螺旋上升。—— 我认同这个观点。

风险四：AI 会带来更大的不公吗？这个担心主要是指拥有技术的人将获得所有利益，普通人则一无所获，贫富差距和社会鸿沟进一步拉大。Marc 认为尽管短期内会有一部分人变得非常富有，但财富将因技术扩散而分散，社会整体将变得更为繁荣。这是一个自发的、因专业化和贸易而产生的公平分配过程。—— Marc 作为一个资本家，手握大量资源，产生这样的观点很自然。在这个过程中他和像他一样的白人精英始终处于有利地位。但是短期内带来的社会问题不容忽视，尤其是对那些处于不利地位的人，比如将失去工作的人，比如第三世界无法使用人工智能技术的国家的人。如果将时间尺度拉得足够长，我同意他说的，但这个过程中必定很多人要付出代价。

风险五：坏人用 AI 做坏事怎么办？Marc 认为这是实际存在的风险。技术是一种工具，如果用的不对，越强大的工具造成的破坏也越大。Marc 的观点是现有法律已经能涵盖坏人使用 AI 所能犯下的罪行，我们应该把精力更多放在利用 AI 的能力预防犯罪上，把人工智能当作一个防御系统。—— 这个观点我也认同。

最后 Marc 提出了现在如果不全力投入 AI 研发的风险，那就是被中国超越，甚至祭出了里根的冷战口号“我们赢，他们输”。到这里，我认为 Marc 已经不是单纯从技术和社会角度出发探讨问题了，这段我无法认同。而且这样泾渭分明，把AI区分为“西方的AI”和“中国的AI”，也无助于解决现在的局面。

相较之下，Bill Joy 在 2000 年写的 Why The Future Doesn't Need Us 是真正从人性出发，以悲天悯人的胸怀来思考的，而那篇文章对新技术的发展持悲观态度。

人性复杂，我们应该谨慎对待新技术，不应对未来过分乐观。