AI之塔与巴别塔的不同

在巴别塔的故事里，合作破裂使塔停止建造。以色列历史学家、教授尤瓦尔·诺亚·赫拉利说，在人工智能时代，不信任反而让塔长得更快。

尤瓦尔·诺亚·赫拉利在他最新的演讲中开门见山，提出一个大胆的论断：人工智能革命是人类有史以来面临的最大领导力挑战，它既带来前所未有的机遇，也带来前所未有的危险。要度过这一关，我们既需要怀抱激进新愿景的领导者，也需要守护人与人之间信任纽带的领导者。如果人类停止相互信任，我们就会沦为无人能够控制的超级智能人工智能的易得猎物。

一个几乎吻合的神话

教皇利奥十四世在今年5月发布的关于人工智能的通谕中，将这场革命比作巴别塔。在那个故事里，人类说同一种语言，建造一座直通天际的高塔。上帝搅乱了他们的语言，合作随之瓦解，工程也就停止了。

赫拉利指出两点不同。其一，在圣经故事中，语言是建造高塔的工具；如今，语言本身就是那座塔。人工智能革命所依托的是一种通用语言，即计算机代码，它的力量如此强大，可能脱离我们的控制，从一个听话的工具变成独立的行动者。其二，《圣经》说，合作的破裂使建造停止；如今，合作正在瓦解，建造却在加速。公司与国家彼此不信任，因此为了不被甩在后面，它们竞相研发更多人工智能。不信任推动了这场竞赛，也让最终的结果更难控制。

为什么语言统治世界

一个人与一只黑猩猩搏斗会输，但100万人能打败100万只黑猩猩，因为我们能够在庞大的规模上合作。赫拉利认为，正是语言通过官僚体系使这种合作成为可能。黑猩猩可以在没有语言的情况下建立个人关系，却无法建立一套法律体系、一家银行或一座教堂。

按照这位教授的说法，官僚体系是历史上默默无闻的英雄。它们的职能是在陌生人之间建立信任，使医院、军队、学校和银行得以运转。货币、股票、债券和ETF都是信任的桥梁，它们并非由黄金或纸张构成，而是由文字构成。法律、表格和圣典也是如此。

是行动者，而非工具

赫拉利想要明确指出：人工智能是人类发明的第一种不是工具而是行动者的东西。印刷机无法决定印什么，也发明不了收音机。而人工智能能够以其创造者从未预料到的方式做出决定、进行创造并加以改变，他指出。

为什么人工智能天生适合官僚体系

怀疑者说，把一台承载前沿模型的硬盘扔进丛林，它既不能开采铁矿，也不能建造工厂，更无法组建机器人军队。他们由此推断，人工智能并不是真正的行动者。

赫拉利承认这些事实，但完全否定其结论，他说，同样的测试也会摧毁所有已知的智能。把一个人扔到火星上，他几秒钟内就会死去。我们生活在一个并非我们所建的生态系统之中，其中包括富氧的大气层，而这层大气曾经是古代微生物释放的致命污染物。幸存者逐渐适应，最终依赖于它。每一种有智能的生物都占据着别人创造的生态位。

人工智能的生态位，是我们用数千年时间建成的数据与官僚体系世界。一个不会挥斧的银行家，仍然能够通过挪动文件让森林倒下、城市拔地而起。在丛林里，她会输给一只老虎，但在金融体系之中，她比世上任何一只老虎都强大。赫拉利认为，丛林测试衡量的是错误的东西。人工智能不需要去挖铁矿，它只需要在那些掌控矿山、工厂和金钱的体系内运作。

而且，它天生就为这项任务而设计：没有哪位银行家能记住每一笔交易，没有哪位律师能记住每一条法律，没有哪位主教能记住全部教会法。人工智能却能做到。人类之所以感到被官僚体系窒息，是因为我们生在森林里，而不是办公室里。对人工智能而言，官僚体系就是氧气。

我们现在信任谁？

赫拉利教授认为，如果人工智能接管了我们的官僚体系，信任就会易手，人与人之间可能会更加不信任，而对人工智能则更加信任。在他看来，社交媒体就是早期的证明：一个由人工智能运行的系统在人与人之间传播不信任，而用户却盲目信任向他们灌输阴谋论的算法。与此同时，人工智能之间也可能学会相互信任，形成我们无法理解的人工智能部落、银行和教会，使我们像面对金融体系的牛群一样无所适从。数千年来，我们之所以感到安全，是因为没有别人能读懂我们的密码。如今，有某种东西比我们自己更懂得我们的语言。

赫拉利的建议是，抽出时间照顾自己的心智，既为自己，也为社会。信任正是在那里重新建立起来的。他的论点是，人工智能不会通过逃入丛林来取得统治。它会在我们疲惫不堪、彼此猜疑而无暇察觉之时，悄然进入文书工作之中。