放在你卧室角落里的声控设备突然发疯一样地笑了起来，并把你的枕边细语录下来，发送给了一位同事。你孩子在YouTube上观看的《小猪佩奇》突然出现了有关流血和死亡的内容。你用来跟朋友保持联系的社交网络，成了影响选举和煽动政变的工具。

我们的思维方式发生了一些奇怪的事情，其结果是，世界发生了一些更奇怪的事情。我们开始认为，一切都是可以计算的，一切都可以通过应用新技术来解决。但这些技术并不是立场中立的促进者：它们体现了我们的政治立场和偏见，它们超出了国家和法律管辖范围的界限，并且日益超越了人们乃至其发明者的理解。结果，随着这些强大的技术越来越多地夺取我们对日常生活的控制权，我们对这个世界的了解变得越来越少。

在科学和社会领域，在政治和教育领域，在战争和商业领域，新技术不仅是在增强我们的能力，它还在积极塑造和引导这些领域的发展，不管是朝好的方向，还是坏的方向。如果我们不了解复杂技术是如何运作的，它们的潜能就会更容易被自私自利的精英和企业所攫取。我们周围就有这样的例证。我们每天都会遇到复杂的系统不透明性，而这种不透明性与不平等、暴力、民粹主义和原教旨主义等全球问题之间，存在着一种因果关系。

我们似乎正在进入一个充斥着越来越多离奇和不可预见性的黑暗时代，而不是来到一个被技术进步照亮的乌托邦式未来。更广泛地传播更多信息，这是当下的启蒙思想，但它并没有增进我们相互之间的理解以及和平，反而似乎导致了社会分裂、不信任、阴谋论以及所谓的后真相政治（译注：后真相是忽视真相、不顾事实的委婉说法）。要了解正在发生的事情，就有必要了解我们的技术是如何形成的，以及我们如何对它们产生了如此大的信心。

“云是互联网的中心隐喻：一个全球性的强大力量和能量体系，几乎不可能被控制”

上世纪50年代，一个新的符号开始出现在电子工程师制作的图表中，用来描述自己打造的系统。这是一个模糊的圆圈，或者一个巨型蘑菇，或者一个思维泡泡。最终，它的外形固定为一团云。不管工程师做的是什么，都可以连接到这团云，而它就是你所需知道的一切。另一团云可以是电力系统，或者是数据交换机，抑或是其他计算机网络。随便是什么，那并不重要。这团云是降低复杂性的一种方式，它让你可以专注于手头的问题。随着时间的推移，网络的规模越变越大，互联程度越来越高，而云也变得越来越重要。它成了一个商业流行词，成了一个卖点，它的含义超越了工程技术的缩写，它变成了一个隐喻。

如今，云是互联网的中心隐喻：一个全球性的强大力量和能量体系，它保留了一些神秘的光环，几乎不可能被控制。我们在云当中工作，我们把文件存储到云端并从中取回，我们一直在体验云，但却不理解它究竟是什么。但这个隐喻存在一个问题：云不是一个神奇和遥远的地方，不是由水蒸气和无线电波组成的一切正常运转的地方。云是由电话线、光纤、卫星、海底电缆以及摆满计算机的数据中心组成的物理基础设施，它需要消耗大量的水和能源。社会领域中很多以前十分重要的行业都被吸纳到云当中：购物的地方，银行，社交生活，借书和投票的地方。这样一来，它们就变得不那么可见，不那么适于批评、调查、保存和管理。

过去几十年里，世界各地证券交易所的交易大厅都陷入了沉寂，因为人类交易员被一排排能够进行自动交易的计算机所取代。数字化意味着，证券交易所内部、以及彼此之间的交易能够以越来越快的速度进行。随着交易转移到机器手中，在瞬时之间做出反应成为了可能。高频交易算法由此登场，它由一群物理学博士生设计，旨在利用毫秒之间的优势。人类交易员给它们取了诸如“尖刀”这样的名字。这些算法能在每笔交易中赚取零点几美分的收益，而它们每天能进行数百万笔交易。

在这些大大加速的不透明市场中，一些非常奇怪的事情发生了。年5月6日，道琼斯指数低开，受希腊债务危机影响，道指在接下来的数小时内缓慢下跌。但在当天下午2点42分，道指开始快速下跌。在不到5分钟时间里，道指暴跌了多点。在最低点时，该指数比前一日的平均值低了近1,点，这一跌幅相当于道指点位的10%，创下了盘中最大跌幅纪录。到了下午3点零7分，在短短25分钟内，道指几乎收复了全部点，由此成为了有史以来幅度最大、速度最快的日内波动。

在那持续25分钟的混乱中，价值亿美元的20亿股股票易手。更令人担忧的是，很多交易单都是在美国证券交易委员会所谓的“非理性价格”上执行的：低的只有1美分，高的达到10万美元。该事件被称为“闪电崩盘”（简称闪崩），多年之后，这一事件仍在接受调查，人们对它的争论也在持续。

“虽然经验丰富的市场参与者也许可以通过做长线来稳定崩盘局面，然而，当机器面对不确定性时，它会尽快退出”

监管机构的一份报告指出，高频交易者加剧了股价波动。在各种高频交易程序中，很多都有硬编码的卖出价位：一旦股票跌到这个价位，程序便会立刻卖出股票。随着股价开始下跌，成批的程序被触发在同一时间卖出股票。卖出价位一再被击穿，随后的股价下跌又触发另一批算法自动卖出股票，从而产生了一种反馈效应。其结果是，股价下跌速度之快，超过了任何人类交易员所能做出的反应。虽然经验丰富的市场参与者也许可以通过做长线来稳定崩盘局面，然而，当机器面对不确定性时，它会尽快退出。

其他一些理论则指责是算法引发了这场危机。人们在数据中发现了这样一种技术：高频交易程序会向交易所发送大量“不可执行”的交易单——也就是以非常离谱的价格买入或卖出股票，因此它们会被忽略。其实，这些交易单的目的不是为了询价，也不是为了赚钱，而是为了故意迷惑系统，以便其他更有价值的交易能够在混乱中得到执行。在闪崩中，很多无意被执行的交易单得到了执行，因而制造了极大的波动。

闪崩现在已成为增强型市场的公认特征，但我们对它仍然不甚了解。年10月，受英国脱欧谈判负面新闻影响，高频交易算法在不到2分钟内让英镑兑美元汇率下跌6%，然后，几乎又立刻收复了失地。要想知道是哪条具体的新闻，或是哪个具体的算法导致了闪崩，几乎是不可能的。年10月，当一个失控的算法下达和取消的交易量占到美国股市交易总量的4%时，一位评论员哭笑不得地评论道：“该算法的动机尚不明确。”

年4月23日，下午1点零7分，美联社的Twitter账号向万