①我们正在进入一个“算法”的时代。我们究竟应该买什么东西、看什么新闻、去哪里上学……在作出这些决策时，我们通常会遵循算法的指引。算法让我们完成过去难以完成的任务，还能为我们提供个性化的服务。

②在这样的背景下，如何对算法进行有效规制，让算法的好处得到充分发挥呢？有专家认为，必须让算法实现透明化；另一些专家认为，应该让算法可以被共享。这些观点在操作中面临的困难很大。以算法的透明性为例，尽管很多人都呼吁将算法公开，以便其被监督，但这很不现实。一方面，对于企业来说，算法是核心资产。强行要求将这些算法公开，是对企业知识产权的一种侵犯。另一方面，由于很多算法十分复杂，就算被公开、被共享了，要想对它们进行有效的监管，会面临很高的成本。由此，需要探索一条更为有效的路径。

③虽然，现在很难有一套完整的、明晰的算法规制思路。不过，有两条原则可以被参考，分别是：“将人的事情留给人，将算法的事情留给算法”，以及“用规制人的思路来规制算法”。

④先看第一条原则。在很多情况下，算法本身只是一种工具，要负责任的应该是人。例如，一些电商平台利用算法对用户进行分级，然后根据分级状况决定商品的销售价格。这就是价格歧视，要对此负责的是人，而非算法。

⑤再看第二条原则。很多人认为算法是一个黑箱，不知道里面的运行机制，因此难以被规制。这听上去有道理，但却存在纰漏。教科书上算法的定义是，为解决特定问题而规定的一系列操作。据此，人为了解决问题而进行的思考也是一种算法。虽然机器的算法很复杂，但至少我们还知道它所应用的编程语言和编程原则；而对于人脑中的算法，尽管我们已经研究多年，但却始终不了解其使用的“编程语言”，尽管如此，但这并不妨碍我们对人的行为进行规制，那么，我们为什么不能用类似的思路来思考对算法的规制呢？

⑥按照这一思路，举例来说，如果要指挥电工安装灯泡，一种思路是，在一边观察电工，一有问题就纠正。但这个思路成本很高，还会损害电工的积极性。另外一种思路是，告诉电工“你若安好，便是晴天；你若安不好，就要赔钱”。电工同意后，他一定会仔细地把灯泡安好。

⑦其中的道理在于，我们通过调整电工的支付状况，让他自身的利益和我们达成了一致。在经济学上，这被称为“激励相容条件”。对于算法规制而言，规制者只要设法调整算法的输入目标，保证它和我们想要的目标一致，就可以引导它达到我们想要的结果。

日常工作中，如果一件事发展得太过顺利，我们总会隐隐觉得有哪里不对，这样的直觉是有道理的。澳大利亚和法国的研究者们最近在某学术期刊上发表了一篇文章，说明了为什么当所有的证据都指向同一个结果时，它反而可能有问题。他们将此称之为“一致性悖论”。

研究者以证人指认犯人为例研究了一致性悖论，发现在辨认嫌疑人过程中，系统偏差可能来自多种心理偏差，如警方给证人展示照片的方式、证人自身的个人偏见等。而研究者发现，哪怕是细小的偏差都会对最终的整体结果产生极大影响。具体来讲，即使在1%的辨认过程中施加偏差，如暗示某人是犯人，最终当3个以上的证人意见一致时，他们的意见就不再可靠。有趣的是，如果_______，那么其他证人正确的概率反而会大大增加。

为什么会这样？可以用数学中的贝叶斯分析来说明。以扔硬币为例：如果我们有一枚硬币，扔到正面的概率为55%，而非普通硬币的50%，只要扔的次数足够多，就会发现正面向上多于反面向上的次数，进而发现这个硬币是有问题的。换句话说，当我们看到投掷结果中正面向上的次数显著多于反面向上时，就会意识到出问题的是硬币，而非概率定理。同样，根据概率定理，很多证人同时得到一致结论的可能性极低，所以更有可能的是系统出了差错。

在警方组织的嫌疑人指认中，指认同一个人有罪的证人数目越多，这个人真正有罪的概率就越大。然而，这只适用于没有任何系统偏差存在的理想情况。实际情况中，当指认同一个人为犯人的证人数目增加到一个值以后，该嫌疑人真正有罪的概率反而会下降，最终与随机指认毫无差别，且系统偏差越大，概率下降得越早。比方说，如果你让证人完成一项较为容易的任务，比如从一堆香蕉中找出一个苹果，所有人都几乎不会出错，多人结论一致的情况就可能出现，而指认犯人要比在一堆香蕉中找到苹果复杂得多。模拟显示，如果_______，他们认错人的概率会高达48%，在这种情况下，许多证人同时指认一个人为犯人的概率就相当低了；但如果_______，他们认错人的概率会大大降低，多个证人结论一致的情况出现的可能性也会提高。

在法律领域之外，一致性悖论还有很多用武之地，一个重要的应用就是加密技术。数据加密通常通过确认一个很大的数字是否为质数来进行，这个判断过程的错误率要达到非常低才行：低于2的负128次方才可以接受。在这一过程中，可能出现的系统差错就是计算机故障。大多数人都不会想到宇宙射线会导致电脑将一个合数误认为质数，毕竟这件事发生的概率只有10的负13次方——但要注意，这个概率要大于我们所要求的误差（2的负128次方），所以这类误差主导了整个过程的安全性。正因于此，加密协议所宣称的安全程度越高，实际的过程就越容易受计算机故障影响。

一致性悖论虽然听起来违背直觉，但研究者解释，一旦我们了解了足够的信息，就能理解它了。