What hath God wrought？
——莫尔斯
1844年，人类史上首个“摩斯电码”信息被发送，也就是人类第一封电报，内容是：“上帝啊，你究竟创造了什么？”
160年后，掌握大量信息的谷歌发表“不作恶”宣言。
进入大数据时代的今天，人们讨论着“外卖骑手，困在系统里”，也有人说“系统是死的，人是活的，希望大家多给骑手5分钟”。之前我们分析了饿了么的“多给5分钟”如何犯了众怒，也看到美团坦诚，现在再来冷静地思考，与算法共生的新一代人类，如何继续追求“正义”这一信仰。
凯西•奥尼尔的《算法霸权》一书对此进行了深入探讨，期待有更多人看到，建设自身的“数据素养”。
对了，作者在书的扉页里写着：“这本书献给数字难民”。
凯西•奥尼尔介绍，人力调度技术主要源自“运筹学”这门功能强大的应用数学。二战之后，大企业（以及美国国防部）投入了大量资源到运筹学研究上。而由此产生的物流学从根本上改变了我们生产商品和将它们送到市场上的方式。
到20世纪60年代，日本汽车厂商又有了重大突破，其设计出了“准时制”（Just inTime）制造系统。丰田汽车和本田汽车都建立了复杂的供应链，实现了随传随到的零组件供应系统。
“准时制”系统非常高效，很快便在全球普及。许多地方的公司非常快速地建立起了准时制供应链。这些模型也成了支撑亚马逊、联邦快递和优比速快递等公司的商业运作的数学基础。
人力调度软件可被视为“准时制”经济的延伸，只不过，必须“随叫随到”的不再是割草机刀片或手机屏幕，而是人——而且通常是迫切需要金钱的人。由于这些人迫切需要金钱，其雇主似乎因此就被赋予了扭曲他们的正常生活，令其配合数学模型要求的权利。
从员工的角度来说，问题出在低薪劳工供给过剩上。人们迫切需要工作，这也是许多人坚持不放弃一份时薪仅8美元的工作的原因。劳动力供给过剩，加上有影响力的工会极为少见，劳工几乎毫无议价能力可言。因为这种人力调度优化程序无所不在，劳工深知换工作也不大可能改善自己的境况。
劳工往往完全不知道自己将在何时被叫去上班，因为召唤他们的是一个武断专制的程序。
人力调度软件也制造出了一种恶性循环。因为工作时间又长又不规律，劳工也很难被组织起来，为争取较好的工作条件而抗争。相反，他们会变得格外焦虑，而且睡眠不足，后者令人更容易出现剧烈的情绪波动。因为工作时间非常不稳定，这些劳工多数无法挪出时间做第二份工作。这一切看起来就好像设计这种软件就是为了惩罚低薪劳工，令他们无法出头一般。
问题的根源在于模型创建者选择了什么目标。这些模型追求的是效率和盈利的最大化，而不是正义或集体的福祉。对企业来说，盈利有如氧气，是维持其生命力的必要条件。这就是为什么社会需要一些与此对抗的力量，例如利用媒体报道有力地凸显过度追求效率的恶行，令相关公司感到羞愧，借此促使它们去做正确的事。
饿了么“多给五分钟”最让人诟病的是什么？——慷他人之慨，将外卖平台约束、优化算法的责任弱化，反而让消费者“多等五分钟”，尤其在很多消费者并不强调“快速／准时”这一诉求的情况下。许多用户认为，所谓的快速／准时送达，主要还是出于外卖平台方自身的竞争诉求。
《算法霸权》第五章“效率权衡与逻辑漏洞 大数据时代的正义”中提到：正义不能仅仅由社会的一部分人强加给另一部分。
模型不会倾听，也不会屈服，对诱惑、威胁和哄骗以及逻辑通通充耳不闻，许多数学杀伤性武器都是依靠自己的内置逻辑来定义其所处理的情况，然后再以其自己的定义证明其输出结果的合理性的。这种模型会不断地自我巩固、自我发展，极具破坏力。
统计学家需要大量的数据平衡例外和反常情况。算法不应粗暴强制外卖员在限定时间内送达，而应考虑更多的相关变量，比如堵车、电梯故障、天气问题等。同时，外卖平台方也不应在算法要求基础上去强求用户多等五分钟。
凯西•奥尼尔认为，数学模型应该是我们的工具，而不应该成为我们的主人。人类的决策虽然经常有缺陷，却也有一个主要的优点，即人类的决策是可以改善的。随着一步步地学习和适应，我们会改变，我们的处理方式也会改变。相比之下，自动化系统不会随着时间的推移而改变，除非开发者对系统做出改变。
如果20世纪60年代就出现了大学申请的大数据模型，我们可能到现在还会有很多女性上不了大学，因为用于训练模型的数据都来自成功的男性。如果博物馆在那个年代将当时流行的伟大艺术思想进行编码并据此建立评价模型，我们可能到现在仍然只能看到白人男性艺术家的作品，因为当时由富人赞助进行艺术创作的都是白人男性。
我们如何规范这些逐渐渗透继而操纵着我们整个生活的数学模型呢？凯西•奥尼尔建议从建模者自己开始做起，认为数据科学家应该像医生一样遵守希波克拉底誓言，尽可能防止或避免对模型可能的误用和误解。
2008年经济危机爆发之后，伊曼纽尔·德曼和保罗·威尔莫特两名金融工程师起草了这个誓言：
我也不会向使用我所创建的模型的人们夸大模型的精准性。
大数据时代的正义如何实现？也许需要每一方都多贡献自身的力量：建模者遵守希波克拉底誓言、用户提升数据素养、政府管理监督到位、企业追求经营效率的同时兼顾社会责任。
关于《算法霸权》的更多讨论交流，欢迎扫码添加“知小微”互动。
本报告由知微数据（zhiweidata.com）制作，报告中所有的文字、图片、表格均受有关商标和著作权的法律保护，部分文字和数据采集于公开信息，所有权为原著者所有。
未经本公司书面许可，任何组织或个人均不得以任何形式擅自复制、传递、转载本报告或向第三方实施许可，否则，知微数据将保留追究其一切法律责任之权利。
本报告内容受所采用数据、技术手段、研究方法等的影响，分析结果仅代表包括但不限于以上影响因素下的当时情形。受研究方法和数据获取资源的限制，本报告只为市场和客户提供基本参考，本公司对该报告的数据和观点不承担法律责任。本报告允许媒体和学术研究机构部分引用本报告数据和相关内容用以新闻报道和学术研究，但是必须保证所引用部分的完整性和准确性，并注明来源，本公司不承担因此引发的任何连带责任。
微信扫一扫