算法和算法批判，一刻也不能分离

陈琰娇

悄然间，我们已进入一个“算法时代”，无论是网上购物、点餐，还是运动锻炼、外出旅游，都有算法潜移默化地影响着我们的选择。这既是时代的进步，也隐藏着潜在的风险与隐忧。之前，临沂大学文学院教师邢斌决定成为一个外卖骑手，在一个月里他挣了7000多元，日均3万步，瘦了12斤。他深切地体会到了这份工作的艰辛。邢斌是在社会责任感驱动之下踏上的骑手之路，工作只是一种体验，而他的临时同事们则如某杂志深度调研所说的那样“外卖骑手，困在系统里”。

困在系统里是什么意思？简单来说，如果系统把配送时间设定为30分钟，那么为了避免超时，外卖员就会把时间控制在28分钟以内。当绝大部分人都提前送达，数据就会显示这段路程所需实际时间可以更短，于是系统就会重新调整安排。也就是说，算法越“聪明”，套在外卖员身上的绳子就会勒得越紧。为了赶上算法，他们不得不成为“马路杀手”。

韩国电影《下一个素熙》（2022）讲述了另一种意义上的困在系统里。即将职高毕业的素熙被分配到某大公司客服中心实习，本以为进入大公司前途一片光明，结果发现一切都和想象中截然相反。为了利益最大化，公司辞退了大量正式员工，工作交由素熙这样的临时工来完成，任务重压力大工资少。要改变处境只有两个选择：留在公司，追上表格里的数字；或者离开公司，但同时也不再被推荐工作。摆在素熙面前的是残酷二选一，要么服从系统，要么掉出系统，但素熙决然放弃了任何选择。

影片后半部分，下决心主持正义的吴警官重走素熙之路，但调查一圈的结果竟然是──素熙确确实实是自杀，没有“谁”需要对此负责。最让观众震惊的莫过于无论大公司、外包公司，还是其他部门，使用的都是同一套数据管理模式，每个人都很无奈地告诉吴警官，他们只是系统的执行者而已。

素熙的困境是数据社会的残酷隐喻，只要系统不改变，没有人能比算法跑得更快。这也是批判理论家马克斯·霍克海默（Max Horkheimer）和西奥多·阿多诺（Theodor W. Adorno）在《启蒙辩证法》中早已提醒过我们的，不加控制的工具理性终将颠覆自身。哈佛商学院教授肖沙娜·朱伯夫（Shoshana Zuboff）认为，算法监管系统之下催生了“监视资本主义”（surveillance capitalism），即一旦海量数据可以被采集，那么在分配和使用的过程中就会形成垄断和压制性的权力关系，由此做出的数据监督和行为预测将彻底“重塑”我们的生活。

人工智能的发展离不开数据、算法和算力三大要素，数据是质料基础，算力是物质支撑，而算法则是核心驱动。原始数据要在算法运作之下，才能成为大数据，进而不断衍生。如果算法时代无可避免，那么问题就不再是要不要，而是怎么要。中国社会科学院副研究员孙萍认为，当务之急是我们需要建立起社会层面和组织层面的算法协商机制，在“技术逻辑”之外还应该保有“人的逻辑”。也就是说，算法和算法批判，一刻也不能分离。

送餐出现问题，用户可以通过评价体系惩罚超时的商家或外卖员，但给外卖员差评，又很容易让用户陷入一种以强凌弱的道德自责；外卖小哥即使对派单不满，也只有跑得再快点，没法对不合理算法提出抗议；商家对平台抽成不满，也只有不是A平台就是B平台的选择。在这个过程中，平台及其所代表的大型资本始终是隐身的。以外卖、网约车、家政为代表的零工经济正在全球范围内持续增长，其带来的影响才刚刚开始。算法从不只是某一种工作或某一类人的算法。对每个人来说，算法带来的真正危机还在于身陷其中的“算法统治”（algocracy）。

我们能做的，一方面是保护劳动者的合法权益，另一方面是监督平台，反对算法霸权。倡导一个公平正义的算法社会，事关所有人。当OpenAI（一家在美国成立的人工智能研究公司）带来ChatGPT（一款聊天机器人程序），马斯克的脑机接口实验逐步推进，未来已来。我们当然没办法拒绝未来，但我们至少可以塑造未来。