“算法要向善”选择背后的伦理博弈

即将过去的2020年似乎经历了一个“加速社会”的中场休息，但种种迹象表明，这并没有暂缓数字智能服务成为人们日常生活的一种方式。健康码、点外卖、视频会议成为工作生活“三件套”，各种基于数字化、信息化和智能化的服务应用快速入场，社会在技术与资本的双重博弈下正经历结构转型。

这种转型呈现出一种“重组”的力量，将现有的时间空间重新切割，再以一种“光电方式”重新拟定节奏、划定规则、做出决策。线性时间被打碎，信息的“精准推荐”是一种“算法时间”，它调整信息的呈现序列，插入合适的节点，指出什么才是“适合你的内容”，而不在意“真正的时间”。以算法为核心生产逻辑的数字平台，作为社会行动网络中的主导力量，正在整合性地协调社会系统中的多元参与，通过设置代码规则，进行算法管理，规训的颗粒度被逐层细化，渗透进社会的毛细血管。算法社会的结构转型正呈现出3个鲜明的趋势。

一种新的“平台速度”正在形成。麦克·沃尔什在《算法领导者：当机器比你聪明时如何变聪明》一书中描述了一种“亚马逊步速”，这是一种“介于行走和慢跑之间的速度”，而在亚马逊，员工们必须按照这个节奏来工作。与之类似，我们看到了“困在算法里”的外卖平台骑手们，面对不断压缩的订单送达时间，他们没有选择，只能遵循算法的设计逻辑，看着手机上一条直线的数字地图，在现实的道路上“与死神赛跑，和交警较劲，和红灯做朋友”。平台速度是一种时间节奏，集中体现着平台规则和算法支配下的统一性、规划性和标准性，而且蕴含着一种肤浅的消费哲学，代价就是将劳动者的主体性、情感性和立体感隐藏起来，这也助推了平台算法所带来的社会不平等。

“人脸识别”或将重新划定个体身份边界。疫情期间，人脸识别作为社会监测技术助力公共防疫，但是强制“刷脸”、事后“丢脸”的问题也暴露出来。在一些小区，人脸识别成为居民出入的唯一验证方式，而一转眼，在一些黑灰产平台上，据说两块钱就可以买到千张人脸照片。人脸识别是一种“无目光的注视”，人脸识别的准确性高度依赖数据、算法和算力，如果操作不当，泄露出去的面部照片可被用来训练深度伪造，欺骗识别系统，冒充个人身份，恶搞他人隐私，持续给个体带来经济风险和身份困扰，造成社会秩序混乱。

“算法鸿沟”逐渐成形并拉大社会距离。算法的逻辑机械且强势，而如果社会的协调机制过分滞后，那么则会形成新的“算法鸿沟”与社会歧视。以往的知识鸿沟、数字鸿沟更多的是由于社会结构中的教育程度、年龄层次、经济地位等要素使得社会资源分配不均，而“算法鸿沟”则有可能在分配制度的上游，通过人口数据、用户画像、使用习惯、社交关系等先期就预置了鸿沟。而随着算法回还往返于社会与系统之间，那些有机会获得工作经验、拥有学习机会、算法素养较高的群体，同那些缺少机会、相对弱势的群体之间的差距将不断拉大。老龄人口、残障人士、低收入群体可能会陷入新一轮的“算法陷阱”，行踪羞辱、健康码歧视等问题则随时可能落到每一个普通人身上。而这样的差距经年累月沉积，将加重阶层固化，形成算法特权和垄断力量。

去年4月，《自然》杂志上刊登了一篇研究性的综述，指出未来将是一个“算法无所不在”社会：自动化的新闻推荐、算法辅助法官判案、无人驾驶汽车、针对个体的差别化定价等，都将无缝接入我们的生活。如果以现在的发展态势来看，这个“未来”已来。

如同“药”具有两面性，算法在摧枯拉朽急速推进社会进步的同时，也暴露很多问题。这些问题不仅是一个技术问题，更是一个系统问题和社会问题。算法社会结构转型的特殊性在于，这是一种行动的“再现”：算法没有善恶，但绝非中立。算法要向善，因为所有围绕算法进行的协作都是社会再现，而未来的方向在每一个积极的主体手中。

我们已经看到了这样的努力。就在前几日，中共中央印发《法治社会建设实施纲要（2020—2025年）》，其中明确提出要制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。10月，杭州市人民代表大会常务委员会发布的《杭州市物业管理条例（修订草案）》有望成为国内首部明确写入人脸识别禁止性条款的地方性法规；11月23日，国内“人脸识别第一案”宣判，未经当事人同意的“强制刷脸”被驳回。关注平台外卖员的生存状态和阶层流动机制，为老年人、特定身份群体打造友好的数字生活环境，对平台滥用市场支配地位、进行差别性对待等不合规问题进行监管治理等，都是对算法社会中可能会出现的结构性问题的“纠偏”。

我们在见证算法改变社会结构的同时，也要看到这种“公共关涉”算法是一种社会机制，涉及多种社会要素和力量。要使得这种社会机制能够朝向更加具有社会保障、社会共情、公共向善的方向推进，则需要建立更为完善的监督、协商与支撑体系。

（作者系上海社会科学院新闻研究所助理研究员）