数字时代的算法困境与治理路径

作者：李晓华（中国社会科学院工业经济研究所研究员）

当前，新一轮科技革命和产业变革深入推进，正在重构全球创新版图、重塑全球经济结构。云计算、大数据、物联网、移动互联网、人工智能、区块链等数字技术群是影响最广泛的推动力量，不但不断催生新产品、新模式、新业态，而且作为通用目的技术在经济社会生活中加速渗透融合，使其他产业领域产生颠覆性变革，数字产业化和产业数字化快速推进，数字经济正成为世界各国最具活力、增速最快的新动能。

数字经济的核心是数据，大数据、人工智能等技术对经济社会中各种数据广泛和实时的采集和处理，使数据像工业时代的石油一样成为数字经济时代最重要的生产要素。目前主流的人工智能技术路线是“大数据+机器学习”。算法是强制给定的有限、抽象、有效、复合的控制结构，在一定的规则下实现特定的目的。随着人工智能技术的广泛使用，算法渗透进经济社会生活的方方面面，一个算法社会正在到来。算法在带动经济增长、提高经济效率、丰富和便利生活的同时，在市场竞争、信息传播、个人隐私、弱势群体利益等方面的负面影响和风险也暴露出来，需要高度重视并加强算法规制。

数字时代算法困境的表现

算法广泛应用于国民经济的各个领域，具有范围宽广、形态繁多的特点，由于其应用的领域和环节、影响的对象不同，算法造成的负面影响和风险主要包括以下几个方面：

第一，限制市场竞争。数字经济在组织形态上的显著特征是超级平台的兴起，形成数字经济与传统产业在产业组织结构上的巨大差异。一是平台成为典型的经营形态。数字经济平台属于双边平台，一边连接最终产品或服务的用户，另一边连接这些产品或服务的供应商，平台提供供应商与最终用户之间的交易中介服务以及实现交易所需的数字化工具、数字基础设施和交易规则。二是数字经济的市场集中度更高。由于网络效应的存在，数字经济的细分产业领域在进入成熟阶段后都呈现赢家通吃的格局，一两家头部企业占有大多数市场份额，相比之下，传统产业的市场集中度一般要低得多。三是超级平台具有强大的市场势力。由于占有大多数市场份额，更由于平台是数据集中与交换的枢纽，无论是入驻平台的供应商还是最终用户都处于非常弱势的地位。平台企业可以利用其市场优势地位和对数据的掌控对供应商和最终用户制定掠夺性价格；还可以利用数据优势、用户优势，对具有潜力的新技术和新商业模式进行模仿，将初创企业排挤出市场，或者直接将初创企业收购，将自己在原有市场的优势地位拓展到新兴市场。即使在市场上仍存在多家平台的情况下，平台企业可以将算法作为媒介建立共谋，通过向供应商、消费者收取高价而谋取不当利益。

第二，侵害用户隐私。在数字经济时代，数据是企业经济效益的重要来源，数据的价值取决于颗粒度、鲜活度、连接度、反馈度、响应度、加工度等多个方面，精细化程度越高的信息、越具有时效性的信息、越能够与其他信息建立关联的信息，其经济价值越高。用户的信息既可以直接用于数字经济企业自身的商品导流或促销，也可以出售给其他企业。为了占有尽可能多的信息，许多应用程序或APP未经用户同意就直接获取程序运行非必须的权限，如定位功能、通讯录访问权限等，甚至用户不开放权限就无法使用该程序。为了获得互联网带来的便利性，消费者不得不选择让渡个人信息。但是一方面，一些信息的获取没有得到消费者的许可，属于非法采集，另一方面，个人虽然是数据的生产者、所有者，但是这些数据一旦被互联网公司获取后就脱离其最初所有者的控制，个人不但无法知晓自己的信息被用于何处，而且在后续的使用中可能会威胁个人的隐私，甚至可能对个人的财产和人身安全造成损害。

第三，造成算法歧视。算法歧视是基于算法的自动化决策对个人所造成的不公平对待的现象。算法歧视包括直接歧视和间接歧视，前者是由于个体所处特定社会群体而遭受的不同等待遇，后者是指表面中立的行为对不同社会群体成员造成不同等的影响。算法歧视有多种成因，包括用于训练算法的历史数据受到污染或存有偏见，算法中使用性别、种族等具有明显歧视性的数据，利用能够显示身份的代理变量（如用户使用的手机品牌和价格）用于算法模型训练，个人偏见和歧视性观点被植入算法等。算法歧视的一个典型是“大数据杀熟”。大数据杀熟是互联网平台利用算法对用户的历史消费数据进行分析，相同的商品或服务对那些支付能力强、对价格不敏感的老顾客收取更高的价格。在传统的商品市场上，商品的功能、质量高度标准化，价格不同很容易被发现，而互联网服务通常是基于特定时间、特定场景的，时间、场景不同，市场上的供需关系就不同，并由此形成不同的市场价格，这就造成“大数据”杀熟更难被察觉、也更难被举证。

第四，形成信息茧房。通过对消费者注册、浏览、搜索、购买、评价等互联网使用历史数据的分析，媒体平台利用算法可以向消费者精准推送其感兴趣的信息，以此增加用户黏性和用户锁定。在信息呈指数型爆炸增长的自媒体时代，平台的推荐算法虽然可以为消费者节约大量的信息搜索时间，但也严重限制了消费者所能接收到的信息的多样性，推荐算法会严格按照用户自己的偏好设定和历史数据定制化地推送信息，而用户在这类信息上的驻留会进一步强化算法对此类信息推荐。人们被算法圈定在“信息茧房”里，被动地接受算法让人们看到的信息。同时，各类数字平台的社交化导向会推动具有相同爱好和观点的人在网络空间上聚集，进一步强化他们固有的爱好和观点。算法推荐会让用户只看到自己愿意看到的观点，造成信息封闭、在认知上成为“井底之蛙”。在社会层面，信息茧房还会形成用户观点的极化，造成不同群体之间的交流障碍，甚至由于思想的偏狭引致群体间的误会，催生极端行为，引发社会矛盾和冲突。

第五，损害弱势群体。数字经济的发展和算法的广泛使用不会自动地平等惠及每一个人，弱势群体反而会成为算法的受损者。在日常生活中，由于数字技术对传统生活方式的替代可能增加对数字技术不熟悉人群的不便。例如，网约车普及后，不会使用手机的老年人出现“打车难”。在工作中，合意的算法应该有益于劳动者工作条件的改善、降低工作中的潜在伤害。但这只是算法的美好的一面，算法也会让劳动者变成算法的“奴隶”。例如，在外卖行业，外卖骑手在算法的驱使下为了准时完成订单、获得准时奖励或避免不准时的罚款，不仅会增加劳动强度，而且可能会采取超速、逆行、闯红灯等高风险行为，被迫用事故概率来换取工作效率。

第六，带来伦理挑战。传统上，人类主体使用某种技术以及该技术形成的产品和服务，同时承担使用该项技术造成的法律后果或道德伦理责任，但是当人类把决策权交给算法，由算法自动地作出判断、决策并实施行动时就形成了对道德伦理的挑战。在大多数情况下，现有法律法规、政策和社会伦理对算法造成的不良后果会形成约束，但是算法的突飞猛进也会产生新的道德伦理问题，对人类文明长期形成的道德伦理准则形成新的挑战，给人类社会的发展带来新的风险。在著名的“电车难题”中，当无人驾驶汽车在事故在所难免时，它该如何作出决策：是优先保护车上的驾驶人员和乘客还是优先保护路上的行人？是选择撞向道路上的多个行人还是撞向路边的一个无辜看客？现有的法律甚至社会伦理并没有对算法规则如何设定提供明确的意见。由于智能化系统是按照预先编好的程序作出决策，因此在一些领域的应用可能会造成巨大的风险。

数字时代算法困境的成因

首先是人类的认知局限。算法是人类开发设计的，必然也反映着人类的主观认知。算法困境的很重要原因是人类主观认知的局限性造成的。一方面，开发算法的人员可能会存在认知上的偏差甚至偏见，而算法不仅会继承人类的偏见，而且还可能随着数据的积累和算法的迭代而被强化和放大。另一方面，大数据、人工智能以及作为其核心的算法仍然是一个新生事物，人类对于其可能造成的负面影响存在认识不足的情况。在机器学习的技术路线下，程序员只需要给出一个合适的算法而无需自己手动编写详细代码，通过提供充足的用于训练的数据，算法可以自己调整、修改决策规则。这种学习能力赋予算法一定程度的自主性，同样也造成算法执行任务的后果难以预测。

其次是企业的经济动因。算法虽然在客观构成上是一系列冰冷的代码，但它仍然是人类智力活动的结果，算法既受到人类认知发展水平的制约，也不可避免受到人类主观行为的影响。企业是追求经济利益最大化的市场主体，企业对算法功能的开发、设计必然服务于其经济目标的实现。为了让数据创造更大价值，企业会以各种方式获得用户数据；为了获得流量，企业会根据数据对用户精准画像并进行定制化的信息推送。带有偏见和歧视的数据经过算法运算之后产生的结果也会带有不公平性。即使企业在开发算法时没有主观恶意，如果将利润最大化设定为算法要实现的最终目标，算法在自我学习、不断迭代中形成的新版本也可能造成违反现有法律、社会伦理道德的后果。

*免责声明：本站文章图文版权归原作者及原出处所有 ，文章内容为作者个人观点，并不代表本网站。如果您发现网站上有侵犯您的知识产权的作品，请与我们取得联系，我们会及时修改或删除。