算法治理——基于企业社会责任治理的治理焦点

企业社会责任治理视角下算法技术异化的内在逻辑

尽管算法技术作为一种人工智能背景下的技术具有黑箱属性，即算法运行过程的不透明性带来的算法决策的潜在意外后果，这种意外后果可能是社会问题的直接归因。但从本质上来看，任何技术都需要既定的组织以及人予以开发、运行以及优化，对于算法技术而言，算法技术的开发者以及应用者无外乎人工智能企业（包括开发算法的人工智能企业、互联网企业以及应用算法的各类企业），因此对于算法应用与算法嵌入商业与社会各类场景中所带来的系列社会问题，也必然需要回到企业层面予以系统解决，算法技术的异化所带来的各类社会问题，其背后与算法技术的开发与应用的企业具有直接联系，企业开发算法与应用算法技术所衍生出的系列社会问题，且对企业利益相关方的利益各类行为可以归结于企业社会责任缺失或者异化行为，且企业由于算法开发或者应用带来利益相关方损害的行为需要从企业社会责任治理的视角予以解决。

实质上，算法技术的异化在企业层面可以体现为三大层面。第一大层面为人工智能或者互联网企业内算法技术研发团队缺乏对算法可能负面社会问题的重视，在个体经济人主导下算法技术开发被嵌入了人的非价值理性，此时人的个体偏好被嵌入到算法形成的过程之中，包括由于人的机会主义倾向导致算法训练的基础性数据收集、标记与处理等过程中便产生人为的价值偏离，最终算法在训练过程中便嵌入了有偏的人的机会主义因素，最终导致算法歧视等负面社会问题。尤其是在基于“经济人”的工具理性的逻辑下，效率逻辑超越了公平与正义逻辑，在漠视社会伦理价值的前提下，原本具备技术中立的算法技术被人为的利用算法的不可解释性以及不透明性，人为调整与干预算法的决策层或者决策参数产生系列破坏决策正义与决策公平的系列决策行为。比如，在新闻推荐的算法应用中，新闻平台内的个性化推送编辑、内容审核编辑在工具理性主导下追求舆论效应最大化，内容编辑可以参与并且干涉基于算法自动推荐的新闻文章画像，影响文章的关键词、文章属性、媒体源级别等，最终改变了算法推荐新闻的分类模型，最终可能加剧算法个性化推荐的系列社会问题。第二大层面是企业在运行制度逻辑层面的市场逻辑主导，原本的技术中立转向了技术恶德主义。不管是开发算法过程中还是应用算法的各类场景中的各类企业，其在市场逻辑驱动下算法技术被嵌入了资本逐利基因，算法训练与模型优化的过程中，其参数调整皆以企业的利润最大化的市场逻辑出发，相应地，算法也被最大程度地利用到企业运营管理与业务实践的过程之中，比如利用算法实现消费者偏好的自动分析，实施大数据杀熟、算法合谋下的垄断定价、价格歧视以及企业间的合谋行为，最终降低了企业的利益相关方尤其是消费者福利。尤其是在逐利性的资本驱动下，算法被视为操纵商业竞争生态的重要“武器”，巨头互联网企业、平台型企业、人工智能科技企业利用其算法技术开发的技术优势，在资本逻辑下导致算法无限扩张，肆无忌惮地对整个商业生态中的各类组织成员的信息隐私、数据资源以及需求进行获取与分析，进一步强化的算法技术运用的各类社会风险，甚至成为操纵商业生态以及控制社会的始作俑者。第三大层面体现为企业所嵌入的生态层面（商业生态与社会生态），由于人工智能尚相对处于一个初级的大众认知阶段，社会公众对算法技术背后的迭代运行过程存在较大的知识距离，一方面是由于算法本身的复杂性加剧了社会公众尤其是非专业人士理解的难度；第二是算法运行与决策的隐蔽性（黑箱）导致即使人们被算法包围，也很少去反思算法决策带来的失误以及对个人权益的侵害，最终造成了对开发与应用算法的企业追责困难，在算法存在商业机密属性的前提下加剧了算法应用以及算法开发公司的审查与追责难度，难以形成整体性的社会治理合力以应对算法技术异化带来的社会权利的侵犯，进而在企业所嵌入的生态层面难以营造一个算法治理的合意环境。

企业社会责任视角下算法治理的再理解及其治理焦点

目前，围绕提高算法“透明度”破解算法黑箱以及治理算法技术异化开展了大量的研究，既有的研究主要从三类研究视角予以挖掘，第一类视角是从法律规制视角，需要在算法尚未取得人格法律主体地位之前建立算法应用的定责与追责法律规制体系。第二类视角则是从算法解释权的视角认为破解算法技术异化以及治理算法的系列负面社会问题需要赋予算法解释权这一新型法律权利，确保算法技术开发与算法决策具备溯源性、决策规则可解释性。第三类视角则是从技术治理的视角，基于算法技术形成与算法应用的系列过程形成技术的性能与评估标准化治理体系，最终应对算法技术异化以及提高算法的“透明度”。实质上，算法的开发建构与算法嵌入商业场景（算法技术的商业化应用）各个阶段其背后的组织支撑（组织载体）依然是企业主导，既有的基于公共规制、法律权限以及技术治理等多重视角忽视了企业在提高算法透明度以及破解算法黑箱过程中的重要作用，同时也忽视了在算法治理过程中企业所应当承担的重要治理角色。

企业社会责任治理不同于传统的企业社会责任管理，企业社会责任治理的本质是在一定的制度场域之下，企业的多元利益相关方通过打造一个公共治理场域，在这一场域之中，各类企业社会责任治理主体（企业、政府组织、社会组织与社会公众等）共同实施相应的企业社会责任治理机制（包括企业社会责任正式治理机制与非正式治理机制）对企业的社会责任认知理念与管理实践予以规制、规范与影响，进而有效约束企业的机会主义行为，使得企业真正做到对社会负责任，实现企业创造涵盖经济、社会与环境综合价值的可持续。相应地，在企业社会责任治理的逻辑下，算法治理的主要目标在于最大程度地规避企业机会主义倾向，并最大程度地撬动企业对社会负责任的意愿与动力，有效规避算法开发与算法应用潜在的社会风险。因此，从算法技术异化的逻辑归因视角，企业社会责任治理下的算法治理的治理框架设计需要着力于三大层面。

第一大层面为围绕企业内的算法技术开发与运用的技术研发团队的责任型技术创新制度设计，强化对算法开发过程中的数据收集与处理过程、算法训练过程中的负责任价值理念的宣贯，并着力于强化以人为中心的技术创新意识，充分考虑到算法技术在设计、开发与运用过程中潜在的负面社会影响，尽可能地披露算法具备标准化的系列技术参数与相应决策可能的社会风险评估结果，保证算法设计、开发与形成运用过程中能够符合人本主义下的道德伦理价值取向，在算法的源头层面最大程度地规避由于技术团队的潜在机会主义带来的算法技术异化问题。

第二大层面为围绕企业内部的社会责任治理制度设计，重新反思在人工智能时代尤其是算法嵌入企业运营与管理的过程中的社会责任内容维度。传统企业社会责任缺失与异化主要从企业主体视角出发，认为企业的运营管理与业务实践对企业的利益相关方带来了利益损害，损害了社会总体的社会福利水平，企业“以不负责任的方式行事”伤害诸如消费者、股东、政府、供应商以及社会等多元利益相关方的利益，但是在人工智能背景下算法逐步嵌入到企业的运营与管理决策过程中，因此面对算法这一具备独立属性的新型决策系统，需要将算法治理纳入到企业社会责任的基础性维度之中，即传统企业社会责任的内容维度需要进一步延扩，将治理算法技术异化以及衍生的负面社会问题纳入到企业的社会责任内容框架之中。具体的治理思路应当着重于企业社会责任披露体系下的算法披露体系建设，一方面在算法的源头层面加强对算法的数据来源、数据收集标准、算法学习训练标准（数据分析处理过程）予以合规化披露，另一方面构建算法决策的潜在影响与风险评估的披露体系建设，最终在企业内部层面构建算法的责任披露制度、算法透明度管理制度、算法影响的责任评估制度等算法治理制度体系。

第三大层面为强化算法开发与算法应用企业链接的良性治理生态建设，在商业生态层面，强化算法开发企业尤其是互联网平台型企业在整个商业生态圈中的数字牵引与生态化治理功能，以算法应用场景为分类标准，对应用人工智能的相应的企业进行社会责任治理牵引，通过平台企业牵引的各类用户（商家、消费者、互补者等）与社会性利益相关方实现平台企业对不同商业生态圈中不同生态位的治理责任赋权，明确不同生态圈中的技术开发者、竞争性算法开发平台、消费者用户、监管主体与其他社会公众构成的主要生态位与扩展型生态位）在基于数字智能平台所打造的商业生态圈中的算法治理的权限与义务。在社会生态层面强化社会公众对算法治理的社会期望与舆论引导治理功能，最大程度地缩短社会公众与算法之间的知识距离，强化社会公众中的专业人士在算法治理中的认知引导功能，尤其是对于算法开发与人工智能协会需强化对算法设计的透明度要求，最大程度提高算法透明度，细化算法开发者与算法应用者的基本法律责任与社会责任。

来源：微信公众号： 清华管理评论，https://mp.weixin.qq.com/s/fch9_gDwYtjwOQg6axEnfg 发表时间：2021年6月28日