算法向善，从化解算法沉迷做起

算法向善，从化解算法沉迷做起

       伴随着移动互联网时代的到来，以算法为核心的人工智能技术不仅重塑了智能科技的发展业态和发展格局，也极大改变了社会生活形态，人工智能医疗、自动驾驶等前沿应用以及大数据分析、个性化营销等商业应用都逐渐走入寻常百姓家，而其中都离不开算法的巨大作用。可以说，人们的生活已被嵌入“算法”之中，在享受其带来的便利的同时，也有相当一部分人产生了“算法依赖”乃至于“算法沉迷”的问题。2021年，北京大学互联网发展研究中心发布的《中国公众“大安全”感知报告》显示，有七成受调查者感到算法能获取自己的喜好、兴趣，从而“算计”自己。由此可见，算法的出现，在某种意义上“反噬”了人的主体性，而导致这一困境的原因，在于人们对算法发展还存有认识不足和监管滞后的问题。

       01

       作为一项新兴技术，算法目前呈现出的是一种“野蛮生长”的状态。正如国家互联网信息办公室有关负责人在介绍《互联网信息服务算法推荐管理规定》出台背景时所指出的，算法应用日益普及深化，在给经济社会发展注入新动能的同时，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题，也深刻影响着正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。算法应用对数字经济和数字产业创新发展的作用不可小觑，同时会影响社会认知和意识形态的塑造，故此，引导算法技术向善，妥善解决算法沉迷等社会关注度较高的问题，规避算法应用风险，发挥其在促进数字经济规范有序发展方面的功能，迫切而必要。

       02

       算法沉迷的出现，和算法背后的开发者的价值观有密切关系。算法的“算计”，归根结底是人的算计。以电子商务平台为例，由于现阶段市场竞争越发激烈、消费需求不断升级，传统的零售商业模式越来越显得吃力，电商平台经营者必须要想方设法提高注册用户数量、活跃用户数量和商品交易额等数据，而基于算法能力的提升，通过个性化营销和推送的手段，将能有效击中用户的个人兴趣和爱好，从而实现提升用户黏性的目标。而除了电商平台后，社交平台、网络娱乐平台等其它类型的应用也都出于盈利的需求，而利用算法挖掘用户的兴趣与需求，在为用户营造“信息茧房”后，推动用户形成路径依赖。如果用户的确产生了难以割舍的使用习惯，甚至达到了成瘾性的程度，那么就会发生算法沉迷。为了培养更大的用户基数和使用习惯，以及尽可能的盈利，这对于平台企业来说无可厚非，也是其能够进行稳定经营的必要条件，但不可忽视的是，面对平台企业与算法的“算计”，用户往往处于弱势地位，既无法探究和掌握算法设计及运行的背后逻辑，也难以向平台企业主张个人信息保护、选择权等合法权益。

       03

       问题的答案显然是否定的。首先，无论是工作、学习、社交或者其他场景，互联网服务都已经占据了网络用户越来越多的时间，而应用于其中的算法技术已经足以对社会生活乃至于意识形态形成支配力，算法沉迷正是表现之一，对其进行规制具有正当性；其次，无论是算法技术的研发和优化，还是算法推荐的日常运行，归根到底都是由相关企业利用算法构建起了一套商业模式并从中获利，因此必然会涉及企业的价值观和主观意图，并且企业也能预见算法运行的基本结果。当技术使用者的价值取向和利益追求体现在算法的效用状态中，算法就不再是中立的状态。总之，算法在网络平台的硬件基础设施（架构）、应用程序均扮演着核心角色，也会对用户的信息获取和价值观产生重要影响，决不能任由算法无序地收集数据和分发信息。

       04

       当然，对算法沉迷问题进行治理，以及对算法展开监管，也不能忽略算法技术的创新发展需求。当前，我国正处于百年未有之大变局的战略环境下，人工智能作为我国突破技术霸权的一个关键维度，迫切需要更多的创新土壤来保障其得到持续性的进步。无论是在立法、执法还是司法层面抓牢、压实主体责任，也不意味着放弃鼓励发展算法技术。因此，对于公权力机关而言，亦应兼顾好发展与安全的关系，及时出台可操作性强的法律法规和管理规定，既引导平台企业切实承担起主体责任，防患于未然；又鼓励技术创新，减少、移除算法技术发展和应用面临的不必要障碍，采纳更具有科学性和灵活性的监管手段，共同促进算法向善目标的实现。