四部门推“信息茧房”防范机制

时间： 2024-11-26 04:56     

来源：北京商报

针对网络平台算法典型问题治理，专项行动来了。11月24日，中央网络安全和信息化委员会办公室秘书局等四部门联合发布关于开展“清朗·网络平台算法典型问题治理”专项行动的通知，决定自即日起至2025年2月14日，开展对信息茧房、热搜榜单、新就业形态劳动者权益、大数据“杀熟”等六个方面的算法治理。有关分析指出，专项行动开展落实，将进一步维护用户合法权益，提升用户体验和满意度；促进网络空间的健康、有序发展；以及推动技术创新与监管并重，确保算法技术的健康发展。

严禁大数据“杀熟”

据悉，此次专项行动主要聚焦信息茧房、热搜榜单、新就业形态劳动者权益、大数据“杀熟”、算法向上向善、落实算法安全主体责任六个方面。

工信部信息通信经济专家委员会委员盘和林对北京商报记者表示，算法推荐带来的问题有很多，上述六个方面涉及到消费者权益、社会信任、市场公平竞争以及社会公共安全，是全社会广泛关切的重点，需要优先进行治理。

具体来看，通知提出，深入整治“信息茧房”、诱导沉迷问题。包括，构建“信息茧房”防范机制，提升推送内容多样性丰富性；规范设置“不感兴趣”等负反馈功能。提升榜单透明度打击操纵榜单行为。包括，全面公示热搜榜单算法原理，提升榜单透明度和可解释性；完善榜单日志留存，提高榜单算法原理可验证性。健全水军刷榜、水军账号等违规行为、账号检测识别技术手段。

同时，防范盲目追求利益侵害新就业形态劳动者权益。包括，严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题；详细公示时间预估、费用计算、路线规划等算法规则。严禁利用算法实施大数据“杀熟”。包括，严禁利用用户年龄、职业、消费水平等特征，对相同商品实施差异化定价行为；提升优惠促销透明度，清晰说明优惠券的领取条件、发放数量和使用规则等内容；客观如实说明优惠券领取失败原因，严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

此外，增强算法向上向善服务保护网民合法权益。包括，持续优化完善面向未成年人、老年人的算法推荐服务，便利未成年人、老年人获取有益身心健康的信息；建立健全算法在赋能优质内容传播、违法行为识别发现等方面的社会治理应用。落实算法安全主体责任。包括，健全算法机制机理审核、数据安全的管理制度和技术措施；确保算法的训练数据具有合法来源，及时检测修复代码安全漏洞和算法逻辑缺陷，定期对算法模型的可用性、可控性、可解释性以及数据处理、模型训练、部署运行等环节开展安全评估。

北京市社会科学院管理研究所副研究员王鹏指出，此次对信息茧房和热搜榜单问题的整治比较关键。直接关系到网络信息的传播和用户的认知，对于营造健康、多元的网络环境具有重要意义。如果任由算法推送高度同质化内容或操纵榜单炒作热点，将严重损害网络信息的真实性和多样性，误导用户的选择和判断。

用算法治理算法

“随着专项行动开展落实，将进一步维护用户合法权益，提升用户体验和满意度；促进网络空间的健康、有序发展；以及推动技术创新与监管并重，确保算法技术的健康发展。”王鹏说。

根据通知，从工作安排来看，此次专项行动自即日起至2024年12月31日将组织企业自查自纠；2025年1月1日—31日，将核验企业自查情况；2025年2月14日前完成深入评估治理成效。同时，在专项行动期间，开设举报受理渠道。

盘和林指出，此次行动后应该会有接续性措施出台，例如，第三方机构和成熟统一的评估标准可能在这次指导文件发布后逐步完善。这需要时间，也需要政府配备相关人才等资源。

实际上，近年来，为更好地驾驭算法，使之造福于公众和社会，算法治理工作逐渐走向常态化和规范化。国内此前印发《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等政策文件，以及国外欧盟通过实施《通用数据保护条例》（GDPR），对数据处理和个人隐私保护提出了严格要求等。

值得注意的是，这当中也有不少通过算法来治理算法的尝试。例如，在此次通知中也提出，为推动算法导向正确，将建立健全用于识别违法和不良信息的特征库，积极探索应用于识别违法和不良信息的算法、技术，防范和抵制传播不良信息。

中国信息协会常务理事、国研新经济研究院创始院长朱克力对北京商报记者表示，用算法治理算法是一种创新的监管方式，它利用技术手段来应对技术挑战，具有高效、精准等优势。但成功实践这一方式也并非易事。难点在于如何确保监管算法的准确性和公正性，避免其被滥用或误用。同时，监管算法与被监管算法之间的动态博弈也是一个需要关注的问题。

“要突破这些难点，需要建立严格的技术标准和评估体系，对监管算法进行定期审查和更新。此外，还需要加强法律法规建设，明确算法治理的法律边界和责任主体。后续措施方面，需要加强跨部门、跨领域的协作机制建设，形成合力共同应对算法治理的挑战。同时，还需要加强公众教育和参与，提高社会对算法治理的认知度和支持度。”朱克力说。

北京商报记者 卢扬 程靓