保护个人信息 为数字经济发展保驾护航 为“算法应用”制定规则

使用一个应用后，它可以“猜”出你喜欢的内容，并精准推送相关内容，滋生了“信息茧房”、“扼杀”大数据等问题。这种情况最近终于开始改变了。随着国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》正式实施，很多app都推出了算法关闭按钮，允许用户在后台一键关闭“个性化推荐”。专家表示，要继续压实平台责任，推动算法更好地应用，让算法更好地服务用户，促进信息服务业长期健康发展。

可一键关闭“个性化推荐”

参考网上的“攻略”，北京的王女士近日终于关闭了某社交应用中的“个性化推荐”服务选项。“再次打开这个app我就安心了”。

王女士之所以下定决心关闭“个性化推荐”服务，源于她之前遇到的一些不好的经历。在这份申请中，她曾经发表过关于皮肤干燥的声明。此后不断收到各平台关于面部“保鲜”秘诀的文章和美容产品的宣传广告，让王女士很不舒服。

移动互联网时代，每个人都在生产“数据”。此前，这些“数据”由平台通过各种方式收集，然后通过算法分析用户的行为、习惯、偏好，进而精准提供信息、娱乐、消费等各种服务。这种基于算法的技术创新在为用户提供精准信息服务的同时，也滋生了诸多问题。

《互联网信息服务算法推荐管理规定》(以下简称《管理规定》)近日正式实施，将算法推荐服务纳入全面监管。《管理规定》提出，算法推荐服务提供者应当为用户提供不针对其个人特征的选项，或者为用户提供关闭算法推荐服务的便捷选项。

推出后，多个平台都推出了算法关闭按钮，允许用户在后台一键关闭“个性化推荐”。用户关闭个性化推荐后，平台会根据内容的受欢迎程度进行内容分发，推送的内容会更加体现应用特点。不少网友表示，之前总是被“安排”看一些内容，关闭“个性化推荐”后，感觉看到了更广阔的世界。

记者体验后发现，目前大部分app仍默认开启“个性化推荐”，并不容易发现“个性化推荐”关闭按钮。以某电商应用为例，需要点击进入几个页面，然后在呈现的10多个选项中找到“个性化推荐”的关闭按钮。有用户认为这种设置方式很难说“方便”，其目的是让用户“知难而退”。

关闭个性化推荐是否意味着算法推荐技术走到了尽头？中国人民大学信息学院教授程分析，随着新规的实施，如何让个性化推荐更加规范是一个很大的挑战，但也促进了各类互联网平台的技术发展和进步，有利于加快相关行业的数字化转型和平台经济的健康发展。

合力推动产品向善

同样的订单，老客户比新客户付费多，用户质疑平台用算法模型“扼杀”大数据。《管理规定》提出，算法建议服务提供者向消费者销售商品或者提供服务时，应当保护消费者的公平交易权，不得利用算法根据消费者的偏好和交易习惯，对交易价格等交易条件实施不合理的差别待遇等违法行为。

中国信息安全研究院副院长左晓东认为，大数据的“杀熟”归根结底是用户个人信息被滥用造成的。要解决这类问题，首先要下大力气收集违反法律法规的用户个人信息，其次要保护诸如

“刷短视频、玩游戏的时候，并没有觉得时间过得很快，但每次放下手机，都发现好几个小时过去了。”在上海一家公司工作的陈先生感觉，每次拿起手机娱乐，就像中毒一样，停不下来。其他许多网友抱怨说，当他们重复浏览某种产品时，平台会显示一系列促销优惠，所以许多人盲目下单。

《管理规定》提出算法推荐服务提供者应定期对算法机制、模型、数据和应用结果等进行审查、评估和验证。且不应设置诱导用户沉迷、过度消费、违反法律法规或道德规范的算法模型。

北京大学社会与发展研究中心主任邱泽奇告诉记者，社会学把人的偏好分为两种理想类型。一种是理性，类似于人对事物的看法。这种对“自我”的偏好是人类认知偏好的一部分，容易形成“信息茧房”效应或“回音壁”效应；另一种是感性的，类似于人对事物的感受。人在情绪上容易被他人感染，容易产生“情绪传染”效应。

邱泽奇认为，在数字时代，很多产品都是动态产品，需要根据交互数据对产品不断进行优化迭代，通过产品升级、算法升级以满足用户需求。基于人类认知偏好的复杂性，企业除了承担产品责任，还要承担起相应社会责任，把用户纳入产品的开发、生产与服务中，通过政府、企业和用户共同参与、建立相应规则，不断推动产品向善、科技向善。

实现负责任的创新

近年来，一些企业利用算法注册虚假账号、雇佣网络“水军”，鼓动“饭圈”粉丝互撕谩骂、刷量控评；操纵干预热搜、榜单或检索结果排序；向未成年人推送不良内容……针对这些问题，《管理规定》提出“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度”“提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德”等措施。

从更深层意义看，因算法技术创新而衍生的一系列问题涉及科技伦理。中共中央办公厅、国务院办公厅近日印发的《关于加强科技伦理治理的意见》提出，加强源头治理，注重预防，将科技伦理要求贯穿科学研究、技术开发等科技活动全过程，促进科技活动与科技伦理协调发展、良性互动，实现负责任的创新。

中国社科院信息化研究中心主任姜奇平表示，从技术创新层面看，应推动算法技术回到正常轨道，比如单纯基于人们的偏好推荐阅读内容，错误之处在于对人的理解不足，把人理解成机器，没有考虑到人还具有自由意志。从价值伦理层面看，哲学上的善和伦理的本质都源于自由意志，因此应该在技术创新过程中把人之为人的一面、人和人的关系摆进技术里考虑。

专家认为，数字时代的算法技术创新应是一种负责任的创新，要进一步压实平台责任，确保科技活动符合科技伦理。只有坚持把消费者对信息服务的评判权置于采集权之上，才能更好把握个性化信息服务业态的发展方向，促进数字经济高质量发展。