算法监管元年开启:剑指“大数据杀熟”

日期:01-05
大数据算法

原标题:算法监管元年开启:剑指“大数据杀熟”新闻推荐平台需获服务资质

1月4日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》),自2022年3月1日起施行。

在此前征求意见稿的基础上,《规定》新增禁止“大数据杀熟”,要求不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇;算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得服务许可,不得传播非国家规定范围内的单位发布的新闻信息;保障老年人依法享有的权益,便利老年人安全使用算法推荐服务等要求。

“加强数据和算法的立法和监管,是和数字经济的发展同步的。”世辉律师事务所合伙人王新锐表示。考虑到绝大多数经济体之前均已有成体系的个人信息保护立法,如果说我国的个人信息保护监管主要是“补课”的话,算法监管某种程度上是优等生才需要做的“加分题”。

当前,对互联网行业的监管步入深水区,从对行业的规范、企业的约束逐渐走向对互联网运行逻辑、运行规则的治理,多位受访专家表示,《规定》的公布,或将开启2022算法监管元年。

剑指“大数据杀熟”与“二选一”

《规定》保障用户权益,禁止“大数据杀熟”,要求不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。相较征求意见稿,《规定》新增第十五条规定,要求不得利用算法实施垄断和不正当竞争的行为,剑指“二选一”与自我优待。对于电商、外卖、旅行、搜索类平台,需密切关注,及时予以预防与制止。

《规定》第十五条提到,算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。

“此条款延续的是《反不正当竞争法》的思路,无论什么规模平台,实施这种行为都会被禁止。”清华大学国家战略研究院特约研究员刘旭表示。《反不正当竞争法》第十二条对利用网络从事生产经营活动的经营者行为进行规制,要求经营者不得利用技术手段,通过影响用户选择或者其他方式,实施相关妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为。

北京师范大学网络法治国际中心执行主任吴沈括指出,“二选一”的隐蔽形式还体现在平台利用算法对信息推荐进行有倾向性的集中展示,即对某种竞争对手的集中负面展示,而对平台自身与自己生态圈内合作伙伴的集中赞颂展示,通过内容的曝光度给予优待,新增的第十五条也是对此类行为进行规制。

对于利用算法实施垄断的行为,在国家市场监督管理总局2021年4月10日公布对阿里巴巴的处罚决定书中已有涉及。该处罚决定书提到,在阿里巴巴采取多种奖惩措施保障“二选一”要求时,其凭借市场力量、平台规则和数据、算法等技术手段,对不执行阿里巴巴相关要求的平台内经营者实施处罚,包括搜索降权等。可见,如果具有市场支配地位的经营者通过推荐算法实施这类行为,会按照《反垄断法》予以查处。

国家市场监督管理总局反垄断局2021年9月发布的《中国反垄断执法年度报告(2020)》中也提到,互联网平台存在利用平台规则、数据、算法、技术实施垄断行为的风险。例如,互联网平台可能滥用其在数据、算法、技术和平台规则方面的优势实施“算法共谋”“大数据杀熟”。基于大数据和算法,根据交易相对人的支付能力、消费偏好、使用习惯等,实行差异性交易价格或者其他交易条件等行为,可能构成滥用市场支配地位行为。

今日头条等平台需取得许可并审核信息发布者资质

信息化时代,互联网推荐算法最受诟病的问题之一,就是以大量同质化内容占据受众讯息接收渠道,导致用户长期只能获取有限来源和单一倾向性的信息,在平台内容信息提供者鱼龙混杂,信息质量层次不齐的环境中,极易形成个体用户的“信息茧房”。

本次公布的规定延续了征求意见稿中关于算法内容分布优化的规定,第十二条指出,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略。

2021年8月27日,在该规定征求意见稿公布当日,网信办就曾发布加强“饭圈”乱象治理的通知,提出“取消明星艺人榜单”“优化调整排行规则”等10条工作措施。网信办指出,在音乐作品、影视作品等排行中,降低签到、点赞、评论等指标权重,增加作品导向及专业性评价等指标权重。不得设置诱导粉丝打榜的相关功能,引导粉丝更多关注文化产品质量。

此外,《规定》要求赋予用户选择权。其第十七条要求,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭的,应当立即停止提供相关服务。这与2021年11月1日正式落地的《个人信息保护法》中,关于个人信息权及撤回同意的相关内容保持了一致。

值得注意的是,本次正式发布的规定在征求意见稿基础上,新增第十三条,要求算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得服务许可,规范开展新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。

王新锐表示,该法规与《互联网新闻信息服务管理规定》一脉相承,之前该规定列举了“互联网站、应用程序、论坛、博客、微博客、公众账号、即时通信工具、网络直播等形式”,这次把算法推荐也纳入其中。

上海申伦律师事务所律师夏海龙则指出,除媒体自建的APP、新闻网站外,该条款主要针对今日头条等不从事新闻采编业务的各类信息聚合、分发服务提供者:“这要求相关平台在推送内容前需要对新闻内容、发布者资质进行一定审核,否则有可能推送违规新闻信息。”

突出用户选择、删除标签权

除进一步明确和强化互联网平台算法监管在反不正当竞争、反垄断与规范内容来源等方面的合规要求,正式发布的《互联网信息服务算法推荐管理规定》也对先前征求意见稿进行了一些精细化、人性化的调整与补充。

记者注意到,本次发布《规定》的第十七条在征求意见稿第十五条的基础上,删去了“算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能”中,向用户提供“修改”用户标签功能的表述,只要求其向用户提供“选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”。

北京航空航天大学法学院助理教授赵精武认为,删除“修改”主要有两点原因:一是平衡用户和平台之间的权益诉求,众多用户不同的修改需求无疑会大幅增加企业运营成本,也会存在过度干预企业自主经营活动的风险;二是允许用户修改用户标签在技术层面实现难度较大。

当前,国外在算法监管层面主要赋予用户知情权、反对权等权益,如欧盟《通用数据保护条例》赋予用户知情权、免受自动化决策权等权利。

赵精武指出,删除“修改”反映了算法监管层面的穿透式监管思路,即穿透推送服务的表面特征,直接对可能影响用户权益的技术方案、信息服务内容进行实质监管,同时兼顾平台服务者的权益诉求,突出“安全与使用并用”的监管特征。

“如果赋予用户对算法服务的反向修改权,实际上突破了算法服务单向化、自动化的基础运行逻辑,因而会不适当地增加算法服务者的义务。”夏海龙表示,保障用户对算法服务享有充分的选择权、拒绝权,既足以保障用户不因算法受到损失,又不会明显加重算法服务者的义务,能够实现双方利益的合理平衡,明显降低了新规对行业的限制效果,说明监管思路更加符合行业实际,也更加科学、合理。

值得注意的是,在此前征求意见稿有关算法对未成年人提供服务的相关规定基础上,本次正式发布的《规定》新增第十九条,要求算法推荐服务提供者向老年人提供服务的,应当保障老年人依法享有的权益,充分考虑老年人出行、就医、消费、办事等需求,按照国家有关规定提供智能化适老服务,依法开展涉电信网络诈骗信息的监测、识别和处置,便利老年人安全使用算法推荐服务。

夏海龙表示,关注青少年、老人等社会弱势群体的条款体现出监管积极回应社会关切、人性化的趋势,也是对尊老爱幼等传统美德的发扬。大部分老年人在视力、听力、新兴事物理解力等方面要弱于青壮年用户,因此算法适老化改进,应尽可能突出与简化联系家人、就医、紧急呼救等相关服务功能的使用步骤和理解难度,同时防止老年人在算法推荐信息中接触到电信诈骗等内容。

王新锐指出,本次新规中提出的建立健全算法机制机理审核、科技伦理审查等要求,未来都会陆续成为大型平台公司的标配,而对算法的评估和调整,在企业内部至少涉及到技术、产品、法务等多个业务部门,如何统一认识,保证全流程合规,考验着互联网大型平台企业的管理水平。

“从推荐算法的技术逻辑和商业逻辑来说,更加精准都是其天然的导向,但这和保护个人信息、公平竞争有时并不天然兼容,甚至可能激烈冲突。”他续称,这就需要立法和监管有限度介入。

(作者:吴立洋,张雅婷编辑:王俊)

周杰伦带火 A股NFT潮再起 不妖魔化算法 但也不合理化算计
相关阅读: