侠客岛:把算法关进笼子里

日期:03-04

作茧自缚,困锁其中,听着就挺郁闷吧?不少人都有这经历。

比如岛叔刚念叨“今天做点啥选题呀,想得头发都掉了”,视频APP立马推荐“要想治脱发,就用xxx”;一个手滑不小心,APP就天天给推荐“这几个生活习惯会致癌”;刚在这个界面刷到某个商品,转头购物APP疯狂给你推送……

这是典型的被算法控制。最近,国家网信办公布新规,专门管理“互联网信息服务算法推荐”。

(图源:网络)

(图源:网络)

算法推荐,大家不陌生,通过抓取用户数据、分析喜好,实现精准推送。

这能提高推送效率,但易使人局限在固定领域,无法获取全面客观的信息。若不慎点了违法不良信息,还可能被平台打上标签,类似推送接踵而至:虚假广告、小道消息、香艳八卦、“科普”伪料……管他真假高下,只管“投其所好”。

算法推荐背靠海量数据、精密计算,投用户所好,把他们吃得死死的。不加甄别,很可能吃亏:有人惨遇假郎中,有人被平台“杀熟”,还有人中了假明星的招……

视频网站上,“当红明星”一张俊脸,话语痴缠:“我没有等风没有等雨就是在等你”。屏幕这端心旌摇荡,屏幕那侧,“点一点小红心”“买个贵妇霜吧”。

有人不接受洗脑,却逃不开算法控制。比如困在系统里的外卖骑手,在平台算法与数据驱动下,骑手配送时间被压缩,被迫超速、逆行、闯红灯;岛妹曾看到骑手摔倒在地,匆匆抹去头上血痕,继续送餐。路人劝他去医院,他说“要超时了”。

算法简化了红灯与路况,不考虑排队和电梯升降时间,所谓冷峻理性背后,是走向极端的效率经济导向。有学者说,“把决定权交给机器,有很大的公平可靠性风险”。由此细思,被困在系统里的何止外卖小哥?

更严峻的还有安全问题。如果算法如脱缰野马,假新闻、针对性政治谣言、煽动性恐慌信息等,很容易带来“舆论战”“认知战”等风险,不得不察。

(图源:央视)

(图源:央视)

越来越多人看清算法的影响,直言“自己不想被控制”。北京大学互联网发展研究中心2021年发布的报告显示,7成受访者认为算法能获取使用喜好并“算计”自己,5成受访者则称“被算法束缚,想逃”。

本次出台的管理规定抓住了许多要害。比如针对饭圈乱象、“互撕”“控评”,新规要求不得利用算法操纵榜单、控制热搜,干预信息呈现。要知道,长久以来,深谙“流量可变现”的明星团队热衷于炒话题、引骂战、精神控制粉丝,给网络增添一股子拜金、暴戾气息。要扶正走歪的价值取向,必须在算法中搭建平和稳健的筛选标准。

又如,现在零工经济蔚然成风,劳动者权益保障提上日程。外卖骑手、专车司机、家政阿姨等群体,就常在订单和好评间打转。有家政阿姨弯腰忙碌、饭也来不及吃,在系统催促下奔赴另一家;有处长体验了一天网约车司机之后感叹,“这钱挣得也太不容易”。

新规指出,应建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,保护劳动者取得报酬、休息休假等合法权益。同时,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等。

新规还特别提到两类群体:未成年人和老年人。前者甄别能力有待提升,易沉迷于网络或受不良信息熏染;后者因信息不对称,屡遭网络诈骗蒙蔽。因此,规定要求,不得向未成年人推送影响其身心健康的信息,不得用算法推荐服务诱导其沉迷网络;要充分考虑老年人出行、就医、消费需求,提供智能化适老服务,开展涉电信网络诈骗信息监测、识别、处置,助老年人安全用网。

作为新技术,算法本身并非洪水猛兽,关键看能不能用好,能不能发挥其提升效率、调配资源乃至精准化服务的优势,规避、约束其负面外溢效应。

中国数字经济发展正迎来新周期,此时对算法进行规范管理,有利于平衡技术设计与公序良俗,引导“算法向善”,破除信息茧房、算法黑箱等积弊,最终维护社会公共利益、保障国家信息安全。

说到底,人是“目的”而非“手段”,不应成为技术的奴隶。如何科学、精细、高效地把算法关进“笼子”,是信息时代无法回避也亟待破解的一道新难题。

责任编辑:张建利

两批宇航员将会师太空!首场“委员通道”透露这些重磅消息 全国政协委员莫天全:建议对不同家庭设定差异化首付比例