随着监管体系的建立和算法规制的完善,算法应用将会迎来更加光明发展前景
扫描二维码
随时随地手机看文章
近日,国家互联网信息办公室就《互联网信息服务算法推荐管理规定(征求意见稿)》公开征求意见。征求意见稿提出,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。
被算法蒙在鼓里,离真相的偏差越来越大
算法推荐如硬币两面,一面是方便公民于信息过载中找寻所需、所想的信息,一面是阻碍公民于海量信息中寻求新知、跳出包围圈,一体两面,相克相生。本以为岁月静好,互不逾界,然而,随着资本的幕后操纵和平台的唯利是图,算法推荐的“茧房病毒”逐渐蚕食其仅存的一丝利好。“你的手机不再是你做主”“看似是你在上网,其实是算法帮你上网”,算法推荐强占了公民自主选择权,看似自主可控的行为,其实是被算法蒙在鼓里,无处不在的“隐形之手”控制着我们前行。如果说互联网是一块大蛋糕,那么算法推荐就好似一把刀,将其四分五裂,而参与其中的互联网网民仅仅食得一小块而已。
据不完全统计,当前基于算法的个性化内容推送已超过整个互联网信息内容分发的70%。运用算法技术确实提高了信息分发的效率,但弊端也显而易见——不管是上述的哪种推荐机制,都很少考虑信息的基本价值理性。人在技术面前不断被客体化,其背后是资本至上的“流量法则”,与之相伴而生的必然是一系列“算法焦虑”。
这种行为就是在充分利用人性的弱点,平台或许借此获取了流量,但也在无形中给受众筑起“选择性接触”和“选择性接受”的信息壁垒。置身其中,个体只能接触跟自己意见一致的信息,越来越难接触跟自己意见相左的信息。在这种日渐同化、窄化、极化的信息通道中,人们离真相的偏差越来越大,价值观异化越来越快,达成社会共识也越来越难。
打破算法推荐“围城”,确保用户自由“冲浪”
从算法推荐的载体上来分析,算法推荐服务是基于大数据分析下进行的推送服务,可见,算法推荐服务离不开互联网技术,亦离不开平台或者移动终端对于用户信息的采集、归纳和打包。算法推荐服务能够“手张得如此大,伸得如此远”,归根结底是用户失去对平台或者资本如何使用个人信息的知晓权以及否决权。平台肆意收取用户个人信息,才能知晓用户个人特征,才能为用户画像,进而实现算法推荐服务,这是资本或者平台通过算法推荐服务控制用户上网行为的完整闭环。因此,欲阻断算法推荐服务,还需从平台或者资本违法违规收集用户个人信息入手,切断算法推荐服务“源头活水”,才能更好的维护用户权利,确保用户自由的“冲浪”。
当然,作为算法治理的重要组成部分,同时也是一项新的制度,算法备案仍有待进一步健全与完善,优化细化相关内容,以提高科学性、合理性及合法性。
日前,多家互联网大厂的30条算法机制按照《互联网信息服务算法推荐管理规定》(以下简称《规定》),在互联网信息服务算法备案系统(以下简称“系统”)完成备案。国家互联网信息办公室(以下简称“网信办”)表示,新的备案信息还将持续更新。
这是《规定》自2022年3月1日正式实施以来,网信办首次集中公布完成算法备案的互联网企业产品信息。《规定》第二十四条明确要求,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。
本次公开,把算法分为个性化推送类、检索过滤类、排序精选类、调度决策类、生成合成类五大类。个性化推送类是大头,有18个备案。
在个性推荐类算法方面,不少平台会强调,采取措施避免同类型内容过度集中、造成信息茧房。比如,抖音算法备案显示:一方面,每次推荐都会选择用户过去不常观看的内容类目,进行一定比例的推荐;另一方面,每次获取推荐内容的过程中,会特别增加一条随机内容,来保障用户可见内容的多样性。
使用某个应用程序后,它就能“猜”到你喜欢什么,并且精准推送相关内容,滋生“信息茧房”、大数据“杀熟”等问题。这样的情况最近终于开始有了改变。随着国家网信办等4部门联合发布的《互联网信息服务算法推荐管理规定》近日正式施行,很多APP先后上线算法关闭键,允许用户在后台一键关闭“个性化推荐”。专家表示,要继续压实平台责任,促进算法应用向上向善,让算法更好地为用户服务,推动信息服务行业长远、健康发展。可一键关闭“个性化推荐”通过参考互联网上的“攻略”,北京的王女士最近终于将一款社交应用中的“个性化推荐”服务选项关闭,“再打开这个APP,感觉安心不少”。王女士之所以下决心关掉“个性化推荐”服务,源于此前遇到的一些糟心经历。她在这款应用里曾发表过皮肤干燥的言论,此后便在各个平台不断收到面部“保鲜”秘笈的文章、美容产品的推销广告,让王女士不堪其扰。在移动互联网时代,每一个人都在生产“数据”。
此前,这些“数据”被平台以各种方式采集,然后通过算法分析出用户行为、习惯和喜好,进而精准地提供信息、娱乐、消费等各类服务。这种基于算法的技术创新在为用户提供精准信息服务的同时,也滋生出不少问题。《互联网信息服务算法推荐管理规定》(以下简称《管理规定》)近日正式施行,将算法推荐服务全面纳入监管。《管理规定》提出,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。《管理规定》出台后,多家平台先后上线算法关闭键,允许用户在后台一键关闭“个性化推荐”。
用户关闭“个性化推荐”后,平台会根据内容的热门程度进行分发,推送内容更加体现应用特色。很多网友表示,以前总是被“安排”看一些内容,关闭“个性化推荐”后,感觉看到了更广阔的世界。记者在体验后发现,目前多数APP还是默认打开“个性化推荐”,要找到“个性化推荐”关闭键并不太容易。以一款电商应用为例,需先后点击进入数个页面,然后在呈现的10多个选项里找到“个性化推荐”的关闭按钮。有用户认为,这样的设置方式难言“便捷”,其目的是让用户“知难而退”。
关闭个性化推荐,是否意味着算法推荐技术走到尽头?中国人民大学信息学院教授程絮森分析,随着新规实施,如何使个性化推荐更加规范,是很大的挑战,但也相应促进了各互联网平台的技术发展进步,有利于加速推进相关行业的数字化转型与平台经济的健康发展。
在以大数据为基础、以算法模型创新为内核、以计算能力为支撑的智能浪潮中,规范算法显得尤为重要。如何防止算法沦为“算计”,成为近年来日益受到关注的话题。特别是,由于信息占有、技术应用等差异,平台相较消费者往往处于强势地位。因此,算法规制不能仅靠平台自觉,需要建立从国家法律到行业规范再到社会参与的全方位监督体系,让算法应用有章可循,让消费者权益保护有法可依。
目前,针对算法应用这一全新的治理课题,我国先后出台并完善了有关制度,加强相关领域的规范。比如,《数据安全管理办法(征求意见稿)》规定“网络运营者不得违反收集使用规则使用个人信息。因业务需要,确需扩大个人信息使用范围的,应当征得个人信息主体同意”。又如,《法治社会建设实施纲要(2020—2025年)》提出“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”“加强对大数据、云计算和人工智能等新技术研发应用的规范引导”。这些政策举措,充分彰显了我国加强算法规制、保障消费者权益、促进数字经济健康发展的决心。
规范算法应用,行业组织、企业自身和消费者也不能缺位。前不久,中国消费者协会召开“网络消费领域算法规制与消费者保护座谈会”,推动形成加强算法应用有效规制的共识。共识引导行动,行动夯实共识。为此,行业组织需要加强引领和督导,净化行业风气,有效维护消费者合法权益。消费者也应增强个人信息保护和依法维权意识,共同参与治理。作为掌握技术的企业,更应加强自律,切实承担应尽义务和责任,坚持正确导向,严格遵守法律规定,诚信应用算法。相关各方各司其职、各尽其责,才能共同推动算法应用规范有序发展。
可以预见,随着监管体系的建立和算法规制的完善,算法应用及相关行业将会迎来更加光明的发展前景。让算法应用规范起来,实现技术运用与商业伦理、社会价值的良性互动,才能提升用户消费体验,为推动我国经济社会高质量发展提供新助力。