“算法严监管”时代来临:四部委新规剑指平台“大数据杀熟、二选一”
华夏时报(www.chinatimes.net.cn)记者 徐芸茜 见习记者 程阔 北京报道
大数据时代下,部委算法成为连接人和虚拟世界的新规枢纽。而算法的剑指据杀不规范使用也导致了算法歧视、信息茧房、平台大数据杀熟、算法熟选饭圈文化、诱导沉迷等问题。
1月4日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(下称《规定》),自2022年3月1日起施行。
值得注意的是,算法推荐服务被从互联网应用中单独剥离出来为其单独制定管理规范,实属国内首次。
北京高勤律师事务所合伙人王源对《华夏时报》记者表示:“算法一定程度上决定了信息的内容,决定了用户能看到了哪些信息,将对舆论、价值观产生影响。因此,算法单独剥离出来进行规范是十分必要的。未来3年,算法将是一个被监管的重点。”
“对算法单独剥离出来进行规范,即是规范算法推荐行业的客观需求,也与国外实践相一致。”西南政法大学数字经济与法治研究中心研究员邓若翰告诉本报记者。
此外,《规定》还对“大数据杀熟、诱导沉迷、二选一”等问题做出了相应规定。
为何对算法单独剥离出来进行规范?
算法被单独剥离出来进行规范实属国内首次。
据了解,目前算法推荐技术是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。但算法自身的特质导致了一系列的问题。
算法根据用户兴趣将大量同质化内容被推送给用户,用户长期只能获取有限来源和单一倾向性的信息,导致用户被束缚在“信息茧房”中;而算法机制的不完善,导致外卖骑手在算法的“逼迫”下,陷入了“送餐只能越来越快、越来越不顾自身安全”的困局;而兴起“电饭煲测试”,则是暴露了电商平台上的算法歧视。
邓若翰表示:“算法系统因其自身在形成、运转和更新层面的诸多特质,其具有一定程度的独立性。”
他从技术层面向记者指出:“机器学习算法的培育更多采用‘设计者输入训练数据,算法自主学习这些数据’的方式进行,因此,即使算法的设计者也仅能掌握输入算法的数据,而无法把握算法学习的结果;其次,算法在运营过程中,通常会根据市场产生的新信息和自身输入的数据进行自我更新,进而保证其对于市场环境变化的适应性,但这也使得算法的更新和发展在一定程度上不受算法设计者和运营者的控制。而算法黑箱的存在使得算法的设计者和运营者仅能把握算法的输入数据和输出结果,而具体的分析和决策过程则难以被设计者和运营者知晓。”
“倘若不对算法进行单独的规范,并针对算法系统的特征设计相应的监管措施和风险防范规则,那么仅对算法运营企业进行约束的规制模式更多容易陷入‘隔山打牛’的窘境,即企业不仅不知道该如何约束算法,同时也倾向于将算法引发的问题归咎于‘技术失灵’,进而免除自身的管理责任。”邓若翰指出。
此外,邓若翰还认为,“算法推荐引发的信息茧房、思维诱导等问题已逐渐对整个社会公众的舆论、文化和价值观念产生影响,进而具有一定的公共属性,这也是监管部门应直接对算法予以规制的重要原因。”
禁止“大数据杀熟、诱导沉迷、二选一”等
算法作为互联网时代的产物,其双刃属性带来了正反两方面的影响,如何扬长避短,发挥其正面效果成为重点。
目前,我国已对网络安全、数据安全、个人信息安全等作出相关顶层设计。
在2020年印发的《法治社会建设实施纲要(2020-2025年)》中提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。而随后陆续出台了《网络安全法》《数据安全法》《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件。
而此次《规范》从信息服务规范和用户权益保护两方面制定了详细的规定,避免算法的负面效果。
国家互联网信息办公室有关负责人表示:“出台《规定》主要基于以下两个方面的考虑:一是深入推进互联网信息服务算法综合治理的需要。二是积极促进算法推荐服务规范健康发展的需要。”
针对“二选一”的问题,《规定》第十六条明确了算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。
“大数据杀熟”的问题在第二十一条也作了明确规定,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
此外,对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的,《规定》的第十八、十九、二十明确了具体要求,如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。
算法驱动行业将迎来洗牌
“《规定》的出台意味着算法推荐相关行业开始迈入‘算法严监管’的时代。”邓若翰表示。
以算法驱动的企业势必要面临成本提升和盈利被压缩的情况。他表示:“《规定》提出的算法安全主体责任、算法评估验证机制、信息安全管理机制等算法管理机制以及算法解释义务、自然搜索结果提供义务等义务,必将在很大程度上提高算法驱动公司的合规成本。大数据杀熟、信息茧房等问题的扼制亦在一定程度上限缩了算法驱动企业的盈利空间。”
“企业正从数据驱动向算法驱动的转变,现在并不是数据掌握了多少,而是谁的算法更为先进、有效。”王源向本报记者点出此类企业的现状。
如何寻找新的、规范化的盈利增长点亦成为摆在算法驱动公司面前的难题。
邓若翰认为,“可以预见,相关公司必然将迎来‘阵痛’,在此期间,资金基础薄弱的、营利模式不成熟的、算法系统不完善的企业可能面临被淘汰的可能。”
邓若翰还补充道:“《规定》的出台仅仅是走出了算法规制的第一步,其中算法评估验证、算法解释等部分机制存在规定较为模糊的问题。要充分发挥《规定》的制度功效,标准化必然成为下一步亟待解决的问题。譬如,算法推荐服务的‘基本原理’包括哪些,应解释到什么程度,‘适当方式’包括哪些方式等等,均有待进一步完善。”
贵州数据宝产品研究院院长李可顺告诉《华夏时报》记者:“市场监督需要有效,必须企业整个运营过程及数据需要足够透明。算法设计的技术多样性、计算过程复杂,且部分算法解释性差,无法足够透明,会影响市场监督的有效性。”
不过,记者了解到,目前我国并没有算法的相应标准和实施准则。因此,“算法规制”的时代已来,但仍还有很长一段路要走。
责任编辑:徐芸茜 主编:公培佳
(责任编辑:休闲)
-
女人青秋逝世少论题剧《机警的上半场》开播以去,正在微专、抖音等仄台热播剧散榜均尾伸一指。该剧回支女人群像视角讲事,以每一散一个单元论题的形式,陈说了四个女孩正在小大教里的逝世少故事。该剧果多少回扔出社 ...[详细]
-
政策加码提振环保板块,龙头股伟明环保股价连创新高「环保周评榜」
摘要:《华夏时报》记者根据同花顺相关数据梳理发现,环保板块内有100只股票上涨,其中华宏科技31.58%)、*ST飞马24.7%)和伟明环保23.09%)涨幅靠前,12只个股涨幅超过10%;1只个股持 ...[详细] -
摘要:为持续改善农村生产生活环境,不断提升群众生活的幸福感和满意度,龙口市紧盯问题和短板,以突出重点、全域推进、持续提升为原则,坚持党建引领、高位推进、多方联动,立足机制创新、提质拓面、循环利用、共建 ...[详细]
-
2021年央企成绩单公布:全年营收36.3万亿创历史最佳,国企改革70%目标顺利完成
摘要:对于2021年国企改革方面的成绩,IPG中国首席经济学家柏文喜对《华夏时报》记者表示:“国企改革的最大优势就是提升企业活力和运作效率,实现国有资产的保值增值以及有效发挥对国民经济发展与平稳运行的 ...[详细] -
本报讯记者刘杰)记者从日前召开的全市2021年秋冬季国土绿化工作会议上获悉,今年秋冬季,我市将以“三沿四旁”为重点,统筹推进城乡一体化绿化,通过“见缝插绿、拆围植绿 ...[详细]
-
摘要:两天之内,高层8次重磅表态,调控直指煤炭价格!10月20日,国务院常务会议罕见地将“确保人民群众安全温暖过冬”列为重要议题,直指煤炭市场炒作。 ...[详细]
-
央企搬迁进行中:总部将向新区疏解,北京城市副中心将成这两类央企聚集地
摘要:大数据业务分析师、中国人民大学副教授王鹏对《华夏时报》记者表示:“北京目前对于‘城’和‘都’的关系定位非常明确,北京的定位是政治中心,因此,其他的城市功能就需要对外叠加,也就是对外转移到城市副中 ...[详细] -
"猪茅"牧原股份去年净利预降超70%,股价却不降反升,进场的17万股民抄到底了吗?
摘要:IPG中国首席经济学家柏文喜在接受《华夏时报》记者采访时表示,生猪养殖企业应该从规模化、集约化以降低成本增强竞争力之外,还应从推进产业链垂直整合的角度来提升对猪周期的应对能力,这也是双汇与牧原结 ...[详细] -
7月8日8时许,正在海上游离远17个小时的3名遇险公共,被负不断责喧嚣搜救任务的辽宁海警榜首支队海警21115舰乐成救起,古晨遇险公共现已被转移至医院就医。7月7日23时,辽宁海警榜首支队接小大连市公 ...[详细]
-
摘要:应重点提高共同富裕的先行示范区对经济人口的承载力,同时加大对欠发达地区的支持力度,逐步缩小欠发达地区和发达地区在居民公共服务水平、基础设施等方面的差距,通过区域协调发展推进共同富裕。 ...[详细]