作为同一互联网平台的用户,忠诚度更高、消费能力更强的VIP用户在某项服务上的花费要比新客户多得多,甚至服务质量都不如新客户。相信很多人都遇到过这种“人不同价不同”的情况。
这背后其实是算法在“玩花样”中的不合理应用。
近年来,算法的应用为社会经济发展注入了新的动能。与此同时,算法歧视、“扼杀大数据”、诱发沉迷等算法不合理应用引发的问题,也深刻影响了正常的传播秩序、市场秩序和社会秩序。在此背景下,国家网信办等四部门近日发布《互联网信息服务算法推荐管理规定》(以下简称《管理规定》)规范“查杀大数据”。业内认为,《管理规定》的推出,意味着算法推荐相关行业开始进入严格监管时代。
价格可“私人定制”
越是熟客价越高
记者在某消费者投诉服务平台进入“大数据查杀”,跳出了2073条投诉,包括主流电商平台、外卖和网约车平台等。
一位在该平台投诉的消费者表示,使用某App购买套餐时,不同手机会同时显示不同金额,显示同一个套餐;也有消费者投诉。网上预订酒店标准间时,页面价格为87元/晚,但付款后,价格降至5元。
除了普通消费者外,互联网平台“吐槽”的部分VIP会员并没有享受到更好的待遇。一位消费者说,他在某购物软件上购买路由器时,作为会员的账户购买价格显示为649元,而普通账户只需要579元。
此外,记者梳理了消费者投诉记录,注意到很多大型互联网服务平台都出现了用户“扼杀大数据”的情况。
一位从事大数据相关工作的业内人士向记者透露,目前大型互联网公司确实存在“扼杀大数据”的现象。他们不仅使用自己积累的数据,还从外部购买和收集数据。
为了找出答案,记者有过一次经历。在某社交平台上,用户孟梦(化名)的账号已经是VIP会员,记者本人也申请了新账号。在同时购买一个会员一个月的情况下,记者只需要花费12元,平台会多给一个会员一个月,但是孟梦需要花费15元,平台只给会员15天。
显然,两人被平台“区别对待”,却被平台“扼杀”。
无锡市数字经济研究院执行院长吴琦对记者表示,“扼杀大数据”屡禁不止的原因是,从平台商家的角度来看,常客基本都是会员,能够通过非免费方式花钱或成为会员的用户大多是忠诚度较高、消费力较强的用户,他们的消费需求相对较为刚性。这些用户对价格相对不敏感,更注重消费效率和体验。此外,平台与用户之间信息不对称,平台通过数据分析、页面设置、信息隐藏等方式展示高价商品,让用户在不知不觉中“被杀”。
“从监管部门的角度来看,相关法律法规有待完善,尤其是电商平台的定价标准,导致平台大数据非法查杀成本较低。”吴琪说。
"使用算法推荐为个人定制不同的信息和服务有两个风险."中国信息安全研究院副院长左晓东表示:一是保护用户个人信息的风险,平台运营者可能会违法违规收集、滥用公民个人信息;二是算法操纵风险,因为每个人收到的信息和使用的服务都是互联网平台运营商定制的,可能会引发舆情安全风险。因此,加强算法
比如,2021年4月13日,市场监管总局会同中央网信办、国家税务总局召开互联网平台企业行政指导会,指出“实施‘扼杀大数据’等问题必须认真整改”;2021年7月2日,市场监管总局发布的《价格违法行为行政处罚规定(修订征求意见稿)》也规定了电商平台经营者使用“大数据查杀”。2021年11月1日实施的《中华人民共和国个人信息保护法》强调个人信息不宜过度收集,禁止商家通过自动化决策“扼杀大数据”。
值得注意的是,近期发布的《管理规定》明确了算法推荐服务商对用户权益保护的要求,包括保障算法知情权、要求用户了解提供算法推荐服务的情况、宣传服务的基本原则、目的和意图以及主要运行机制等。要求“根据消费者的喜好、交易习惯等特点。不合理差别待遇等违法行为不应通过使用算法对交易价格等交易条件实施”。
“这对网络销售、生活服务、社交娱乐、信息、金融服务、计算应用等领域的互联网平台企业影响很大。”吴琪说,这些企业依靠海量数据和算法,为成千上万的人做出智能推荐,每个用户推荐的产品内容都不一样。根据规定,用户对算法有知情权,平台需要告知用户其提供的算法推荐服务,公示服务的基本原则、目的、意图和主要运行机制,明确相应的处罚机制。
国家互联网信息办公室相关负责人表示,在互联网信息服务领域出台有针对性的算法推荐规章制度,既是防范化解安全风险的需要,也是促进算法推荐服务健康发展、提升监管能力水平的需要。
严肃整治
促算法推荐服务健康发展
记者注意到,在《管理规定》于今年3月1日正式实施前,部分投资者在沪深交易所互动平台上对相关上市公司“大数据杀熟”和收集个人信息业务等情况进行提问,有公司回复称已在积极布局。
一家电子数据收据收集企业表示,公司目前在检测取证和数据安全方面推出了执法端和企业端相关产品,专门针对Android恶意应用行为进行动态分析,全方位对App行为实时分析,如App读取用户信息、操作用户行为等分析,为个人隐私保护提供了快速和专家型的检测方案。
贵州数据宝产品研究院院长李可顺认为,通过算法驱动的公司,在《管理规定》发布实施后,用户在整个服务使用过程的干预会减少,平台算法会逐渐向合规方面调整,部分流量可能会流失,但市场竞争会更加公平。
一位为互联网平台提供数据服务的业内人士认为:“算法管理新规加持个人信息保护法,能够对相关企业产生震慑力,规范整个行业良性运行。”
国家互联网信息办公室有关负责人表示,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善,营造更加清朗的网络空间。
“接下来,监管层、行业和企业要形成协同治理的模式。”在吴琦看来,监管部门需完善协同治理的政策法规体系,依法依规查出违法违规行为;平台企业应切实履行主体责任,建立健全相应的管理制度和技术措施。
