查看原文
其他

程雪军:超级平台算法价格歧视的反垄断规制

程雪军 法治研究杂志社
2024-09-04






























程雪军,同济大学法学院助理教授、经济法治研究中心研究员、硕士生导师

文章导读

·摘要

在人工智能算法技术的驱动下,越来越多的超级平台将其运行、经营或管理的部分权限由传统的管理层下放至算法平台。作为一种人机交互(HCI)的决策机制,算法技术并非价值中立、完全理性的智能技术,其在一定意义上会将超级平台型企业的逐利本性发挥到极致,从而忽视企业应当具备的社会责任,并在实质上形成对消费者标签化的算法价格歧视。超级平台深度利用算法技术,往往具备公共性和私主体性的双重特征,其通过大量获取用户数据后实现“数据剥削”,冲破传统企业角色定位,享有类似公权力机关的资源调配和规则制定权并且可以实现对其他商主体的不公平欺压。然而,产生于传统商业模式下的现有法律,从根本上难以有效遏制超级平台算法价格歧视的异化风险。因此,我国需要采取新思路对超级平台的算法价格歧视构建反垄断规制体系:在算法价格歧视的反垄断规制原则上,需要坚持从数据保护到算法规制原则,强化反垄断法与算法的二元共治原则;在算法价格歧视的反垄断规制路径上,需要加强超级平台企业的数据合规建设,对消费者数据赋权以对抗“算法权力”,加强反垄断法与算法的共同治理。·目录
问题之缘起二、超级平台算法价格歧视的兴起与成因(一)算法价格歧视的技术基础(二)超级平台算法价格歧视的成因三、超级平台算法价格歧视的异化风险(一)利用算法价格歧视侵害消费者权利的风险(二)利用算法价格歧视形成超级平台的垄断风险四、超级平台算法价格歧视的反垄断规制体系建构(一)算法价格歧视的反垄断规制原则(二)算法价格歧视的反垄断规制路径五、结语

文章来源:《法治研究》2023年第1期


一、问题之缘起


近年来,在网络数据日益沉淀以及人工智能技术深化发展的驱动下,各个生活消费场景(如电子商务、智能出行、餐饮外卖、旅游酒店以及网络游戏等)纷纷出现各种超级平台,并且形成了各具特色的平台类型与功能。然而,什么是超级平台?目前学术界与实务界并没有达成统一定义。不过,根据国家市场监管总局于2021年颁布的《互联网平台分类分级指南(征求意见稿)》(以下简称《征求意见稿》)可知,所谓超级平台,它是指同时具备超大用户规模、超广业务种类、超高经济体量和超强限制能力的平台:在用户规模上,其年度活跃用户数不得低于5亿人;在业务种类上,其核心业务不得低于两类;在经济体量上,其市值或估值不得低于1000亿元;在限制能力上,其具有强有力的限制平台商户接触消费者的能力。诚然,超级平台企业基于大数据、人工智能等技术手段通过算法(Algorithm)优势为消费者提供了丰富多样的产品或服务,为社会经济发展创造了一定价值,具有相当程度的正外部性。然而,超级平台企业并非总是具有正外部性,它们同样可能过度使用人工智能算法技术,存在着较为严重的侵害消费者权益的行为,从而引发学术界与实务界的广泛关注。一方面,“大数据杀熟”、网络消费算法促销、电商平台搜索竞价排名、网络直播算法推送等违反法律规定与公序良俗的事件层出不穷;另一方面,超级平台企业通过刷好评隐差评使消费者评价的结果失真,利用人工智能算法技术限制消费者交易与价格歧视事件等屡见不鲜。究其本源,这些问题的核心在于超级平台企业通过对算法技术的滥用,攫取产品或服务的超额利润,并损害消费者权益。

随着大数据、人工智能等信息技术的日益兴起,人工智能算法逐步渗透到社会经济发展的全流程,覆盖到人们生活的每个角落。各种智能终端(电脑、智能手机、智能手表等)为“算法社会(AlgorithmSociety)”提供了智能硬件设备,各种软件应用程序为“算法社会”提供了智能软件程序,从而极大地增强了百姓融入“算法社会”的可能性,并成为超级平台企业应对激烈市场竞争的重要手段。然而,当冰冷的算法技术直入火热的消费社会时,一些消费者被算法技术“牢牢绑定”,另一些消费者被算法技术“排斥出局”。其中,与每个消费者日常生活息息相关的便是算法价格歧视(AlgorithmPriceDiscrimination,简称APD)。关于算法价格歧视,目前并没有形成统一的法律定义,不同学者对其称呼有所不同,有“大数据杀熟”、大数据价格歧视以及人工智能时代个性化定价等,也有更精确一些的“算法消费者价格歧视(简称ACPD)”或算法价格歧视(APD)。总体来说,现有研究通常将算法价格歧视看作一种行为或相似行为在不同语境下的表述,不过大部分研究者在对其研究时,常常将其区分为“算法”和“价格歧视”的方式来进行理解:一方面,所谓算法(Algorithm),它是计算机科学背景下一系列解决问题的步骤指令,亦是通过编程衍生的计算程序。算法技术深度应用于社会经济发展之中,形成了算法社会,杰克·巴尔金(JackBalkin)将其定义为由算法、机器人和人工智能围绕社会、经济发展决策所组成的社会。算法技术同时也成为超级平台企业参与社会市场竞争的技术“武器”。另一方面,所谓价格歧视(PriceDiscrimination),它是经济学背景下的一种价格差异,可将其分为一级、二级与三级价格歧视。其中,三级价格歧视是一种群体歧视,即对不同市场中的群体性参与人员所采取的歧视(如贷款优惠券、老人票);二级价格歧视是一种销量歧视,即侧重于数量方面的价格歧视,采取薄利多销方式给予更多购买量的标价更低;一级价格歧视是一种完全价格歧视(个体歧视),它是指消费者购买同一件商品或者服务,超级平台企业依照不同消费者的个人数据信息而“因客定价”,令消费者按照其可以接受的最高价格购买。那么,超级平台算法价格歧视是否一定违反了反垄断法?在2022年6月《反垄断法(修正案)》通过之前,我国《反垄断法》第17条明文禁止差别待遇,即禁止“没有正当理由,对条件相同的交易相对人在交易价格等交易条件上实行差别待遇”,该条款被视为规制算法价格歧视的主要依据。但是,反垄断法能不能对人工智能技术兴起下的超级平台算法价格歧视行为进行有效的规制呢?对于这个问题,我国于2022年6月正式颁布《反垄断法(修正案)》,通过新增第9条“经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为”,首次确立了防止数据与算法垄断行为。

通过参照计算机科学层面的算法、经济学理论层面的价格歧视以及《反垄断法(修正案)》层面的定义,本文将超级平台算法价格歧视定义为市场经营者(超级平台)以大数据与人工智能为技术依托,根据消费者的消费水平、消费习惯、消费偏好等因素绘制“个性化消费肖像”,通过算法技术对不同消费者分别实施“个性化定价”,从而实现其利润最大化(一级)的价格歧视行为。综合而言,超级平台算法价格歧视具有几个显著特点:一是法律主体是超级平台经营者;二是法律载体上以超级平台为依托,通过人工智能算法技术工具,对消费者信息进行深度分析;三是法律行为上表现为不同主体不同价格,最常见的是“大数据杀熟”;四是超级平台算法价格歧视主要针对的对象是各类消费者。由于当前《反垄断法(修正案)》及其相关法律规范对于超级平台算法价格歧视行为缺乏必要的反垄断规制,而人工智能技术背景下的超级平台算法价格歧视行为又无处不在,且严重地侵害了消费者合法权益并破坏了市场公平竞争秩序,基于此,本文从超级平台视角切入,通过探求其算法价格歧视的兴起、成因与异化风险,从而积极构建超级平台算法价格歧视的反垄断规制体系。


二、超级平台算法价格歧视的兴起与成因


(一)算法价格歧视的技术基础

“算法”原本是计算机学科上的概念,具有学科专业性。随着人工智能时代下信息化进程的加快,“算法”也逐渐步入民众的生活。目前,学术界对于算法的定义主要从技术角度展开,美国学者克里斯托弗·斯坦纳(ChristopherSteiner)在《算法帝国》中指出:“算法的核心就是按照设定程序运行以期获得理想结果的一套指令。”以色列学者尤瓦尔·赫拉利(YuvalHarari)在《未来简史》中指出“算法并不是单指某次独立的运算,而是计算时所采用的方法。”我国有些学者认为“算法是指从待求解问题出发,将解决问题的过程模式化的一系列步骤指令。”然而,如何从法律层面对算法作出具体的界定?本文认为算法属于计算机数据的一种,它是指任何以电子或非电子形式对信息的记录。从本质上看,算法是一种特殊的“电磁记录”。假如从经济法视角剖析超级平台算法价格歧视行为,那么算法价格歧视至少在两个层面会受到经济法规制:一方面,算法可以被视为《反不正当竞争法》中的商业秘密,理应受到《反不正当竞争法》的法律规制。根据《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》:“与技术有关的……算法、数据、计算机程序及其有关文档等信息,人民法院可以认定构成反不正当竞争法第九条第四款中所称的技术信息”;另一方面,诚如英国学者阿里尔·扎拉奇(ArielEzrachi)在《算法的陷阱:超级平台、算法垄断与场景欺骗》中所描述的,算法驱动型经济(Algorithm-drivenEconomy)下的超级平台为民众带来普惠与便利之时,也会带来算法垄断。在我国《反垄断法(修正案)》通过之后,算法价格歧视可能构成“利用数据和算法……等从事本法禁止的垄断行为”,理应受到《反垄断法》的法律规制。

从算法技术的特征来看,它具有中立性、确定性以及隐秘性。首先,算法具有中立性。算法本身是由一系列技术信息构成的,它的本质具有中立性,受到“技术中立原则”的保护。从技术的基本原理看,算法理应具有一种中立的非侵权用途,但一旦将算法与海量数据相结合,超级平台便可通过算法技术形成高价值数据资源,侵权与否还需要考察技术使用者的主观状态及客观行为。此时,超级平台基于自身逐利性的属性,可能对广大消费者以及其他经营者权益造成侵害。算法本身没有是非之分,一项包含算法的行为既可能被用以助力市场经济发展也可能被当作一种侵权的手段,而具体如何定性则需要结合技术开发者、运营商的主观状态、客观行为以及主客观之间存在的不一致性来进一步判断。其次,算法具有确定性。所谓算法的确定性,它是指人工智能算法在运行过程中每个步骤与步骤之间必须具有较强的紧密联系,各个步骤之间应当环环相扣、逻辑严密,即前一步骤的算法指令的成功运行是后一步骤的算法指令的前提,后一步骤算法指令的高效执行是前一步骤算法指令运行的必然结果。算法最后指令的执行完成输出的结果必须是确定的而不能是模棱两可的。最后,算法具有隐秘性。算法是隐藏在表面之下的运作程序数据,除了专业技术开发人员,普通用户基本上很难接触到算法。因而算法对包括消费者在内的社会大众而言是不透明不公开的,这一状况又被称为“算法黑箱(AlgorithmBlackBox)”。何谓“黑箱”?通常认为它是指那些不为人所知的不能打开、不能从外直接观内状态的系统。正因为人工智能算法犹如一个黑暗而不可知的“未知之幕”,所以学术界与实务界将其称之为“算法黑箱”。算法的隐秘性会带来一系列问题,如“算法价格歧视”“算法监狱”以及“算法暴政”等。

(二)超级平台算法价格歧视的成因

在激烈的市场竞争中,各种超级平台型企业通过深度应用互联网、大数据与人工智能等新一代信息技术,形成本平台的数据与算法优势,基于规则引擎与算法模型,向消费者采取各种算法(包括推荐、价格以及流量算法等),对其推送相关的产品与服务,产生算法价格歧视(见下图1):一方面,超级平台向消费者推送个性化商品与服务,可以满足消费者利益诉求,但可能侵犯消费者的自主选择权及其隐私权;另一方面,通过算法模型向消费者实施“个性化定价”,这种“因客定价”模式既可能满足市场经营者诉求,也可能对消费者带来潜在的算法价格歧视。其中,“大数据杀熟”是超级平台算法价格歧视最典型的表现形式。目前,无论国内还是国外的超级平台企业,都常常曝出其利用消费数据进行个人消费习惯侧写,从而进行针对性定价,不断攫取消费者的剩余价值,从而实现其自身的“算法超额利润”。究其本质原因,可以将其概括为以下四个方面。

1.技术手段隐蔽性高

在当前的技术背景下,虽然部分算法可以由自动编程系统编写而得,但是绝大部分算法的源代码仍然是编程者自身意志的衍生。换言之,对于绝大多数算法而言,它们可被人为控制其编程内容,旨在达到某一预设目的。然而,这种算法技术目的并不是通过传统商业手段针对社会大众的一般性调整予以达成,而是掩藏在纷繁复杂的海量数据中并通过个别性调整来实现。由此可见,人工智能算法技术更为精准和隐蔽,但它同时更加容易形成“算法黑箱”下的各种算法暗算、算法歧视与算法不公,而且不当牟利甚至交易欺诈在所难免。此时,即使市场经营者(如超级平台企业)被发现实施算法价格歧视,它们也可以通过人工智能算法技术手段及时隐藏,并且以价格波动及价格差异等原因对市场及其监管者进行辩解。人工智能算法因其技术复杂性以及可实现的“个性化”价格调配,无论是违法行为抑或是损害结果都难以令人发觉。

2.缺乏针对性条款规制

目前,我国多部法律规范均有涉及价格歧视问题的条款,但是这些法律规范有一个同样的问题,即它们没有从人工智能算法背景下对超级平台价格歧视问题作出明确的法律规范,缺乏法律层面的针对性与可操作性。

第一,从《消费者权益保护法》角度来看,它侧重于以消费者的公平交易权、知悉真情权范围为核心,预防与制止对消费者实施价格歧视;第二,《价格法》作为专门规范价格的法律规范,尽管该部法律通过第14条对不当价格行为作出了说明,但是这些罗列的法律规定并没有涵盖算法价格歧视问题;第三,我国于2019年初正式实施《电子商务法》,该法第18条指出电子商务经营者(如各级超级平台)根据消费者个人特征(如消费习惯、兴趣、偏好等)提供搜索结果时,应同时向消费者提供不针对个人特征的选项,并且在第77条规定了配套的行政处罚责任,这是法律规范层面首次对算法背景下“个性化推荐”所作出的初步规制;第四,我国于2022年6月正式通过《反垄断法(修正案)》,其第22条第1款第6项并没有对此前《反垄断法》规定内容进行修正,依然规定“没有正当理由不得对交易条件相同的相对人在交易价格上实施差别待遇”,该条被认为是算法价格歧视的反垄断法规制之源。不过,《反垄断法(修正案)》第22条新增第2款:“具有市场支配地位的经营者不得利用数据和算法、技术以及平台规则等从事前款规定的滥用市场支配地位的行为”,该条可视为对人工智能算法技术背景下超级平台(具有市场支配地位的经营者)利用数据与算法等从事算法价格歧视行为的最新补正,弥补了此前《反垄断法》的反垄断规制漏洞。综上所述,这些法律规范从本质上看都未对超级平台算法价格歧视及其行为类型作出相对明确的法律规定,更别提进行有效的反垄断法规制。

3.法律规制部门缺乏统一

由于法律规范对超级平台算法价格歧视问题的规制比较散乱,导致法律执行与适用等过程中“多头规制”的出现。在《电子商务法》中,对算法价格歧视行为进行执法并负责的机关为市场监督管理职责部门;在《价格法》中,对算法价格歧视行为有权监督检查的部门是县级以上人民政府价格管理部门。

不仅如此,行政执行机关在算法价格歧视行为上的执法力度、执法手段均有不同表现,而且权力责任的边界具有模糊性:一方面,这导致市场参与主体(尤其是消费者)在面临超级平台的算法价格歧视行为时,实行法律救济的难度显著加大;另一方面,这也导致超级平台的算法价格歧视行为存在着较大的违法“黑数”。众多周知,现阶段互联网、大数据行业迭代速度非常快,而且高度依赖于外部投资,短期内唯有那些经济效益好抑或是现金流量大的企业方能生存下去,而算法价格歧视正是助力超级平台企业在短期内得到较快营收增长的途径之一。倘若我国缺乏统一性的反垄断法律规制部门,这可能导致市场上各类超级平台滥用数据与算法资源广泛实施算法价格歧视行为,牟取不当高额利润,进而在市场上形成一种“劣币驱除良币”的发展态势,最终对市场正常经营秩序造成冲击。

4.企业内部管理机制失灵

在计算科学领域,算法本质上是一系列计算步骤的序列,它主要运用于复杂数据处理及其自动推理领域。从算法的技术属性分析,它是人工智能技术的核心,是超级平台企业收集、分析与处理数据并形成算法价格歧视的技术之路;从算法的发展重要性分析,它是各种超级平台型企业在激烈的市场竞争中取胜的“技术法宝”以及“核心秘密”,其商业秘密与算法技术具有先天的“厌公开性”。

现在主流的超级平台企业具有相当大的用户与经济体量规模,而且具备超广的业务种类,这导致超级平台企业的内部具有众多部门,不同部门受制于考核机制的异同,对非核心且会损害部门经济效益、改善用户体验的行为一般惰于协调。超级平台企业合规部门抑或是客服部门作为边缘部门,它们在同业务、技术部门谈判时,其话语权一般不具有对等性,因此即使超级平台企业的合规部门或客服部门能够发现问题,也难以从企业内部进行解决,从而导致企业内部管理机制失灵,无法从企业自治层面预防与制止垄断行为的发生。


三、超级平台算法价格歧视的异化风险


(一)利用算法价格歧视侵害消费者权利的风险

关于超级平台的算法价格歧视,是指超级平台经营者通过大数据和人工智能算法技术对不同客户实行“千人千面”的画像,进而针对不同类型的客群收取不同价格的行为。不过,算法价格歧视是否属于“猎巫”?当前政策乃至学术界关于利用数据与算法等资源滥用市场支配地位的认定,是否忽视了业界一些客观合理的运营模式?

关于超级平台的算法价格歧视问题,国务院反垄断委员会于2021年初颁布《关于平台经济领域的反垄断指南》(以下简称《反垄断指南》),指出基于大数据和人工智能算法技术对平台用户实行具有差异性的交易价格是判断市场经营者是否构成差别待遇的判定条件之一。一方面,市场经营者(超级平台)基于其在数据与算法资源层面的禀赋优势,通过对不同消费者的价格接受程度进行深度的大数据分析与算法推送,便于其将消费者的消费剩余完全剥夺,给消费者的权益带来较大侵害;另一方面,在市场经营者(超级平台)的数据处理与算法定价过程中,容易形成网络效应与规模效应等产业特点,使得消费者很难发现,也很难避免此类算法价格歧视,加剧了市场经营者对消费者消费剩余的剥夺。

关于算法价格歧视案例,通过中国裁判文书网搜索关键词“算法价格歧视”可知,该类案件在国内超级平台企业上屡见不鲜。当前,在旅游平台(携程网)、外卖平台(美团、饿了么)、投资平台(万得投资管理公司)领域都存在算法价格歧视的相关案例,其中主要诉讼理由包括针对老客户的定价通常高于新用户,昂贵手机用户定价高于廉价手机用户,会员用户费用明显高于非会员用户费用等。当一种算法价格歧视行为极难界定是否合法与合理时,那么对其进行法律规制便具有较大的复杂性:其一,由于这种基于大数据与算法技术而衍生的算法价格歧视行为过于狡猾,因此难以有效界定;其二,由于算法价格歧视行为的前置判断(合法、合理性)具有较为严重的模糊性,导致缺乏有效的法律规制。

(二)利用算法价格歧视形成超级平台的垄断风险

对于超级平台而言,算法技术可以帮助其自动执行常见的法律合规任务,降低自身的运营风险并严格遵循监管规章,但“做效率高的事”并不意味着总是“做正确的事”。法律合规是法律要求被监管机构(超级平台)应当怎么做,但是超级平台却常常利用算法技术试探法律的界限,比如对消费者实施算法价格歧视行为。具言之,倘若我国缺乏统一规则对超级平台滥用人工智能算法技术实施有效的反垄断规制,那么各种超级平台在逐利性与竞争性的刺激下,将会借助数据与算法优势,采取各种算法模型(推荐、价格以及流量算法等),滥用市场支配地位并攫取“算法超额利润”,从而可能形成算法垄断。其中,最为常见的算法垄断就是利用算法价格歧视损害交易相对方(消费者)的权益、巩固其自身的市场地位,进而可能会出现算法垄断风险等问题。

近年来,无论国内还是国外的超级平台企业,都时常曝出各种利用消费者数据进行消费习惯分析事件,其目的在于对交易相对方(消费者)采取有针对性的算法垄断定价。如果不对这些超级平台企业的算法价格歧视实施反垄断规制,那么这些平台企业将会继续加强在金融、实体与技术行业等层面的数据沉淀,通过“数据—网络效应—算法—业务”的闭环效应产生算法价格歧视等新型算法垄断,而且这种算法垄断风险的危害性比传统垄断更大,因为它既可以是技术、金融与实体数据层面的集中垄断,也可以是传统垄断形式的“混合垄断”。


超级平台算法价格歧视的反垄断规制体系建构


随着人工智能技术的不断发展,传统经济增长点有所放缓。然而,在算法技术与资本无序扩张的驱动下,我国平台经济尤其是超级平台经济呈现出快速发展态势。具体来说,这些平台经济利用技术创新快速崛起,凭借平台企业内部的数据以及算法技术优势,通过制定算法歧视性价格等手段来攫取巨额利益,从原先的小平台企业逐步发展成为如今的超级平台型企业,它们一方面给市场经济的创新发展带来了正外部性,另一方面也给市场经济的公平有序发展带来了负外部性。基于此,我国有必要从反垄断规制原则与路径层面,全面构建超级平台算法价格歧视的反垄断规制体系,促进超级平台型企业的稳健化发展。

(一)算法价格歧视的反垄断规制原则

1.从数据保护到算法规制原则

数据是人工智能算法技术创新发展的基础。数据保护原则的理论依据来源于消费者作为数据生产者所享有的数据权利,数据权属的明确是数据交易活动的基础,而数据安全则是数据交易与利用的制度保障。在欧盟法律制度框架下,用户数据权作为个人信息权与隐私权,被《欧盟基本权利宪章》(ChapterofFundamentalRightsoftheEuropeanUnion)视为一种“基本权利”,其法律性质等同于宪法所赋予的基本权利。从数据保护原则对算法价格歧视规制的实践效果来看,欧盟以《通用数据保护条例》(GeneralDataProtectionRegulation,简称GDPR)为中心,通过赋予消费者一系列相关的数据权利,从而使得消费者有能力对抗超级平台利用算法技术清洗、整合数据并施以差别待遇的行为,从法律制度上尽可能保护消费者在超级平台交易过程中免受算法价格歧视的威胁。实际上,数据保护原则倾向于从权利角度出发对消费者的数据权益开展“赋权式”保护,进而对超级平台算法价格歧视起到间接的限制作用。从数据保护原则的本质上看,其核心逻辑在于扩张个人权利抑制超级平台的“算法权力”。

然而,数据保护原则作为一种权益救济保障方式,并不能够针对算法技术进行直接规制,进而导致数据保护措施对超级平台算法价格歧视的法律规制效果欠佳。一方面,“赋权式”的保护路径通常要求被赋权方(如消费者)在寻求权利救济时应承担相应的举证证明责任,但由于算法具有天然的隐秘性和超强算力等特点,超级平台的算法价格歧视往往操作于无形的动态变化之中。比如,相较于传统超级市场中的商品定价,绝大部分电子商务平台的商品定价信息可能随着不同变量的设置而处于实时变化当中,这便导致消费者很难在超级平台(如电子商务平台)的网络链接中截留并保存完整的证据,加之消费者在交易过程中存在的信息偏差以及举证能力较弱等问题,仅凭碎片化的零散证据难以形成完整的证据链条,从而可能导致消费者有关证据因证明力不足而失效。在法律的具体实践中,虽然法律规范可以通过举证责任倒置的规则设定加以弥补,但是这依然无法改变数据保护对算法价格歧视侧重事后规制和间接规制的效果。另一方面,“赋权式”的保护路径不能排除消费者在寻求法律救济的过程中可能因涉案范围广、案情复杂、举证困难等因素而面临漫长的司法流程。由此可见,从数据保护角度出发对超级平台算法价格歧视的法律规制效果日渐式微,所以本文认为对超级平台算法技术创新施以直接的纠偏与矫正,采取适当的算法规制措施就显得尤为必要了。概言之,针对超级平台算法价格歧视的算法规制原则主要表现为两个子原则,即算法透明原则以及算法非歧视原则。

首先,无论从政治学、经济学还是法学视角分析,透明原则均已成为现代政府规制的基本准则之一。从透明原则的助益效果上看,算法透明不仅可以保护消费者的知情权,保护消费者免遭人工智能算法的决策摆布,还可以增强超级平台“算法权力”的可问责性。算法透明原则旨在通过对自动化决策系统施以规制,即对超级平台“数据输入——算法运算——结果输出”行为的全过程开展透明化的监督和管理,从而确保这一由超级平台所主导的交易过程能够达到平台与用户双方权益平衡的标准。算法透明原则要求超级平台在与消费者建立交易关系之前,必须履行将自动化决策系统的产品向消费者履行必要的告知义务,消费者有权要求超级平台针对其输出的个性化定制结果做出进一步的解释和说明。此外,算法透明原则还应当赋予有关监管部门相应的审查权,监管部门除了能够监测与管理算法代码的构建逻辑之外,还能够对超级平台输入算法运行程序的数据源进行把控,进而对超级平台的数据使用起到监督和限制作用。总而言之,算法透明原则将超级平台算法价格歧视的法律规制从事中事后阶段提前至事前阶段,并以更加主动的视角对超级平台的算法价格歧视施以约束和限制,在很大程度上提升了法律尤其是反垄断法规制的效率。

其次,在算法带来的诸多法律挑战中,“非歧视”已经成为各国政府部门、科研机构以及企业组织高度关注的议题并达成一定的共识。算法非歧视原则要求超级平台在算法运行的过程中不得施加任何带有歧视性或偏向性的影响因素,不得使用错误信息误导用户做出决策。从本质上看,算法非歧视原则有助于制衡平台的“算法权力”。超级平台通过算法价格歧视将大量用户数据截留在其平台或关联平台内部,借由人工智能算法达到对某个市场或局部市场要素的绝对支配,从“算法权力”扩张至“平台权力”,进而疯狂攫取消费者剩余利益和价值。算法规制原则中的算法非歧视子原则强调通过制衡“算法权力”,缓解超级平台对不同消费者群体在不同决策场景中的差别待遇情况,从而有效保障消费者福利的实现。对此,基于算法非歧视原则指导下的反垄断法规制,需要重点从以下两个方面展开:一方面,超级平台作为技术开发者与应用者,有必要在事前算法风险评估阶段引入算法非歧视原则,加强超级平台企业自治,即在算法技术效果相类似的情况下,超级平台应当优先选择更有利于促进交易公平正义的方案,而不是算法歧视性方案;另一方面,有关监管部门也应当定期对超级平台算法决策系统的技术方案、参数设置以及运算过程等方面展开非歧视性监测与评估,并进一步拟定人工智能算法的非歧视行业合规标准,以此加强对超级平台算法价格歧视行为的反垄断法规制。

2.反垄断法与算法的二元共治原则

当市场“看不见的手”自治失灵时,法律规制作为“看得见的手”就应该及时出现,在不打压人工智能算法技术创新发展的前提下加强法律规制,实现法律与算法的二元共治。随着超级平台经营业务跨行业、跨部门的混合发展趋势,单一的竞争规制路径已难以应对日渐复杂的平台型经济模式,超级平台所引发的包括算法价格歧视在内的许多新型市场问题,不仅涉及市场主体间的公平竞争利益,还涉及市场基础的社会公共利益,因为算法价格歧视直接影响的对象是广大消费者群体,它们是市场经济发展的重要基石。因此,针对超级平台的算法价格歧视行为,我国不应再拘泥于传统的歧视性定价或价格差别待遇的反垄断规制,而应当将其置于超级平台算法应用的特殊场景下综合考虑,转向反垄断法与算法的二元共治之路。

从反垄断法与算法的二元共治的理论基础来看,在面对超级平台算法价格歧视问题时,反垄断法规制与算法规制具有目标上的趋同性和手段上的互补性。首先,从规制目标上看,反垄断法规制的宗旨在于矫正超级平台通过算法价格歧视排除或限制竞争,从而有效保护市场的公平竞争以及有序运行,切实维护消费者权益与社会公共利益;而算法规制的宗旨在于规范超级平台的技术应用行为,保证算法技术作用于不同场景时的合法合规边界,避免算法技术触发伦理道德问题,侵害消费者权益。虽然反垄断法规制与算法规制可能在规制阶段上有一定的错层,但是两者形式上的差异并不妨碍其最终目的均落脚于消费者权益保护的本质。其次,从规制手段上看,作为素来有“经济宪法”之称的反垄断法,其在市场规制法领域的基础性地位是毫无疑问的。反垄断法通过一般性的中立视角对超级平台的算法价格歧视与算法垄断行为进行规制,这种反垄断法规制是相对宏观层面的法律规制;而算法规制能够更加精准地切入平台技术应用的本质,从算法如何进行价格歧视的技术根源上寻求规制进路,这种规制是相对微观层面的技术规制。总的来说,反垄断法规制侧重对市场主体即超级平台企业宏观层面的法律规制,算法规制强调对超级平台企业微观层面的技术规则。反垄断法与算法二元共治的原则,充分体现了宏观层面与微观层面相结合的规制思路,具有明显的规制互补效应。

从反垄断法与算法二元共治的实践依据来看,二元共治原则主要来源于对超级平台垄断行为规制理念的转变。《反垄断指南》将平台定义为“通过网络信息技术,使相互依赖的双边或者多边主体在特定载体提供的规则下交互,以此共同创造价值的商业组织形态”。根据国家市场监管总局2021年发布的《征求意见稿》,其明确指出超级平台是兼具超大用户规模、超广业务种类、超高经济体量、超强限制能力属性的平台。在国外,学术界与实务界一般将超级平台称之为大科技平台(BigTech),即在数字服务市场中占有一席之地并拥有成功数字平台的科技公司,比如美国的亚马逊(Amazon)、脸书(Facebook)和谷歌(Google)等;在国内,学术界与实务界一般将此类平台称之为互联网平台或超级平台,比如百度、阿里巴巴与腾讯。在超级平台经济兴起之初,由于其在发展上具有盲目性和模糊性等特征,导致学术界与实务界在一定程度上夸大了反垄断法对平台的规制作用。不过,随着超级平台利用数据资源与算法技术优势,逐步扩张其平台业务领域版图之后,某个国家仅靠单一的反垄断法律政策与规范似乎略显“单薄”。近年来,法律政策制定者逐步意识到对超级平台施以多元化、综合化规制措施的必要性,并进一步在若干政策领域采取行动,比如市场竞争、数据保护、数据共享、业务操作以及金融稳定等。2022年1月,国家发改委等九部门联合印发《关于推动平台经济规范健康持续发展的若干意见》(以下简称《若干意见》),指出针对平台企业应当从竞争监管、金融监管、数据和算法安全监管三个方面出发,以多元、综合的视角对超级平台的经营活动行为进行规制。2022年6月,我国《反垄断法(修正案)》在最新的法律修订中同样体现了针对新型算法垄断行为(如算法价格歧视)的规制原则和精神,进一步印证了反垄断法与算法二元共治的实践诉求。

基于此,对于超级平台算法价格歧视的规制,需要坚持反垄断法与算法的二元共治原则。一方面,针对超级平台算法价格歧视异化的算法垄断风险,我国应当加强反垄断法规制。对于超级平台利用人工智能算法定价和共谋定价所衍生出的算法价格歧视与算法垄断风险,虽然反垄断法规制的对象系超级平台的行为,而非技术本身,但面对人工智能算法运行过程中所牵涉要素的复杂性,反垄断法在规制超级平台算法价格歧视时,应注重与相关数据法之间的联动,规范超级平台对数据的采集、分析与处理,强化超级平台的数据合规建设,从而促进超级平台企业的反垄断合规,从企业自治层面达到源头治理的效果。例如,2022年5月4日,德国联邦卡特尔局(简称FCO)认定脸书(Facebook)母公司元宇宙平台(MetaPlatform)已经触犯了《德国反限制竞争法》第19a条有关超级平台的规制要求,因为它们不当地获取与组合数据、妨碍产品服务的互操作性,可能利用“数据+算法”的模式快速取得垄断地位阻碍相关市场公平竞争,这将直接影响数据的可携带性,对此FCO表明在未来5年中将对MetaPlatform实行特殊的反垄断事前行为监管,并对其展开更为严格的执法调查与处罚力度。此外,在分析超级平台的算法价格歧视是否达到排除限制竞争的效果时,按照传统反垄断法的定性分析路径,实际上很难与数字经济时代下算法价格歧视具有的新特点保持逻辑上的闭环连接。因此,在认定超级平台存在算法价格歧视并排除、限制市场竞争的相关因素时,我国需要根据《反垄断指南》与《反垄断法(修正案)》中最新法律规制的新思路,综合考虑技术壁垒、网络效应、锁定效应、跨界竞争等多种影响因素,对超级平台的算法价格歧视与算法垄断问题加以综合判断。另一方面,针对超级平台利用算法实施价格歧视的行为,我国应当同时施以算法规制。反垄断法规制虽然考虑了技术带来的垄断影响,但并不能对算法技术的运行起到直接的约束作用,因此,通过规制算法的技术性操作进而规范超级平台对海量数据的使用亦显得尤为必要:一是需要建立健全算法的透明和公开制度,授权监管部门对超级平台人工智能算法的定价程序进行定期测评、定价过程开展全程监督,将超级平台的算法歧视性定价从事中事后规制前移至事前规制;二是应当强化对消费者进行“赋权”以对抗超级平台“算法权力”,不断完善事后救济与保障措施。其中,美国2021年通过颁布《平台竞争和机会法案》(PlatformCompetitionandOpportunityAct,简称PCOA),赋予任何因平台违法行为而遭受业务或财产上损害的受损者,都有权向被告所在地区的任何地区法院提起诉讼并请求三倍惩罚性赔偿和禁令救济等。简言之,PCOA在反垄断法规制上的前瞻性,对我国进一步完善算法规制有一定的借鉴意义。

(二)算法价格歧视的反垄断规制路径

1.加强超级平台企业的数据合规建设

随着数据服务的场景日益拓宽,人工智能算法技术给市场经济发展带来了效率与普惠效果。数据成为重要的生产要素,俨然成为社会共识。其中,超级平台企业作为数据资源的“集大成者”,具有数据与算法资源方面的优势,但同时涌现数据交易、权属与合规问题。

现有单向的传统法律规制模式,可能已经难以适应不断发展的人工智能产业。为促进超级平台企业良性发展,就必须从算法价格歧视的源头出发,加强超级平台企业内部的数据合规建设:其一,超级平台企业需要根据“信息安全三法”(《网络安全法》《数据安全法》《个人信息保护法》)等制定消费者信息保护合规政策,从企业自治层面清晰地界定企业自身经营的行为边界,建立健全完整的数据保护合规政策,履行数据安全管理义务。其二,超级平台企业应当从数据收集、使用与处理的全流程强化企业数据合规建设。在数据收集层面,超级平台企业需要合理限定收集信息的范围,将收集信息的频率与数量控制在合理限度内。在数据使用层面,超级平台企业应根据实际需要,对消费者信息“去标识化”,在传输和存储消费者信息时采取加密措施并设置相应的访问权限,而且超级平台企业向他人提供消费者信息需要经过被收集者(消费者)同意与授权。在数据处理层面,未经被收集者(消费者)同意与授权,超级平台企业需要对所提供的信息进行匿名化处理,或者经过处理无法识别特定个人并且具有不可复原性。另外,超级平台企业应当尽量对合作伙伴或第三方开展尽职调查,确保它们具有合法使用目的,避免消费者信息被用于违法犯罪活动。其三,超级平台企业(如银行、证券、电商等)内部人员的违法犯罪行为,已经成为监管执法和刑事侦查的重点领域。为防范内部人员的数据犯罪风险,超级平台需要通过技术保证数据方位的可回溯性,以便企业发生数据泄露时,能够通过审查访问日志等技术手段找到对应的数据泄露人员。

总而言之,我国需要倒逼超级平台企业的数据合规建设,从多层次对超级平台企业的数据合规问题进行法律规制,并为超级平台企业建立具体的数据管理合规指引。

2.对消费者数据赋权以对抗“算法权力”

随着人类社会逐步进入算法时代,对消费者进行信息保护已成为国际趋势。在国外,欧盟与美国近年来陆续颁布了《通用数据保护条例》(GDPR)以及《加州消费者隐私权法案》(CCPA);在国内,我国自2003年启动个人信息保护立法研究以来,陆续通过《网络安全法》《数据安全法》《个人信息保护法》,加强对消费者等个人的数据信息保护。

在平台经济发展中,个人信息的收集、分析与处理主要聚焦于信息所有者(消费者)与信息使用者(超级平台企业)之间,因为两者在正常的民商事交易过程中具有平等的人身与财产关系,因此它们在传统法律规制范畴内常常被界定为私法规制领域。然而,随着人工智能算法的兴起与深度利用,以超级平台为代表的信息使用者获得快速发展,而且消费者信息利用场景发生显著变化,此时传统私法规制模式难以为消费者信息提供足够的法律保护。第一,信息所有者(消费者)与信息使用者(超级平台企业)之间的市场力量具有显著差异,消费者在平台经济时代的力量更为弱小,倘若采取平等的私法规制,可能难以有效保护消费者信息权,反而加重两者之间的实质不平等。第二,人工智能算法技术的深化与市场经济的强化,使得消费者信息保护与利用在平台经济发展中充满现实的张力,传统私权规制模式无力调和信息所有者(消费者)与信息使用者(超级平台企业)之间的利益冲突与权利紧张,容易造成消费者信息流动失序。第三,相对于人身与财产性侵害,消费者信息侵害大多是轻微的社会性侵害,而且具有间接性与隐秘性,消费者作为受害人常常怠于行使自身的诉讼权利,导致事后法律救济往往面临失灵的境况。由此可见,传统民商法下的个人本位理念与私法进路,已经难以满足算法时代下个人信息保护的现实需要,因为数据信息既可能增进与发展消费者权利,也可能威胁与侵蚀消费者权利,超级平台等数据使用者对所有者信息的滥用确实已不再是简单的信息本身问题,而是对算法时代中主体身份构建、自由平等和自主性的严重侵蚀,对此我国亟需转变法律保护思维,赋予信息主体以更多权能,从而对抗超级平台“算法权力”,切实地维护消费者的综合权益。

在具体的法律权利内容上,我国可以有选择地借鉴欧盟《通用数据保护条例》(GDPR),该条例给数据主体赋予了持续了解其数据被收集和使用情形的权利(知情权和访问权),纠正被用于识别分析的个人数据的错误的权利(更正权),同时在满足一定条件时取回数据控制人处理后的数据并转移给其他人的权利(数据移转权),最后在特定情形下,数据主体还具有中止、拒绝处理甚至清除其数据的权利(限制处理权、拒绝权和清除权)。只有不断完善消费者作为信息所有者的数据权利保障体系,加强超级平台企业内的消费者数据赋权,才可以在一定程度上对抗超级平台企业的“算法权力”,从而逐步提升消费者权利的私人救济。

3.加强反垄断法与算法的共同治理

目前,法律上面对算法价格歧视所存在的种种问题,主要缺乏对算法价格歧视的整体性把握。算法作为一种涉及公权力与私权利融合的新型交互性技术,倘若对超级平台算法价格歧视进行合法合理的全面规制,那么我国需要逐步建立健全算法公开制度。对于算法公开制度而言,该制度存在的前提是有特定指向与意义的决策体系公开,而非一般性的算法框架或源代码的公开与解释。因为人工智能算法技术具有高度的专业性,盲目将其全面公开,社会一般公众和普通执法部门也难以理解,所以应当有选择地对算法公开,这要求数据控制者(超级平台)在利用算法自动化决策时,应当以保护数据所有者(消费者)的正当权益作为出发点,并开展相对公开与可理解的解释。参照域外法律规制经验,美国《算法问责法2019(草案)》的立法宗旨在于要求平台型企业研究并修复对消费者造成不公平、歧视或错误的算法,并对这些企业的违法违规算法行为依法予以问责;《数据问责和透明度法》(2020)禁止通过使用个人信息在住房、聘用、信用与公开推荐等方面开展歧视,并对数据透明度作出相应的法律要求;英国《数字服务法(草案)》对大型互联网平台等利用算法向用户推送内容等操作提出了公平透明的要求,并要求说明信息提供的限制及审核信息的方法。我国近年来日益重视数据信息层面的立法,其中《个人信息保护法》明确规定“利用个人信息进行自动化决策,应当保证决策的透明度和处理结果的公平合理”的原则,从法律实践层面要求自动化决策的商业信息推送应同时提供非个性化选项。

其次,我国需要加快超级平台算法价格歧视的反垄断执法构建。一方面,就反算法歧视保护消费者合法权益而言,通过前文所述的算法公开以及数据赋权,可以相对明确地认识到算法中存在的不公平现象。然后,这迫切要求我国在具体的反垄断执法过程中设立专职部门,由具体的专职部门承担超级平台算法价格歧视的反垄断监管职责,才能将法律规定落实。另一方面,面对日新月异的信息技术与快速变化的市场环境,作为科层制的公共权力机关即使拥有专业部门,从根本上来说依然难以有效应对,执法中极易形成“一管就死、一放就乱”的局面,这迫切要求我国反垄断执法部门提升监管水平,综合应用监管科技(RegTech),助力监管机构、被监管机构等共同参与并密切协作,全面推动超级平台算法价格歧视行为的算法规制。具体而言,我国可以从宏观与微观两个视角开展相关工作:在宏观层面,对算法技术施以一般性规制,主要包括算法开发与变更、程序和数据访问以及算法运行等方面;在微观层面,对超级平台算法进行应用操作上的规制,旨在审查与监管数据输入、处理及输出的整体逻辑衔接和内在因果联系,这既有利于及时发现并遏制超级平台的算法价格歧视,也有助于后续责任追究与权益救济的有效实现。

总之,我国平台型经济近年来从包容发展走入规范发展的阶段,已有反垄断法律实践可以为国内超级平台企业算法价格歧视问题提供诸多反垄断规制经验,即我国需要紧密结合市场经济发展的需要以及平台型经济发展的阶段,灵活科学地开展反垄断执法;同时需要加强反垄断的经济分析与算法规制,提升反垄断的执法效率。

五、结语

算法价格歧视不仅为法律所禁止,在道德伦理层面亦不被允许,禁止歧视是人类文明历经千年所达成的共识。人们常常认为随着互联网信息技术的不断发展与进步,尤其是机器学习、深度学习、算法决策等人工智能技术的应用,社会将变得越来越公平,越来越完美。然而,实际情况却并非如此,基于人工智能技术而得出的算法决策并非客观公正,可能会出现更为隐蔽和严重的算法价格歧视行为。超级平台企业基于数据与算法资源优势,不免通过人工智能算法技术采取所谓的个性化定价方式来攫取不正当利益,而这种行为一方面是由于企业趋利性的本能所导致,另一方面还存在新技术对旧有法律秩序的冲击影响,超级平台企业利用算法价格歧视带来相关的异化风险。当市场这只“看不见的手”自治失灵时,反垄断规制作为“看得见的手”就应该及时出现,在不打压超级平台创新技术发展的前提下加强反垄断规制,实现反垄断法与算法的二元共治。唯有如此,才能避免超级平台的算法滥用与价格歧视,真正实现消费者合法权益保护,促进平台型经济公平有序地发展。














本刊实行双向匿名评审。来稿经专家评审后,编辑部将及时通知作者。自收到稿件之日起,30日内没有收到修改意见或录用通知,作者可另行处理。







·官方网址:

fzyt.cbpt.cnki.net

·投稿邮箱:

fazhiyanjiu @vip.163.com

·联系电话:

0571-87059288


好看点一下 大家都知道

相关文章·翟 巍:数据、算法驱动型不正当竞争行为的规制路径——兼评《禁止网络不正当竞争行为规定(公开征求意见稿)
·宁 度:拒绝交易的反垄断法规制——兼评《关于平台经济领域的反垄断指南》拒绝交易条款
·陈 兵:平台经济领域相关市场界定方法审视——以《国务院反垄断委员会关于平台经济领域的反垄断指南》第 4 条为中心的解读
继续滑动看下一个
法治研究杂志社
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存