互联网法治 AI时代视阈下算法共谋规制问题研究发布时间: 2024-01-14 来源:智能计算领域

  “算法”是指机械、系统的操作列表,以输入为起点,以输出作为最终目的。“共谋”源自美国反托拉斯法中的术语,其内涵等同于《中华人民共和国反垄断法》(以下简称《反垄断法》)中的“垄断协议”,是指市场经营主体通过协同行为垄断市场,排除、限制竞争。算法共谋是指利用一系列特定的指令实施相应的协同行为,进而达到垄断市场,排除、限制竞争等效果。作为反垄断领域的新兴概念,算法共谋的理念最早在2015年由牛津大学法学教授Ariel Ezrachi和美国田纳西大学法学教授Maurice E.Stuckle提出。随后,在2016年出版的《算法驱动经济的前景和风险》中,二位教授阐述了对算法共谋的担忧:“……数据驱动下的算法能迅速监控竞争对手的价格,并统一地调整价格,日益透明的价格看似对消费的人有利,却讽刺性地以伤害其而告终……”

  数字经济的时代背景下,慢慢的变多的市场经营主体倾向于使用算法定位市场风向、判断收益风险,但与此同时,算法在市场中的运用也促使市场经营主体之间形成了新的垄断协议,影响市场运行秩序。从Topkins固定海报产品价格案到Uber被指控与司机达成纵向共谋,再到RealPage涉嫌操纵学生住房市场行情报价,算法共谋都贯穿其中。2017年,经济合作与发展组织主持召开主题为“算法与共谋”的数字化的经济工作圆桌会议,针对算法共谋对于未来市场的影响展开了深入的研究与探讨,并形成以《算法与共谋:数字时代的竞争政策》为题的背景报告,标志着反垄断法学界和业界对于算法共谋的强烈关注。然而,以ChatGPT为典型代表的生成式人工智能的诞生与发展,再一次将算法共谋这个主题推到了风口浪尖。

  相较于传统的机器算法,人工智能同时具备海量数据的处理反馈能力及自我学习的能力。这在某种程度上预示着经营者可以依托人工智能,构建一系列特定算法。该算法可通过自我学习和自我决策一直在优化,最终构建一套最优的定价策略,进而帮助经营者实现利润的最大化。同时,由于定价的最优策略数量有限,在人工智能执行定价策略的过程中,市场中的竞争者们很可能在未经过意思联络的前提下,通过人工智能反复、持续地强化预测和理解其他类似主体的行为,自发地达成共谋。

  AI时代,算法共谋将进一步削弱“人”在共谋行为中的参与程度,从而呈现出一系列新的特点,在对市场产生深远影响的同时,更是从行为性质认定与责任主体确定两个方面,给基于“人”为关键因素的传统反垄断法共谋规制理论带来挑战。本文通过介绍AI时代下算法共谋的特征、传统反垄断法共谋规制理论及其所面临的挑战,探索人工智能时代下反垄断法律部门规制算法共谋的路径。

  算法的使用带来了更易于合谋的数字市场。依托大数据作为基础数据库,以复杂算法作为运作逻辑,算法共谋减弱了传统共谋行为中市场经营主体的参与程度,因而具有极强的技术性与隐蔽性。然而,生成式人工智能的问世,使算法共谋在原有的基础上呈现更突出的新特点,这也使之较于传统共谋在应对方面更加棘手。

  传统共谋的形成,除了依赖经营者本身以外,还需要具有特定结构的市场环境。该类市场环境通常呈现出份额集中、经营者数量有限、进入门槛及壁垒较高、集中化程度较高等特征。而AI引导的算法共谋则突破了市场条件的限制,使得即便是在正常、开放的市场环境中,经营者之间或是经营者与生产者间的共谋也能通过最优策略的趋同而得以轻易实现。最典型的例子便是“亚马逊天价图书案”。正是由于亚马逊在图书销售市场中的各个商铺使用了趋同的算法,使其旗下平台各个商铺对于同一本图书的定价竞相上涨,最终单价竟飙涨至2369万余美元。

  共谋揭示的难度显著增加大多数表现在以下两个方面:一是AI算法的模糊性。基于对知识产权的保护,人工智能的算法开发者存在故意隐藏算法工作的可能。同时,人工智能所拥有的自主学习能力具有天然的不确定性,即“算法黑箱”,这将使得共谋的意思处于一种模糊的、不确定的状态。二是算法共谋运作过程的隐蔽性。算法本身运行于虚拟的互联网空间,与现实主体联系较弱,若经营者们意图利用人工智能达成算法共谋,则算法间的互动交流将使得共谋行为脱离协议实体,最后在各个参与的经营者之间形成默示的合意,从而增加了共谋行为的隐蔽性。

  基于数字市场上产品差异化策略和动态定价等特点,经营者们一旦通过人工智能达成算法共谋,则可以迅速将影响扩大到不同的产品或服务所在的市场,并以AI定价策略的趋同性,不断进行动态定价,持续提升产品或服务的价格,且同时限制、排挤现有或潜在的竞争者,使得消费者的需求没办法得到满足,被迫转而为垄断价格买单。大数据“杀熟”现象便是此类影响的产物。经营者利用人工智能获取并反馈消费者的消费信息,利用信息差为不同的消费者标定不同的价格,从而追求利润的最大化。

  针对算法共谋,《反垄断法》第九条明确规定:“经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为。”第十六条则规定:“本法所称垄断协议,是指排除、限制竞争的协议、决定或者其他协同行为。”由此可见,算法共谋作为我国反垄断法语境下的“垄断协议”,自然被涵摄其中,受到《反垄断法》的规制与调整。

  此外,2019年实施的《中华人民共和国电子商务法》明确规定,电子商务经营者在向消费者根据兴趣爱好、消费习惯等特征推送服务和商品的,应当尊重和平等保护消费者合法权益,体现了对“算法歧视”的禁止及减少算法以大数据“杀熟”的方式产生共谋行为的立法宗旨。2021年2月,国务院反垄断委员会印发的《关于平台经济领域的反垄断指南》(以下简称《指南》)更是旗帜鲜明地将利用算法等形式达成的协调一致行为认定为“其他协同行为”,是针对算法共谋行为进行规制的原则性指引。

  在算法共谋的认定逻辑与证据规则方面,《指南》则明确指向《禁止垄断协议暂行规定》第六条,应从行为有没有一致性、主体之间是不是存在意思联络或者信息交流、经营者是否能对一致行为作出合理解释及市场的具体情况四个方面出发。

  综上,我国对于算法共谋的反垄断法规制体系,主要立足于传统反垄断共谋规制理论。传统反垄断共谋规制理论主要构建在“合理规则”——“本身违法原则”的理论基础之上,其主要从协议主体、限制竞争行为及反竞争后果三个要素对协议行为进行考察。若市场竞争主体间存在建立协议的联络意思,并进一步达成了《反垄断法》所列举的排除、限制竞争的行为,且这些行为最终严重限制相关市场的竞争,或损害了消费者的利益,则该协议行为构成反垄断法意义上的共谋。

  传统反垄断共谋规制理论对于共谋的认定,遵循市场经营主体之间的意思联络—一致行为—反竞争后果的逻辑链条,其中关键因素便在于“人”。然而,在人工智能引导的算法共谋中,“人”的参与因素被削弱。人工智能的自我学习与自主决策机能,将导致共谋的行为不依靠市场经营主体间的意思联系,而是通过算法集会形成协议行为。这将导致算法共谋对传统反垄断法规制体系形成以下两方面的挑战:

  一是共谋行为性质的认定将存在挑战。依照传统理论,共谋行为有赖于市场经营主体之间的意思联络及信息沟通。然而,在人工智能时代,算法的推演和自我迭代可以完全不依赖市场经营主体的引导与介入。在此过程中,市场经营主体是不是真的存在共谋的故意,甚至是否有市场经营主体参与其中,都被隐藏在了技术壁垒之后。而且,即便假设市场经营主体间存在联系的故意,基于市场最优决策的有限性,兼之人工智能的自我学习与迭代过程存在“算法黑箱”,如何证明协议行为是市场经营主体间的算法共谋,而非人工智能自主学习后导致的巧合性后果,以及如何证明该自主学习的结果是市场经营主体刻意引导之,而非人工智能自主的行为,将成为《反垄断法》适用于算法共谋场景下的难题之一。

  二是归责主体的确认将存在挑战。基于人工智能自我学习和自我迭代的能力,其无法被单纯视为工具,而是作为人类意志延伸的一部分,因而在人工智能自主达成算法共谋的场景中,潜在的归责主体将不仅包括市场经营主体,还将包括人工智能的开发者乃至人工智能本身。然而,根据传统反垄断共谋规制理论,在此场景中,市场经营主体因为缺乏共谋的意思联络及信息交换,作为归责主体将有违法律的谦抑性。人工智能确为开发者所制作,但开发者制作人工智能的初衷并不必然是为了达成共谋行为,从而垄断市场或者限制、阻碍竞争。若要将开发者作为归责主体,就必须按照《禁止垄断协议暂行规定》第六条,证明开发者具有相应意图及行为,并且与市场经营主体达成共谋。人工智能在共谋能力方面或能与人类相当,但其能否成为反垄断法意义上的归责主体,尚无相应定论。而且,假设人工智能具有成为归责主体的能力,其是否存在承担责任的责任能力,以及以何种方式承担反垄断法意义上的违法责任,亦需要进一步讨论。

  笔者认为,AI时代,监管者需要维持谦抑审慎的态度,将算法审查作为人工智能时代共谋规制的重要任务,并拓展、更新现有的法律理论与归责原则,以应对全新的适用场景。

  算法透明化作为“算法黑箱”的应对行为,在很大程度上能够满足反垄断执法过程中对于算法的知情权。一方面,反垄断执法机关需要加强复合人才的储备力度及梯队建设,针对人工智能及算法共谋重点培养专业的执法人员,从而解决市场经营主体与反垄断执法机关之间就人工智能算法共谋存在的信息不对称问题。另一方面,通过建立算法适用预先报备制度强化事前监管,同时通过互联网孵化平台等方式整理特定的算法代码、逻辑架构大数据,构建人工智能算法共谋预警库,从而针对市场范围内人工智能的算法建立有效的监督和实时的规范体系。若涉及具体的算法共谋场景,该预警库亦可以辅助执法人员通过精准识别构成人工智能的底层代码逻辑,准确判定共谋行为的发生,且可以在不同的场景下,准确甄别具体算法是否涉及算法共谋。

  目前,反垄断执法机构识别算法共谋的判断路径如前文所述,依旧遵循市场经营主体之间“意思联络”“信息传递”的存在。在人工智能时代,这样的判断路径难以契合数字经济的特性及竞争市场的实情,难免将共谋行为狭义化。人工智能自发的算法共谋应以算法集会作为技术条件,而算法集会本身便是人工智能算法间的意思联络。因此,可以适当放宽反垄断法理论在人工智能算法共谋认定时的主观因素考量,将此类算法间的意思联络作为协议的意思联络,只要此类算法与一致行为有直接的因果关系,执法机关便可据此认定共谋行为。

  事实上,出于对算法共谋隐蔽性的考量,部分地区已在积极尝试适当拓宽意思联络的认定范畴。例如,经济合作与发展组织报告中便指出,即使无明确协议,如果除平行行为的证据外,还附带其他要素,且此要素表明平行行为所导致的结果的确与单方面的行动结果不同,与各方协作的结果相同,法院便可据此认定为共谋行为。

  法理学强调,违法行为的实施者应当承担相应的否定性后果,即法律责任。人工智能时代,算法在数字平台中具有独立的判断与决策能力,事实上完成了“人”的工作。笔者认为,以民法上的代理关系来概括二者之间的联系较为贴切。根据代理相关法律制度,针对算法共谋行为所产生的责任,其归责主体确定路径可通过以下三个层面实现:第一层,根据市场经营主体是不是真的存在共谋的故意决定市场经营主体是否承担责任;若市场经营主体不存在共谋的故意,则第二层需要检视市场经营主体与人工智能之间是不是真的存在类似越权代理的关系结构,在明确是否由市场经营主体担责后,可以向开发者进行追偿;而作为共谋行为事实上的受益者,开发者与市场经营主体之间的责任分配便是第三层。当算法的开发者与共谋行为的受益者并非同一主体时,可以先评估算法共谋的获益结构,然后结合实际参与主体的获益大小及对AI的控制程度做综合判断,进而判定算法的开发者要不要承担连带责任。