公共政策
民主公共事业:为什么必须对facebook和google的算法基础设施进行监管
Utilities for Democracy:Why and How the Algorithmic Infrastructure of Facebook and Google Must Be Regulated
2020年09月30日 19:55    作者:Josh Simons and Dipayan Ghosh Brookings Institution 编译:魏露露 张泽南    编辑:吴兰

【编者按】随着社会进入平台时代,平台掌握了架构公共空间的权力,如何规制平台及其算法成为关键。本报告的作者认为算法应当被理解为一种公共设施,对现代民主重大的挑战来自于如何建立和维持一种对私人权力施加公共控制的机制,从而在政治共同体中建立共同的目的。作者提出了规制算法的反垄断法和公共事业两个路径。布鲁金斯学会(Brookings Institution)是美国的著名智库,被称为美国“最有影响力的思想库”。


B1A3


一、主要观点

Facebook 和Google威胁民主。因为这两个公司拥有对算法单方面的控制,而算法架构了我们的公共讨论以及获取信息的方式,决定了我们如何消费信息,如何交流,如何评价彼此,以及如何针对共同关注的重要问题开展讨论。Facebook和Google利用他们掌握的海量的数据训练成熟的机器学习算法,算法已经成为一种新的基础设施。他们对这类设施的控制不仅造成了经济力量的集中,形成电子广告的基本条件,更形成了我们的数字公共空间的特征和内容。扎克伯格曾表示:“在很多方面,Facebook更像政府而非传统的公司”。这两个技术巨头给民主带来的广泛的挑战。将这些公司作为公共设施进行规制代表着重申公共权力,将重新激活美国的民主。


维护针对网络平台的民主权威为监管创新创造了机会。我们能够尝试基于公民集体判断的新的决策机制,改革代表机制、并构建新的监管机构监督对算法基础设施的治理。这种监管实验不仅是为了保护一个竞争和有效的市场,更是出于对民主的责任。网络规制是一个通过试验维护公共权力的不同方式来促进共识的机会。


604A


(一)作为公共设施的算法


随着越来越多的社会、经济和政治活动在线上开展,许多的公共设施也是如此。我们现在通过网络获取新闻和信息,购买和出售商品,组织政治活动。许多支持和形成这些活动的数字设施都被FB和Google这两家公司所控制。据统计,有超过70%的网络流量是由这两家公司所控制的网站所创造的。


而支持和组织这些活动的数字公共设施是由机器学习赋能的。Facebook和Google通过机器学习算法来安排内容、网站和广告的展示顺序。算法如何工作--针对不同的用户展示什么类型的内容,针对不同的搜索跳转至什么网站--深刻地塑造了我们的数字公共空间。平台算法的设计已经成为一种公共决策。嵌入算法设计中的目的和价值,以及算法的利益倾向,影响我们的社会、经济和民主。设计和运行算法将不可避免地涉及政治选择,或使一部分人获益或是另外一部分人获益,促进这些基本价值但可能侵犯其他价值。Facebook和Google是两家作为我们的公共设施一部分的私人公司。


Facebook和Google是我们的公共空间的算法“守门人”,控制我们获取新闻和信息,形成公共讨论所用的素材。


由算法构成的公共设施改变了人类控制向其施加控制的方式,尤其是,谁将获益,什么价值能够被设计入算法之中。Facebook如何影响我们的社会和政治不再由受雇的人来判断具体内容是否违反特定的政策,而是由那些设计Facebook新闻推送算法、仇恨言论算法和虚假信息算法的人来决定。决定Google的社会影响的人不再是评估网站的人,而是由设计谷歌搜索排名算法的人决定。


(二)公共设施算法设计应当具有政治属性


人们针对算法应当如何被设计和控制总是存在分歧。这些分歧产生于我们对于公共空间如何被监管的观点的根本不同之上:什么构成仇恨言论或虚假信息;发现不良信息时应当如何处理;以及什么样的原则应当指导新闻的传播以及信息获取的控制。因此,设计和控制影响我们的公共空间的算法必须是政治性的。


二、规制公共设施权利


网络平台引发了关于民主的根本问题: 我们应当如何规制对关键的社会设施拥有集中的私权力的公司?最令人信服的答案由法治改革家、制度经济学家和20世纪早期的进步运动者提出。


他们首先提出了一个公共责任的基本原则:塑造公民公共生活的基本条件的私权力应当为公共利益负责。这一原则对于民主来说是最基本的:集体自治需要集中的私权力不能随意行使,私权力应当向代表公众的宪政民主机构负责。网络规制必须确保控制了算法社会公共设施的网络平台受到民主和责任结构的约束。网络规制必须采取多管齐下的规制策略,促进问责制和维护公共权威。具体来讲,这些规制工具应当包括反托拉斯和竞争政策,公司治理;以及最重要的,公共事业(public utilities)的概念。


7DD6


(一)反托拉斯(Anti-trust)


反托拉斯是迄今为止在网络平台规制领域得到最多关注的问题。反托拉斯常常被当做其他结构性规制手段,如公共事业路径的替代方案而提出。这是一个错误的认知。公共责任原则有助于确定反托拉斯法作为广义的公司权力的公共监督的一个方面。反托拉斯规制如何与其他的规制手段相结合取决于对公司的性质的具体分析,尤其是具体分析控制特定公共设施的私权力所带来的威胁。需要在反托拉斯与公共事业路径之间选择其一的认知也是错误的--二者是相辅相成的。


反垄断的目的是保护和促进竞争,而非解决公司权力带来的所有问题。许多对网络平台最重要的关注,并不是竞争问题,而是关于歧视、公平、隐私,以及公司对公众的控制。Facebook和Google所实施的是一种基础架构权力,因为他们设计的算法不仅形成公民间的商业关系,还形成了社会交往、公共行动、公共讨论和政治决策,影响观点和信息的传播,构造我们的公共讨论。因此,网络平台规制不仅仅是恢复竞争或者避免伤害,更是如何以及由谁来治理形成共公共空间的算法基础设施。


反垄断法肯定了经济规制具有政治目的这一理念,因为不受限制的权力将会破坏作为民主基础的权力平衡。这就明确了反垄断在网络平台规制中的作用。反垄断应继续关注其保护和促进竞争的目标,且该目标应被理解为是政治性的和经济性的。理查德-霍夫斯塔德早在1967年就指出:“曾经美国有反托拉斯运动却没有反垄断起诉;而在我们这个时代,有了反垄断起诉却,没有反垄断运动。”


我们已经失去了对反托拉斯保护竞争不仅仅是为了消费者福利和市场效率,更是为了政治自由和公民自治这一广泛理解。私人权力控制的重要公共基础设施应该有明确的问责结构。正如路易斯∙布兰代斯所说的,“监管是维护和发展自由所必要的。”这和“维护和发展竞争”的监管目标一样重要。因此,反垄断政策的两项改革是必要的。


第一,重新评估不作为的风险。1958年,最高法院将1890年的《谢尔曼案》描述为“维护自由和不受阻碍的竞争作为交易规则的经济自由全面宪章”。然而,在过去的几十年里,《谢尔曼法》中模糊的反垄断条款的适用范围已经大大缩小了。在2013年结束的针对Google的反垄断调查,说明了将弱化之后的禁止反竞争行为规则适用于对算法的设计和控制之中的困难。“几乎每一个涉嫌反竞争的行为都可以被解释为谷歌为提升搜索结果质量的真诚的努力”。


近年来,主流的观点认为过度执法的风险大于执法不力的风险。然而,这种观点是基于一种广受质疑的经济理论,即卡特尔不稳定,正常竞争性市场情况下的商业行为不会损害竞争,以及市场最终总会自我修正。但是,主流观点并没有将具有根本的政治、社会和经济的行业活动中执行不力的风险纳入其中,比如互联网平台。为减少过度执法的风险而发展起来的反垄断规则应当做出改革。 比如应降低强制执行行动中原告的举证责任要求。法院应当对已经发生明显变化的经济理论、社会行动和政治舆论作出反应。当然这些改革应该建立在法定的基础之上。


第二,反竞争性兼并的推定。1914年的《克莱顿反托拉斯法》禁止可能 “在很大程度上削弱”竞争的合并和收购。FTC针对Facebook的反托拉斯调查很可能会援用这一条款,针对Facebook 2012年对Instagram 以及2013年对WhatsApp的收购。


想要证明主流的网络平台公司所实施的收购将会很大程度上削弱竞争面临许多的困难。例如,针对Facebook的案子就面临如何对Facebook进行市场界定的问题。反托拉斯的概念或法律在解决非货币市场的市场力量问题上具有局限性。例如Facebook基于使用能够准确捕捉用户关注点的算法来向广告投放商收费。并且,技术领域的竞争旨在定义未来市场,而非简单的争夺现有的、定义明确的市场份额。这使得我们很难判断因兼并和收购而扼杀的能够提高效率和福利的产品。


其中一些挑战可能利用经济学中最新的关于双边市场中反竞争性行为的研究来解决,其中消费者和广告投放商的利益是存在分歧的,以及将关注作为一种科技公司间展开竞争的稀缺资源。但是更根本的改革还是需要的。这些改革可以集中在反垄断执法的标准上,例如假定低于成本的定价可被认定为被禁止的排他性行为。然而,最直接、最重要的改革应该是建立针对行业领先的互联网和技术公司的强化的合并审查机制。这一强化审查程序应当包括针对主流的网络平台的潜在兼并和收购的可推翻的反竞争效果推定,应当得到如FTC、司法部等执法机关更多的长期的资金支持,还应当包括反垄断执法模式从事后调整到事前规则制定的模式转变。


304F


(二)公共事业(public utilities)概念


当对公司权力的关注超越了竞争,禁止兼并和收购等,强行拆分公司未必是最好的监管工具。“公共事业”的理念将设定更加动态和灵活的监管路径,来构建控制重要的社会基础设施的公司治理中的问责制。企业可以理解为公共事业,如果它们提供公共产品(非竞争、非排他性的产品,拥有较高的沉没成本),同时也属于“自然垄断”(受到网络效应和规模经济的影响)。


考虑到互联网平台的情况,数据的价值是累积性的。一个人的数据只能和其他的海量数据相结合才是有价值的。数据越多机器学习算法的预测就越准确,越准确的算法预测则支持更加有用的产品,最终产生更多的营收。但是我们对于Google和facebook的自然垄断地位的认定并不坚定。反托拉斯执法应当进一步探索对机器学习算法受制于什么类型的网络效应的认识。


(三)一种广义的公共事业概念-公共利益标准


以“公共产品”“自然垄断”等概念来判断公司是否属于公共事业是一种较窄的公共事业观,这种理解是20世纪70年代以来过度经济化的遗留问题。我们应当考虑恢复一种更古老更广义的公共事业概念,这一概念由20世纪初的法律改革家和制度经济学家所提出。正如法律学者William Novak所说的,“法律上的公共事业概念能够证明从法定的警察管制到行政性的费率制定,再到生产资料的公有制等国家经济控制的合理性。”他们系统地探讨了社会、政治和经济权力之间的联系,尝试用不同的方式来维护公共权力对控制不同形式的社会基础设施的公司的制约。因此,他们识别了更多的公司是公共事业。1926年,制度经济学家约翰-莫里斯-克拉克总结到:电力和电话、灌溉和防洪、无线电和空中导航、联邦储备系统、劳动立法和公共卫生。公共事业的理念是 “走向[公共]控制的运动 ”中的关键一环,该运动试图对医疗保险公司、移民和监狱公司实行不同的公共控制,并试图通过 "企业的民主化"在产业结构本身中实行不同形式的社会控制。


以公司权力 "对公共利益的影响程度 "来确定公共监督公司权力的适当范围,这一观点成为确定哪些经济组织应被视为公用事业,并应受到管理义务和监督的关键原则。将此原则适用于Facebook和Google的算法,我们可以得出, Facebook和谷歌如何设计这种算法基础设施,将会影响到一个明确而基本公共利益。


3CD2


联系我们
  • 电话: 010-82339017 邮箱: beihangkexie@163.com 地址: 北京市海淀区学院路37号 邮编: 100191