苏葵:个人数据保护是这个平台的“致命弱点”。

文/观察者网专栏作家苏葵

毫无疑问,互联网平台是信息时代的主角。超规模、垄断、权力巨大是其主要特征,可以影响无数人的生活、利益甚至生计。平台具有多重属性,既是传统企业,也是一种经济形态。以平台为核心的平台经济,甚至是虚拟的城邦。正如扎克伯格的名言,“在许多方面,脸书更像一个政府,而不是一家传统公司。”

平台是平台经济的绝对主宰。它可以随意制定规则、解读规则、执行规则,而这些规则可以影响亿万人。它们与国家法律法规在本质上没有区别,只是不需要遵循国家立法、司法和执法所要求的正当程序。自国家诞生以来,政府没有面对过类似的对手,这可以说是3000年来前所未有的变化。

在信息时代,如何管理平台在全世界都是一个巨大的挑战。反垄断、消费者保护、公平竞争等传统工具是全球范围内平台治理的主要路径。但是,反垄断、消费者保护、公平竞争,这些治理工具都是从传统经济时代发展而来的。面对信息时代的巨头,往往可以说是捉襟见肘,无力,无效。

个人数据保护是信息时代发展起来的新工具。虽然它的初衷是保护个人信息,但是水滴石穿无数人的个人信息却变成了大数据。有了大数据,算法可以从一具垂死的躯体变成一头桀骜不驯的野兽。换句话说,算法的命门就是个人信息的保护。

欧美近期的一些平台个人信息保护案例发人深省,令人振奋。个人数据保护赋予个人更大的权力,以平衡平台经济中平台的权力结构,这也可能是平台治理的新路径。

劳务平台

互联网平台不具备广泛的同一性,不同类型之间存在巨大差异,既有以信息服务为核心的社交平台和搜索平台,也有产生海量信息的电子商务平台。以在线租车、外卖为代表的劳务平台,可以看做是后者。该平台是一个虚拟市场,通过它销售服务。但更重要的是,这些劳动力平台聚集了全球城市数百万,甚至数千万的劳动人口。与其他平台相比,它们不仅为人服务,还掌握着无数人的信息。因此,这些平台与人们的关系更加密切,给社会治理带来了更大的挑战和深远的影响。

这些平台上的人依靠平台提供的信息生存,为平台产生海量的信息资源,并被这些信息管理和控制。与其他电商平台相比,这类平台上的人(劳动者)几乎没有自主权,传统的劳动保护与他们无缘,因为他们被平台认为是微型创业者。平台依靠信息精准管理如此庞大的劳动力,超过了人类历史上任何一个组织的极限,可以说是人类历史的奇迹,而创造这样奇迹的核心就是隐藏在平台背后的算法。

网约车平台几乎是迄今为止争议最大、给社会治理带来问题最多的互联网平台。成立于2008年的优步开创了在线汽车共享行业,月活跃消费者约6543.8亿,全球日订单(包括外卖)近2000万,平台上的司机超过400万,平均每月有5万名新司机加入平台。它与全球监管机构的强硬对抗给它带来了无数的麻烦,蔑视规则和法律的企业文化也给企业本身造成了内伤。2017年,创始人卡兰尼克甚至被赶出了公司。除了众所周知的与当地监管机构的斗争,优步与平台内司机的矛盾可以说是日益尖锐,与消费者的不和也时有传出。

泄露个人信息的后果很严重。

65438年10月20日,特朗普在离开白宫前宣布了一长串多达73人的赦免名单。前军事顾问史蒂夫·班农毫无悬念地出现在名单上,但有些名字出人意料。负责自动驾驶业务的优步前高管安东尼·莱万多夫斯基(Anthony Levandowski)幸运地逃脱了原定于2月7日开始的监禁。据说川普在硅谷为数不多的支持者之一彼得·泰尔是幕后操盘手。

相比之下,另一位前优步高管、首席安全官乔·苏利文(Joe Sullivan)只能哀叹命运不公。然而这真的是咎由自取,简直是“不要命”。2020年8月21日,沙利文被联邦司法部指控妨碍司法公正和作伪证,刑期可能高达8年。而这一切,始于2016年约5700万司机和乘客的个人信息被掩盖。

沙利文不是新手。他曾是互联网巨头脸书的首席安全官,在信息安全和个人信息保护方面拥有丰富的经验。然而,在得知优步的黑客行为导致平台上的个人信息泄露后,他没有立即依法向政府有关部门报告。相反,在与当时的首席执行官特拉维斯·卡兰尼克协商后,他向黑客支付了6.5438亿美元的封口费,贿赂黑客将其定性为平台主动邀请黑客发现安全漏洞。封口费变成了安全奖励。

如此大规模的个人(包括平台上的司机和乘客)信息泄露,欧美相关监管机构自然不会放过。根据欧盟规定,数据泄露应在72小时内向监管部门报告。据此,其欧洲总部所在地荷兰数据保护局于2018处以60万欧元罚款。宣布英国退出欧盟的英国(ICO)也处以38.5万英镑的罚款。

与他们的欧洲同行相比,美国的监管者对他们下手更重。加州总检察长和旧金山总检察长联合美国50个州和华盛顿特区的相关部门,对他们发起诉讼。2065438+2008年9月,优步以高达65438+4800万美元的巨额赔偿主动和解。看来,在个人信息保护方面,国内认为美国立法和监管更宽松的观点恐怕并不成立。

监管深入企业黑箱

联邦贸易委员会是公平竞争和消费者保护领域的执法机构。FTC得知此事后,迅速宣布2065438+2007年8月达成的和解协议无效,需要重新协商相关和解条款。

2018 10,FTC宣布再次达成新的和解协议。作为信奉自由市场的川普政府,其治下的FTC确实对优步手下留情,没有像州政府那样重罚,甚至根本不罚款,但对优步内部信息安全管理提出了一丝不苟的要求。与以外部结果为主要对象的结果保护策略相比,FTC协议是以内部管理为主要对象的过程保护策略。也就是说,更多的是以提前预防的思路对企业内部可能出现的个人信息保护漏洞进行全面监管,将企业内部的信息安全管理纳入公共管理。这可以说是一种新的个人信息保护模式。

事实上,我国正在进行的个人信息保护立法(包括2020年完成的网络安全法、数据安全法和个人信息保护法)也采用了这一思路。但相对于FTC的和解协议,中国的平台企业享有更多自由。FTC的和解协议建立了比较完整的企业信息安全体系,主要包括:

优步需要立即建立一个全面的个人信息(隐私)保护计划,所有计划、方案和培训都需要以书面形式记录。设立专人负责个人信息(隐私)保护计划。

开展个人信息(隐私)风险调查评估,确定风险点,制定整改方案。制定个人信息(隐私)风险动态监测评估方案。

建立第三方信息(隐私)审核评估体系。第三方审核员必须具备专业资格并具有3年以上的经验,相关审核员必须获得FTC消费者保护部的批准。评估完成后10日内,应将评估报告送交FTC备查。首次第三方审核应在协议实施后半年内完成,此后至少每两年进行一次。

建立信息安全事故统计和报告制度。

建立文件签署和学习制度。公司所有相关人员必须学习FTC的和解协议文件并签字确认,相关学习记录需要书面记录。

文件发布一年后,优步需要向FTC提交合规报告,该报告应宣誓真实可靠,否则将承担伪证罪。企业的任何组织和实体应在14天内通知FTC,以方便监管部门的检查和监督。

及时回复监管部门。在收到FTC关于信息(隐私)安全的询问后,优步需要在10天内回复或回应。相关合规报告或材料需要宣誓不作伪证,并做好详细记录备查。

建立信息安全记录,包括相关员工的记录(包括离职原因)、平台用户的投诉、所有能证明公司执行文件的材料、公司对个人信息(隐私)保护措施的对外宣传和承诺、信息安全评估、审计和整改报告、安全漏洞奖发放记录、执法传票、调查和说明材料等。

福布斯对此案的网络报道截图。

除了巨额赔偿,加州总检察长联合各州和优步达成的和解协议,实际上对企业信息安全合规提出了一系列类似的要求,包括企业需要设立首席安全官,以及云存储密码、身份认证增强系统、建立信息安全员工培训和违规处罚制度、第三方信息审计员资格制度(要求五年以上经验)、 个人信息安全作为董事会固定议题,律师参与事故确认和报告制度,内部违规报告制度。

子曰:“杀人不教,谓之残暴,不禁视之为暴力。”美国联邦和州监管机构利用优步的违法行为,构建了非常严格的内部个人信息保护机制,特别强调内部部门监管、外部审计、员工培训等。,并将事后监管模式从负面清单推进到事后监管模式,即从惩罚为主的模式推进到预防为主的模式。

平台企业不再是黑箱。通过设计完善的内部监督机制,平台的保护更加透明,个人信息保护的目标更加可靠。其意义在于,只有个人信息的保护更加可靠,个人信息保护之外的平台经济治理功能才会成为可能。

算法统治平台

四个司机做出这样的动作也是有原因的。根据优步的说法,所有四名司机都因为欺骗行为或非法使用而操纵(不当使用)了司机的手机应用程序。说白了,就是司机的司机应用被平台算法判定为严重违规(优步平台没有解约的概念,只是等同于永久冻结账户的说法)是因为他选择了等待价格上涨后的好单,还是因为他私自安装了其他应用改变手机状态(比如改变位置),而这些决定都是平台算法做出的。换句话说,这四名司机都被算法检测到违反了规则,并被算法清除(开除)。

然而,司机们并不这么认为。他们认为自己只是行使了自由选择工作时间的权利,这也是优步平台一直以来对司机的主张,而正是因为这种自由,司机才不被视为平台的员工,而是自由职业者,甚至是所谓的“微创业者”。平台和驾驶是伙伴。四名司机否认欺诈或不当行为,优步没有提供进行陈述的机会,使他们的命运受到算法的控制。因此,他们向优步欧洲总部所在地荷兰的阿姆斯特丹地方法院提起诉讼。

司机起诉优步的主要法律依据是2018年5月生效的欧盟通用数据保护法。根据《欧盟一般数据保护法》第15条,数据主体有权访问个人数据,了解数据处理的目的、数据类型,并有权要求更正不准确的数据。第22条涉及自动决策和用户画像。“数据主体有权反对这样的决定:完全依赖自动化处理——包括用户画像——做出对数据主体有法律或类似严重影响的决定”。

根据欧盟通用数据保护法的定义,“用户画像”是指为了评价自然人的某些状况,特别是为了评价自然人的工作表现、经济状况、健康状况、个人偏好、兴趣、可靠性、行为、位置或行踪而对个人数据进行的任何自动处理。显然,所谓的自动决策(用户画像)是一种平台算法。这本质上是一个算法监管条款。然而,第22条还具体列出了例外情况,包括(a)当该决定对于签署或履行数据主体和数据控制者之间的合同是必要的;.....(c)决定是基于数据主体的明确同意。

显然,这场官司的争议集中在对第22条的理解上,比如全自动决策的标准是什么?什么程度的人为干预才能达到排除全自动决策的标准?考虑到平台每天需要几千万甚至上亿的司机(包括派单、定价、评价等环节),自动化决策是否可以视为平台履行与司机合同的必要措施?

平台权力结构的平衡

司机希望通过第三方非盈利机构(WIE有限公司,工人信息交换中心)携带个人数据,即优步直接将司机在工作中产生的个人数据转移到第三方数据交换中介WIE,第三方数据机构成为个人数据信任机构。可以帮助司机分析其个人行为,监管平台的算法逻辑是否与其申报的处理逻辑一致,是否公平合理,评价平台是否正确计算服务价格,司机的真实劳动量和质量,分析不同司机评分差异的原因。

通过掌握并能够处理这些关键数据,司机可以减少或消除平台的信息优势,司机有可能与平台更平等地谈判,成为更平等的对手。

根据法律规定,优步有责任在30天内向数据主体(司机)提供相关数据,但优步没有提供司机要求的所有数据,或者司机要求的关键内容实际上被拒绝。虽然提供的数据列表中包含了订单数据(如上下车时间、乘客支付费用等),但并未提供司机的在线和离线时间以及完整的GPS位置信息记录。这些内容与司机工作时间的确定有关(英国上诉法院已经裁定司机的工作时间从他上线开始计算,而不是从他接单开始计算),但平台不希望司机掌握这些可能对他不利的数据。

然而,优步也有自己的解释:不提供的数据要么是不可用的,要么是因为如果提供给司机,会损害他人的隐私权。

如果上面的数据能被司机自己记录下来,那么只有平台才能知道管理司机的算法是如何工作的。司机们最想知道的是平台算法的秘密:它是如何通过司机的行为和乘客评价数据对司机进行画像的,司机画像是如何影响司机利益的?比如司机的评级和派遣机制有什么关系?司机分数如何触发平台退市机制(司机认为是辞退)?

在投诉中,司机特别指出,优步没有回应他们要求的司机标签数据。这确实是整个争议的核心。优步不会认为这些是司机需要知道的个人数据信息,甚至个人信息存在巨大差异。而且这些内容几乎肯定会用在英国最高法院正在审理的司机与平台的劳动关系案中,所以也是优步不能输的案子。

原告的司机法勒也暗示了这些内容的用途:“我们想看一看这个奥威尔式(意为一个被严格统治和非人化的社会)的工作世界。这里的工人被机器统治,没有权力。”

其实司机要求知道算法的秘密也是有法律依据的。根据《欧盟一般个人数据保护法》第15条,数据主体应当有权从控制者处获得有效信息。例如,自动化决策的存在包括数据分析,相关逻辑包括这种处理对数据主体的预期后果。

虽然优步否认司机退市是算法做的(优步发言人声称是算法检测到司机的违法行为后,经理做出了退市决定),但很难解释公司网站上有介绍算法主谋的材料,上面明确写着主谋负责监督管理司机的作弊行为。在司机应用的隐私政策中,白纸黑字地写着,优步将使用自动化决策来移除涉嫌违规的司机。

平台算法决定了司机的工作机会、工作量和收入,甚至永远失去平台工作机会。对于它对司机的重要性恐怕没有太大的分歧。数据自动处理的逻辑,也就是算法的秘密,是平台的商业秘密。应该提供到什么程度才能满足15条要求的数据访问权标准,如何在保护个人数据和企业知识产权(商业秘密)之间取得平衡,都考验着法官的智慧。

可以说,这是欧盟《一般个人数据保护法》实施以来最重要的案件,其意义远远超过了本案涉及的四名司机(实际上这些司机正在组织更多的网约车司机和外卖骑手加入),其裁判标准可以说相当于又一部欧盟个人信息保护立法。几乎可以肯定的是,这一案件最终将提交欧盟最高法院审理。

平台经济的金丝雀

“对每个人来说,这是一个关系到未来的战场,”司机皮莱格说。优步站台上的零工是历史上地下矿井中的金丝雀。这是一场不能输的战斗。

数据就是力量,平台经济进一步放大了企业作为雇主的传统信息优势。通过第三方数据信托实现数据承载权,通过数据赋能司机,谁能拥有比网约车司机和外卖骑手更动态的监管平台?可以说这是一种全新的平台监管思路,用信息权治理大数据。