用隐私换取便捷服务? 警惕新技术巨头的政治社会风险

用隐私换取便捷服务? 警惕新技术巨头的政治社会风险

Embed below code to your site

以互联网、人工智能、大数据、云计算为代表的新技术的运用,不仅彻底地改变了生产、管理体系,颠覆了几乎所有行业,而且深刻改变了社会资源的配置方式和社会组织的运行模式,而这背后的推动者和掌控者就是加速崛起的大型新技术公司。

  ✪ 樊鹏 / 中国社会科学院政治学所

  [导读]近年来,独角兽公司的涌现,成为一道特殊的风景。这类企业多都与当前的新一轮产业革命交织在一起。纵观人类发展史,每一次产业革命都意味着生产方式与生产关系的重大调整。在作者看来,以互联网、人工智能、大数据、云计算为代表的新技术的运用,不仅彻底地改变了生产、管理体系,颠覆了几乎所有行业,而且深刻改变了社会资源的配置方式和社会组织的运行模式,而这背后的推动者和掌控者就是加速崛起的大型新技术公司。此类公司及其推动的新技术革命,衍生出“新的政治空间”,形成了一种“技术统治”,可能会对政府治理和政治运行产生颠覆性影响,这是人类发展所需思考和解决的全新问题。

  本文原载于《文化纵横》2018年8月刊,仅代表作者观点,特此编发,供诸君思考。

  “每个人都撒过一个慌,就是‘我已阅读并同意用户使用协议’。”

  当使用协议弹出时,很多用户会将其视为平台公司的系统升级通知,不会真的阅读;就算有用户审慎地探究,在阅读完毕后,他们往往会绝望的发现,若不同意条例,他/她将无法使用其公司产品。

  互联网凭借大数据提供给用户精准化的内容推荐和不必费心的生活便捷,却需要用户以个人信息、定位路径、肖像权等等来作置换。

  “技术统治” 引起全球广泛争论的一个典型例子,是2018年的Facebook数据泄露事件。自2004年成立以来,facebook曾因收集地理位置、读取用户信息等行为,收到多次争议。但18年的事件影响如此深远,是因为facebook的数据涉嫌用于政治广告投放,并影响了16年美国大选。

  大型新技术公司的崛起

  今天,我们遇上了一个前所未有的非常时代。第四次工业革命以前所未有的态势席卷而来,以智能化、信息化为核心,以大数据、云计算、人工智能、量子通讯等前沿技术为支撑,新技术的运用不仅彻底地改变了生产、管理体系,颠覆了几乎所有国家的所有行业,而且深刻地改变了社会资源的配置方式和社会组织的运行模式,而这背后的推动者和掌控者就是加速崛起的大型新技术公司。

  新技术革命和大型新技术公司的发展将对现行政府管理模式和政治运行方式产生重大影响。在世界范围内,新技术公司都已经渗透到各社会阶层和群体的日常生活,颠覆性科技的触角几乎延伸到了人类物质和精神生活所能企及的所有领域——以认知科学为基础成立的新技术公司已经深度卷入英美国家的政治生活。

  当代政治学的很多基础性概念、假设和理论(如国家能力、国家与社会关系、政府和市场关系),都与20世纪的大工业时代密切相关。但随着新技术应用对政府、私营企业、民间机构和广大民众的行为方式与选择产生深刻影响,这些理论和概念都可能被改变甚至彻底颠覆。在这个意义上,又一次“大航海”时代似乎迎面而来,其中充满了不确定性的挑战和社会变革的因子。

  新技术产业挑战政府监管

  新技术应用所形成的资源分配方式和商业运行模式极大地冲击了过去大工业时代的政府监管模式及其所附带的政策体系。在技术创新驱动下,新经济形态呈现许多新的特点,平台经济具有去实体化、虚拟性的特点,使政府的辨识、监管能力受到削弱。

  2018年3月,Facebook个人信息泄露丑闻震惊了世界。根据原有的西方互联网理论,在自由竞争的开放式网络市场内,Facebook无需监管,但现在看来,这套理论显然失效了,政府在个人数据保护方面是缺位的。互联网行业在20世纪90年代自由意志主义的狂潮中发展起来,美国显然未能像对待生产安全、食品卫生、金融业或航空业那样,为互联网建立起一套完善的规则,以保障民众安全和宪法价值观。

  新技术应用所形成的资源分配方式和商业运行模式极大地冲击了过去大工业时代的政府监管模式及其所附带的政策体系。在技术创新驱动下,新经济形态呈现许多新的特点,平台经济具有去实体化、虚拟性的特点,使政府的辨识、监管能力受到削弱。

  新加坡《联合早报》的一篇社评这样评价新技术公司的优势:

  在创新的旗帜下,颠覆科技公司享有传统经济所没有的柔性监管或甚至没有监管的优势。颠覆科技公司具有掠夺与垄断的特质;而在柔性的监管环境下,它们犹如闯进瓷器店的公牛,肆无忌惮地横冲直撞。因此,全球多个国家的监管者,开始关注颠覆科技公司的管制课题。

  今天,政府面对的是一个极端不确定的商业组织形态,传统商业主体的行动边界得到无限拓展,政府原有的相应监管工具则在失效。从政治学上来说,这在某种程度上进入了一种“行政权失效”的状态——一个过去极为罕见的现象,即在政府能力所不及的地方产生出了新的商业组织形态和无数个体与机构的复杂交易行为。

  新技术工业的监管难度,既由于新工业的形态,也由于政府的监管体系。互联网技术支撑下的新经济形态的重要特点在于,更多市场主体获取了行动能力,出现更多微观交易行为,作为监管方的政府则失去了更多“微观权力”,政策制定者难以对变革施加影响。表面来看,世界各国的政府都不希望遏制创新和发展,因此会有意降低初入市场的创新企业的合规成本,使得这些技术公司在税收、知识产权保护、定义用户关系、监管基础设施等方面拥有比传统行业公司更加强势的话语地位和影响能力。但当政府意识到监管滞后时,新科技公司群基本已经建立起强大的顾客群与网络,压缩了监管者的回旋空间——滴滴就是一个典型的例子。

  各类技术的突变性发展、各类业态创新以及由此带来的突发性现象级事件,使得立法机关和政府应接不暇。在过去,决策者有足够的时间去研究特定事物,有能力识别监管对象并找到有效的监管工具,但这种传统的线性关系、监管的机械性质已发生根本改变。政府不仅受到国际、地方、机构以及更广泛意义上的多中心权力结构的牵制,而且需要持续适应快速变化的新技术、新环境,加深对治理对象的了解。对于现行官僚体系来说,这是一个显而易见的挑战。

  信息革命背景下,世界高度互联。但信息和数据的占有、使用,并非趋于扁平化和公平化,数据占有的不平等造成更大的社会鸿沟,这也是全球创新经济体共同面临的难题。根据原有的理论假设,科技创新会带来更多去中心化的竞争,但新技术公司的发展呈现更多的新垄断特征。有人注意到,眼下的互联网在经济层面都出现了“头部固化”的趋势,全球互联网由几个大型新技术公司垄断“头部格局”后,再也没有出现足以撼动这一头部格局的力量,即便是让互联网规模成倍增加的移动互联网也不例外。

  公共服务与国家权力运行

  新技术公司开始凭借其先进的技术逐渐介入大量公共事务,接管了大量由政府所垄断的公共管理事务,并发展成为全新的公共治理主体。新技术的应用还改变了政府之间的信息交流与权力关系,给国家权力结构和运行带来深刻影响。

  (一)新技术公司渐成公共治理主体

  在传统政治学和公共管理中,政府处于公共服务的中心。然而,伴随着新技术的发展,公共服务的形式和内容发生了革命性变化。新技术公司凭借云计算、人工智能等陆续接管了大量政府的公共管理职能,政府的组织形态将随之改变,许多行政部门作为政策执行的核心,将逐步被弱化甚至被加速替代。

  20世纪是以美国进步时代和发达国家工业化为开端的一个世纪,在这个阶段,资本与政治、国家与社会、计划与生产、监管者与被监管者,是一个非此即彼、你赢我输的关系。第四次工业革命之后,监管的传统内涵发生重大变化。政府在理论上仍然是最大的“公共性”组织,但是实现公共任务的技术路线和工具,将更多依赖于广泛的协同合作。

  在大数据领域,截至2018年,全国31个省(直辖市和自治区)中大都已经将政务大数据交由新技术公司运营和开发。在社会治理方面,2017年以来,许多具有创新意识的地方政府开始主动寻求与新技术公司的合作,以解决社会管治问题,广东省食药监牵手阿里巴巴打击网络食药违法行为,北京地税和阿里巴巴携手探索纳税信用体系建设,重庆市、天津市政府与阿里巴巴、蚂蚁金服共建“数字互联网城市”、智慧城市。

  公安系统与新技术公司的深度合作更具代表性。新技术公司拥有利用大数据、人工智能和新技术构建实时风险防御的能力,为了打击电信诈骗,公安部与腾讯合作建立了“麒麟系统”,对全国范围内的基站运行实时监测系统;擅长人脸识别技术的商汤科技协助公安部确定联合试点城市,帮助国家强力机关实现摄像头大数据向结构化数据的转变和高效利用,解决“单靠人力无法监控中国所有的摄像头”的困境;阿里集团与公安部刑侦局合作建立了“钱盾”反诈骗平台,其与公安部合作推动建立的“团圆系统”,则是一个新技术驱动下儿童失踪信息紧急发布的平台,通过接入新浪微博、高德导航、支付宝,实现了广泛的社会治理合作。

  随着数字革命和人工智能技术的进步,未来可能有更多政府职能将被新技术方案或新技术机构革新或替代。例如,时下广受热议的区块链技术,其应用已由金融延伸至包括政府管理在内的广泛领域,未来可能为各类事务提供登记服务,包括出生、死亡、物产、学历、婚姻等证明,一切以代码形式进行的交易行为都可以以区块链技术加以登记。一些国家和机构已经在尝试通过这项技术替代传统政府管制手段。随着这项新技术发展,在不久的将来,新技术公司所掌控的动态大数据极有可能取代传统的政府人口普查,而政府也可能通过区块链的技术工具进行征税。

  (二)新技术改变国家权力运行

  新技术的应用还改变了国家权力运行的条件,对国家政权和政府职能配置产生重大影响。以国家的暴力职能为例,传统政治学假设一个社会的暴力资源的制造、占有和使用完全是相互分离的,国家垄断暴力的合法使用,同时剥离了暴力资源制造者的使用权(例如手枪)。

  在新技术政治下,新技术公司所掌控的数据本身蕴含着广泛的暴力功能,透过数据可以发挥传统的暴力机制所预期达到的功能,颠覆社会秩序,但是数据的制造和使用集中掌控在技术公司手中。无论就规模还是包含信息的深度而言,其掌控的数据都已超过了政府的传统统计数据。当数据和计算深度介入到了公共秩序的运行,其对政治生活和政治权力的意义也就不言而喻了。

  互联网技术在国家政权机关内部的普及,是新技术改变国家权力运行的另一个例子。在今天中国的司法改革实践中,互联网技术运用最直接的影响是彻底颠覆了传统审案方式,而其深层次的影响则是权力流程再造和司法体制创新。例如,围绕执法、检察、司法权力关系,因互联网技术支持下司法审判平台和信息共享平台的构建,使原有的分属不同权力部门的垄断性事务将被全程共享,从而彻底改变了执法、检察和司法三者权力运行的关系;与此同时,上下级之间庭审信息的共享以及司法技术的外溢,也导致原有建立在信息垄断和司法技术基础上的中国四级法院体系——最高院、高等法院、中级法院以及基层法院——的理论基础失效。

  新技术重塑“国家-社会”关系

  新技术在社会领域的广泛应用,彻底改变了人际交流机制,使社会个体和单元产生复杂的“化学反应”,冲击着行动权力设定的边界和原有的社会规范。新技术还制造了许多崭新的“政治空间”,社会权力的无序运行对国家政治安全施加了严峻考验。

  (一)更趋“陌生”的国家与社会

  在更深层次的意义上,新技术应用也导致国家与社会关系的重大变化;换言之,在新技术环境下,国家将面临更复杂的微观环境。在大工业时代,站在国家对面的是以企业集团和社会组织为主体的、经过组织化整合的市场和社会。在新技术环境下,巨大的“利维坦”与更多新人群、新组织、新社会力量的关系,将变得陌生起来。这是由于在国家所管控的政治空间下,事实上居住着无数个官方从来不知道的“小组织”,其组织形态和管理方式对国家都是未知的。这些小组织明确自己在社会中一定要切割某部分的权力,并同时划定自己的虚拟和现实边界。它们的特征也许不是要求政治统治权力,但至少要求内部“疆域”的控制权。

  以全球不同地区的“颜色革命”为例,在不同区域,各种新组织形态不仅出现在网络上,也出现在现实社会中,只是他们的组织手段更有技术含量,背后是无数个形形色色的“俱乐部”和小型创新组织在发挥政治腐蚀作用,与大工业时代组织化的“具体行动”相比,新技术条件下的社会运动更类似于一种“集合性”行动。

  对国家来说,要识别哪些“小组织”能够成为政治运动或社会运转的主体,这需要极高的统治技术和成本。如何划定统治边界?依据什么理论划定边界?国家是否有权力划定边界?这些问题不可避免会引起争执,甚至部分引起冲突,但这已经不是传统意义上的政治斗争或阶级斗争,而是新技术政治下最核心的理论和实践问题。面对各种复杂的社会群体,国家似乎还没有孕育出一种可以融合、连接以及有效判定各种社会利益冲突的能力,没有在各种不同的新兴社会细胞中建构信心、实现有效互动的能力。

  (二)新技术衍生新“政治空间”

  政治权力是通过创造和控制不同的政治空间而获得存在感和权威,传统政治空间的本质是任何个体和组织都具有不可逾越的行政边界。互联网出现的初期阶段,许多国家仍然可以通过政府的技术垄断来统治。“互联网+”等新技术的运用,使传统行政权力的覆盖范围和管治能力大幅萎缩,甚至于人们习以为常的政治权力运行规则瞬间失效。原因在于,新技术运用在一定程度上创造出一种政治空间,其是无形、无组织的,或有组织但组织效能低于传统政治,尽管有一定监管,但这一政治空间在某些领域仍然被视为无边界的。

  从世界范围内看,国家权力之外的新空间正在不断扩展,新技术因素推动社会创造出更多的自主空间,而这些空间的“领土”属性正在因新技术因素而得到强化。在极端情形下,国家规范社会的能力和机制也将因新技术因素而受到削弱甚至彻底颠覆。例如,区块链技术的发展以及随之而来的“去中心化”的信息储存方式,可能颠覆政府垄断和操控新闻信息的能力,即使国家可能拥有先进的算法,但也无法抵抗庞大的机构和社会力量所形成的复杂算法能力,及其可能出现的联合。

  在颜色革命过程中,一些国家青年运动就是在Facebook作用下酝酿发展而成的。在英美国家,我们注意到维基解密也形成了一个隐遁无形的政治空间,很多微小的个体凭借自己的知识进行集体“拼图”,乃至于最后与超级大国进行对抗,甚至严重腐蚀国家的信用。新技术不仅成为公众表达自己的观点、协同思考和行动的工具,而且也可能制造一种无所不在的公共权力,其能够对政府权力进行无处不在的监督和制约,更有甚者是,在新技术作用下,个体权力运行在空间意义上获得量级的裂变能力。

  移动互联是新政治空间的催生因素,美国Facebook的月活跃和日活跃世界用户分别达到22亿和14.5亿,微信的月活跃用户已经接近10亿。在中国香港,新本土主义思潮及其衍生的政治运动,背后都有新技术力量的支撑。在2018年“两会”期间,喧嚣一时的“白眼”风波,都是一种新社会风险。而在这些风险面前,花费巨大资金的“网格化管理”可能瞬间失灵。国家权力难以覆盖新的社会空间、生活领域或市场活动,有别于行政“不作为”,也不同于传统监管型国家建设,“政策真空”的本质在于现有国家和行政权力运行的极限受到挑战。

  

  技术统治与政治竞争

  2018年爆发的Facebook用户数据丑闻中,公众看到了剑桥分析(Cambridge Analytica)在美国总统选举中的角色,新技术公司已经介入了美国总统大选,他们将用户数据分析和选举行为联系起来,对选举过程进行了有力干预。在特朗普的总统选举中,除了Facebook,Google、Twitter都深度介入到了选举中,新技术公司与政治的联合已经是政治生活中的常态。

  有美国媒体评论,技术公司的介入大大改变了总统选举中政策辩论的平台和机制,也重新塑造了投票者与候选人之间的关系。尽管剑桥分析公司遭遇数据丑闻并可能面临司法审查,但是他们还是成功开启了一个将新技术带入选举的时代。西方国家的新技术掌控者正在利用自身的技术优势积极介入政治,极大地促进了“技术统治”的实现。

  2018年,随着美国中期选举的临近,民主党已经吸取共和党总统选举的经验,通过一个名为“高地实验室”(Higher Ground Labs)的组织,积极与新技术公司联合,这个合作项目投资并笼络了13家新技术组织参与,包括Change Research新技术民意调查——该组织在成本削减90%的前提下提供更准确迅捷的民意测验;Avalanche这类以认知科学为驱动的新技术公司——促进与选民的正当交流和互动;Civic Eagle这类以新技术为主导的政策倡导平台;Factba.se这家“通过新技术收集政治对手‘说出的每一个字’,以便迅速识别差异和变化并给出对策”的新技术公司。这些公司旨在通过新技术改变或干预政治运行规则,帮助美国的左翼进步力量提供政治“创新解决方案”以便重新掌权。

  显然,新技术公司已经逐步替代了传统的垄断传媒集团,成为美国政治生活中最重要的意见产出平台,技术和商业组织与政治的距离从来没有像过去五年这样紧密无间,这与工业进步时代的政商关系有着本质区别。反观中国,随着新技术公司的崛起,中国的舆论生态和干预机制也在发生转变,在新闻传媒领域,公众数据、超级算法和信息的精准投递正在取代传统的信息传递模式,虽然官方仍然在意识形态领域掌握生杀大权,但在塑造大众观点和舆论引导方面,新技术公司的传播手段持续增加,官方的意识形态能力呈现衰退的态势,也是一个正在发生的事实。

  结论与展望

  第四次工业革命和新技术的发展,正在重新定义商业、社会和国家。新技术在某些领域的使用,已经让政府的所有公共行为和企业运营紧密地纠缠在一起了;新技术的使用和当下政治运行规则之间的冲突显而易见,所有重大技术的出现都会导致某种放大性选择,其影响深度和广度超越统治结构的自身吸纳能力。新技术的拓展同时让社会和国家的权力运行步入一个全新的领地。例如,现有政治体制和官僚行政体制以何种方式应对新问题——特别是新技术公司的发展,这是一个全新的政治学问题。

  (一)革新监管理念

  在当代政治社会版图中,独角兽创新企业的闯入,以及由新技术所衍生出来的新经济和社会组织形态,都将产生无法估量的力量。

  一方面,新技术的广泛运用和新技术公司的大肆扩张和发展,在取得极高的商业价值和促进社会发展的同时,如果国家不能进行及时有效的监管,可能演化为一系列“次生灾害”,引发难以估量的政治效应。

  另一方面,新技术和相关机构介入政治过程之后,国家主权者也需要重新审视自身,最重要的是,以变革者的思维审视传统权力运行,革新政治理念和社会合作的协同机制。换句话说,在新技术政治环境下,对传统国家和政府组织来说,既充满挑战,也存在广泛机遇,如何与时俱进地革新理念,变得至关重要。

  (二)推动合作协同

  随着第四次工业革命颠覆现有的经济社会乃至政治模式,政府也必须意识到,作为传统垄断性的国家组织,其在第四次工业革命所塑造的崭新技术环境和政治生活中,仅仅属于一个分散的权力系统的一部分,需要在相互交往中加强与社会部门的广泛协作,才能完成国家管治的权责。如果建基于这样的思维,合作的机遇也是广泛存在的。

  中国共产党的十九大报告指出,当前中国“迫切需要推动互联网、大数据、人工智能和实体经济深度融合,借以提高保障和改善民生水平,加强和创新社会治理”。实现中华民族的伟大复兴、满足人民对美好生活的广泛需要,既是一个政治议程,也是中国全社会的总目标。要实现这个目标和任务,就要拥有广泛的统战思维与合作意识,除了实现在中国特色社会主义体制内对“党政军群”的横穿纵管的改革和协同外,要坚持以问题为导向的改革,推动更加广泛的协同与合作。

  从政治安全的角度来看,新技术环境下,国家权力的巩固和政府治理的有效性,依赖于政府对各类不确定性的风险具有灵活应变的能力。一个拥有抗风险能力的权力主体和治理结构,除了需要一个广泛的利益分享机制之外,还需要更加广阔的决策空间,以便于在面临不确定性考验时,有更多利益一致的参与者共同参与风险的研判,从而共同制定规则并建立一个高效的预警机制。在军事领域,中国已经提出了“军民融合”的概念,军事和民用创新资源将“共建共享”,新一代人工智能技术将为军事行动和国防装备设计提供“强力支持”。

  事实上,在“问题导向”的改革意义上,治国理政的其他领域与军事安全并没有本质差别,上述合作构想和模式,应从军事领域延伸到公共安全、社会治理和公共服务等更广泛的领域,要通过有效地吸纳新技术因素和团结新技术力量,以增强国家能力,合作解决治理问题。新技术本身就是安全的隐患,但同时也是维护安全的重要合作伙伴,二者是一个矛盾整体,也是构筑政治安全机制的基础。针对新政治空间,要创建国家权力运行的新机制,政府应该与其他相关方共同构筑全新的公共治理架构,包括与更广泛的社会力量建立风险共担、协作治理以及荣誉分享机制。

  (三)改善政治吸纳

  随着新技术公司的崛起,其与政府之间的权力关系,也会逐渐蔓延到政治领域。传统的“咨询型”政府的行政和政治吸纳机制,可能难以完成对新技术公司的整合与吸纳。大量案例表明,新技术公司往往不再满足于单向的、简单的咨询政治,他们更愿意充当规则的共同制定者,积极采取行动对经济社会运行法则施加影响,甚至直接介入政府规则的制定和政策工具的设计领域。大量案例让我们看到了新技术企业发动的“倒逼机制”。例如滴滴快车协同上海市交通委、四大出租车企业代表,联合建设了上海出租车信息服务平台,这与过去政府主导、企业附属的情况似乎不太相同。

  从新技术公司的角度来看,其缺乏对中国政治体制全面、深刻的认识,与西方国家的大型新技术公司相比较,中国的新技术公司显然缺乏利用广泛的社会科学资源以开展专门的政治分析、提供政治可行性方案的意识和能力。从政府的角度看,在行政吸纳方面应当建立更具前瞻性的机制,需要探索建立与新技术政治环境相适应的行政吸纳和政治参与机制。



发现了错别字? 请选中并且点击Ctrl+Enter发送!

 

 

孩子、家庭、社会。

登陆投稿

免费邮件订阅

输入您的电子邮件到下面的空格中,点击订阅,关注《海之子》的最新信息。