【摘要】全球数字治理正在由“问题导向”向“风险导向”转变,这源自于数字技术发展的迅猛态势带来的不确定性增强以及数字风险的全球化趋势。数字风险无法被完全量化,风险感知成为塑造国家数字战略和具体行动的主要因素,数字发展水平的参差以及战略重点的偏向构成了同一风险领域的不同风险感知。风险感知的强弱偏差会阻碍治理共识的达成,放缓全球数字治理的脚步。风险是无限的但全球资源不是无限的,全球数字治理的关键在于准确感知风险,对于不同强度的风险采取差异化的治理措施,对于不同类型的风险采取针对性的治理方法。将概率推算(定量)与直觉判断(定性)的方法相结合,运用科学的“感官”让数字风险“可见”,再经由专业的全球数字治理机构全面评估风险的概率与后果,选择最需要预防的风险和必须要接受的风险。凝聚国家对数字风险的共识,在保持创新发展和降低风险的平衡中实现良好的全球数字治理。
【关键词】数字风险;风险感知;全球数字治理
数字技术发展速度之快、影响范围之广、威胁程度之深和未来前景之远要求我们对数字风险予以关注。部分数字风险超出人类感知能力,一旦爆发将引发大规模破坏,其后的挽回行动可能收效甚微。全球数字治理需要我们转换视角,以“风险导向”进行审视。目前相关研究存在三点不足:第一,既有关于风险感知的文献集中在突发事件中的公众风险感知,这暗含着一种假设,即公众对风险的感知呈现“非理性”特征,而国家能“理性”看待风险,一定程度上忽视了由于数字风险不确定性以及国家间关系所导致的“非理性”感知偏差。风险感知偏差也反映了国家对利益的诉求,不同的数字发展阶段和发展侧重带来了数字风险感知的差异。第二,既有关于数字风险的文献集中在数字经济和数字金融领域的风险研究,或是将数字问题与数字风险混淆,没有突出风险的特征。第三,既有关于全球数字治理方案的文献集中在加强数字合作和构建制度等宏观层面,忽视了科技本身在数字治理中的重要角色。现代化的自反性阶段决定了数字技术的发展构成了它自身需要面临的风险,它既是风险的来源,又是评估风险的媒介,同时也是解决风险的手段。本文的研究问题是:数字风险感知如何影响全球数字治理?基于数字风险感知的全球数字治理路径是怎样的?文章将首先探讨治理视角的转换、数字风险的类别与风险感知的三种类型,进而分析在数字风险感知偏弱和偏强情况下对全球数字治理的阻碍作用,最后阐述如何正确审视数字风险并进行有效治理。
一、从“问题导向”到“风险导向”
数字风险正在成为全球数字治理中的重要课题,既包括技术本身的内在风险,也包括应用过程中产生的伴生风险。“风险导向”的全球数字治理有助于从源头遏制问题产生,其过程依赖于准确的风险感知。对待风险的态度受到风险感知的影响,风险感知的准确与否和强弱偏差将影响全球数字治理中的共识与合作。
(一)治理视角的转换:从问题到风险
一直以来,全球治理皆以“问题导向”为主,我们将全球治理视作解决和管理跨越国界的全球性问题的方式。“所谓全球治理,指的是通过具有约束力的国际规制(Regimes)解决全球性的冲突、生态、人权、移民、毒品、走私、传染病等问题,以维持正常的国际政治经济秩序。”近年来也出现了从风险社会视域探索全球治理不确定性的研究,从乌尔里希·贝克的风险社会理论出发,提出全球治理中的不确定性上升的现状是人类社会现代化全球化进程的必然结果。数字技术基于其跨越国界的特性正在对全球各国产生影响,作为一项快速发展的新技术,我们难以依据过往经验对其进行研判,更多的威胁潜藏于未来。因此,当前数字技术发展带来的诸多全球性风险促使我们转化视角来看待全球数字治理。
“风险”与“问题”相比具有长期性、概率性和系统性的显著特征。首先,风险是尚未发生但可能发生的未来损失,是一种存在于未来的超越时间和空间束缚的情境。相较过去而言,现在的风险具有更加明确的人为性和多样性,可以在人们尚未感知到的地方传播,也可以在漫长的世代中发挥作用。第二,风险具有概率性。风险是不可预见的,与特定事件无关,难以直接观测,或是脱离了人的直接感知能力,这种情况导致风险的后果变得巨大且难以计算。第三,风险具有系统性。风险是一种系统性的问题,人们难以预料到某种决策所带来的后果。单一形式的风险尚且难以预测,涉及全球多个环节的系统性风险更加难以控制。现代化风险的“回旋镖”效应打破了阶级图式,能够影响包括风险制造者在内的全部主体。在人机结合的复杂系统中,某一分支环节受到损害,均可能引发全局性的系统危机。
全球数字治理需要通过“风险导向”加以审视,这源自于数字技术带来的不仅有确切的和亟待解决的“问题”,更多的是未知的和不确定的“风险”。数字化时代的风险相比工业化时代的风险具有更强的全球化特征,在多个层次上爆发和蔓延,包括全球层次、国家间层次、国内和跨国安全层次、公司媒体层次和个人层次。数字技术发展得越快,这种不确定性也将越强烈,并且更直接地嵌入和影响到整个社会系统、生产系统和政治系统等领域,经由全球化转变为全球性的困境。从“问题导向”转换为“风险导向”的方式看待全球数字治理,有助于预测和控制人类活动的未来结果,有效防范技术负外部性风险的爆发。
(二)数字风险的类型:内生与伴生
在探讨全球数字治理前,我们必须准确辨别存在哪些数字风险,以及数字风险有哪些类型,在此基础上进行有针对性的治理。数字技术带来的风险可以分为内生和伴生两个层面,内生风险源于技术研发过程中的不可见或非预期功能;伴生风险源于利用数字技术进行的恶意行为,以及可能带来的社会风险等。
一方面,数字技术的内生风险源于技术本身。人工智能系统经历递归的自我改进,可能引发智力爆炸。在机器可以进行深度学习的领域,它可能在未来变得比人类更聪明,其有意或无意地造成巨大伤害的可能性是无可置疑的。我们并不能够清楚地知道某种科学技术的发展会带来怎样的后果,为解决某一问题而发展出的技术可能产生另一种潜在的副作用,这种副作用可能累积为新的风险,且每一次减少风险的尝试都可能产生其他风险,当前的研究与治理将有助于防止此类风险带来的后果。另一方面,数字技术的伴生风险可以分为两类:第一类是数字系统的脆弱性可能诱发的危害性行动。当前诸多全球活动在数字空间进行,重要和敏感的信息也正在被转移到数字空间。低进入成本、匿名性和网络空间透明度的缺乏导致了网络犯罪风险的提高。第二类是数字技术发展带来的社会风险。随着数字技术纵向切入人类生活程度的加深,个人的生活轨迹、情感偏好等全部暴露在数字技术的视野和控制之下,逐渐沦为受技术控制的“奴隶”。同时,新技术的发展总是伴随着就业结构的变革,工业革命使机器代替了部分重复性作业的工人,而如今生成式人工智能的快速发展也引发了关于AI将取代哪些职业的激烈探讨。新技术的出现可能使部分职业被取代,但同时也会催生出新的工作岗位。因此,数字技术发展是否会构成就业结构失调风险,或是将对就业结构构成怎样的影响还未可知,由此构成了难以被量化的伴生风险。
(三)风险感知的评估:辨强弱与准确
人类行为由感知驱动,而非事实驱动,因此风险感知而非风险本身决定了国家应对风险的策略。数字风险具有全球性的特点,同时起源于多个国家并对全球产生影响,但风险是否可以接受和容忍正在引发争议。作为一种社会建构,风险感知总是产生于社会环境之中,不能完全独立于我们的思想和文化。数字风险的概率可以部分通过量化途径获取,但数字风险感知或是在量化研究辅助下的风险感知才能直接影响主体行为。在统计学上拥有足够的事件类型经验时,我们可以通过收集和分析经验来确定其概率,但对于新的未经测试的技术,由于缺乏事故统计数据,难以获取特定类型事故的风险概率。如果说数字技术的内生风险的概率难以计算,那么受到人类行为影响的数字技术伴生风险更加难以预测。风险的处理方式根本上由风险感知决定,风险感知可能存在“实际风险”与“感知风险”的偏差,难以确保对风险的统一认知。不同文化原型对风险的态度不同,每种文化原型都发展出各自的一套事务优先顺序,不同国家在同一领域上存在不同风险感知,而同一国家在不同风险领域也可能存在不同的风险偏向。
数字风险感知可以分为三种类型,分别为“风险感知偏强”“风险感知偏弱”和“风险感知准确”。首先,风险感知偏强意味着对风险的感知高于实际风险,可分为两种类型,一种情况是风险规避者过分强调数字技术带来的负面影响,不愿意接受技术发展带来的风险,因此对继续发展数字技术持反对态度。另一种情况是先发制人者将风险感知转化为威胁感知,采取过度防御性措施,进而达到获取竞争优势的目的。风险感知偏强的后果是数字技术发展受阻,部分常规问题被上升到安全问题,治理难以推进。其次,风险感知偏弱意味着对风险的感知低于实际风险,可分为两种类型,一是风险忽视者没能意识到某一事物可能带来的风险,二是风险爱好者期待在风险中获得期望收入,更多关注的是收获的回报而不是投入的风险。风险感知偏弱的后果是对风险治理的不足。最后,风险感知准确意味着对风险的感知与实际风险较为平衡,在风险较小的领域可以选择适当忽视长远的风险以获得快速发展,风险较大的领域则成为治理的关键。这里的风险大小依靠定量和定性相结合的两种路径进行识别,既要运用定量的方式评估风险概率,进而实现以“技术”治理“技术”;又要运用定性的方式进行风险评估,即依靠专业机构的专家以及决策者判断风险发生的可能性以及爆发后的影响。
二、数字风险感知偏强:风险规避与先发制人
数字风险感知偏强将导致两种选择:一种是风险规避,即为避免遭遇风险而拒绝引发风险的行动;另一种是先发制人,即为避免受到风险的负面影响而采取过度防御性的战略,这两种选择都是对数字风险过度感知的结果。
(一)风险规避:排斥数字技术发展
风险规避意味着放弃可能引发风险的行为,数字技术的部分专家担忧未来人工智能发展可能会对人类构成生存风险,正在呼吁监管措施成熟前暂停相关技术的发展。此类担忧源于在发布ChatGPT不到四个月后,OpenAI就发布了升级版的GPT-4,全球人工智能实验室陷入了技术研发的竞赛,用以开发和部署更强大的通用型人工智能,但是即使是它的创造者也无法可靠的加以控制。当一些人工智能系统在部分任务上变得比人类更有竞争力的时候,我们必须对其可能引发的风险进行考量,但在国家间竞争背景下实现全球性的技术研发暂停几乎是不可能完成的任务,即使部分政府联合起来暂停技术创新,也会有人坚持对先进技术的追求,而创新发展与推进有效治理应是并行不悖的两条共进道路。
此外,被数字技术边缘化的国家因被置于圈层之外而排斥技术发展。从不发达国家和地区的视角来看,人工智能为其社会体系带来严峻挑战。通过控制软件、硬件和网络连接这三个数字生态系统的核心支柱,美国能够获得巨大的政治、经济和社会权力,而数字殖民主义却使全球南方笼罩在阴影中。面对强势语言和高技术能力国家的通用大语言模型的大规模数据获取,小国家难以进行抵御,可能成为强算力国家的数据附庸。即使并非处于边缘地位的国家,也在新兴通用人工智能领域采取保守态度。随着时间推移,指数级增长的算力将使人工智能成为一种聚集力量,强大的人工智能系统将由小部分利益相关者把控,系统的创建者能够通过扩散价值观来加强权力,这些负面影响构成了国家采取风险规避的原因。
从长远的眼光来看,风险规避并不可行,因噎废食断不可取。暂停技术发展并不能解决其带来的挑战,反而会阻碍创新。创新能力是发明、采用和适应新技术的能力,高科技武器系统增强了军事力量,新的平台和标准提供了经济杠杆。一个国家力量的来源不是自然资源、财富或是掌握某一特定技术,而是其持续创新的能力,更好、更快的创新能力将决定大国竞争的结果。世界需要技术创新来克服当前正在面临的多种威胁,也需要数字技术带来新的全球增长点。零风险和绝对安全显然不可行,活力、创新、自由与风险通常相伴而生。
(二)先发制人:过度防御的数字战略
风险感知偏强带来的另一种情况是采取先发制人的防御战略,这类情况关注可能造成伤害的条件,倾向于有意识地打造更为宽裕的安全条件。2018年美国曾提出“向前防御”(defending-forward)概念,这是一种战术层面存在进攻性因素的防御战略,政治计划的重点从伤害(威胁)的直接原因转向使未来伤害(风险)成为可能的条件。此战略的主要思想是“将交战场域前移至对手场域,在风险源头拦截网络威胁,并对潜在风险点采取网络攻击行动,迫使对手不得不专注网络防御而无暇对外网络攻击”。这种通过主动发起小规模网络进攻行为进而降低敌国网络攻击威胁的做法可能带来不必要的冲突。
风险感知偏强通常伴随着将“风险感知”上升为“威胁感知”,混淆风险与威胁的情况出现。威胁是具体的,是关于能力、意图和手段的,具有可定位和可追踪的特点,可以根据实力对比进行威胁来源的锁定,而风险是难以预见的,与特定事件无关,难以直接观测。风险的模糊性为决策者提供了宽泛的选择范围,风险思维正在塑造着国家战略。美国对中国的看法经历了从风险认知转变为威胁认知的过程,自从美国将中国定义为“修正主义大国”,中国便不再被视为美国主导体系中负责任的利益相关者,而是对美国利益和规范的严重威胁。这种转变部分源于中国技术能力的快速提升,但这只符合了能力、意图和手段中的其中一个条件,仅凭实力因素塑造威胁感知是一种将风险与威胁混淆,塑造假想敌的做法。
在数字领域采取先发制人的防御战略的不可取之处在于,这种行为将诱发安全困境。在充满风险的世界中,防御性、分散性和以危机为导向的做法是短视的,往往会导致恶性循环。每个国家在安全外延上拓宽的做法,并不亚于一种领土拓宽带来的危机。以安全为借口,已经成为一个国家合法使用武力的关键所在,它为国家进行动员或者获得特殊权力,以便为消除“存在性威胁”打开了通道。随着各个国家在界定安全问题上的拓展,普通的问题通过安全指涉上升为安全事务,就会造成国与国之间对认知空间的争夺,挤压国家原本存在的弹性空间,造成观念上的安全困境,最后从观念层面上升到物质层次,构成真正的安全困境。“战争和大规模军事行为作为‘风险管理手段’合理化了新的军备竞赛,带来更深的不安和更大的不确定性”。因此,如果人们试图用先发制人的手段阻止一种风险变成现实,结果很可能是造成新的风险,新产生的风险将会上升到议程的首要位置,尤其是当数字技术与安全问题挂钩时,治理的推进难度将大大增加。
三、数字风险感知偏弱:风险忽视与风险爱好
数字风险感知偏弱将导致两种选择:一种是风险忽视,即没有意识到风险或低估了风险;另一种是风险爱好,即没能认识到风险的严重后果,为获取高收益而接受高风险。这两种选择都是对数字风险感知不足的结果,将使全球数字系统的脆弱性提高,治理效用不足。
(一)风险忽视:数字风险认知局限
数字技术已经蔓延到了生产生活的各个角落,其风险也逐渐受到了广泛的重视。忽视数字风险的主要原因在于数字技术更新过快且难以把握,同时数字化能力不足,缺乏数字素养和风险意识,低估了潜在的风险且没有采取适当的治理措施。正如“科林格里奇困境”,一项技术的后果无法在技术的早期被预测,但如果控制得过晚,已经成为整个经济和社会结构的一部分,就可能走向失控,采取行动的成本过高。对风险的忽视往往会成为风险肆意生长的土壤,应对系统性的数字风险需要具备高度敏感性和对突发问题保持警惕,这意味着我们要通过提升今天的能力以满足明天的需求。对于非技术专业的人来说,理解和应对复杂的数字风险是一项巨大挑战。数字环境中存在“无知无畏”现象,对数字环境接触不多、对网络使用频率较低的群体反而对数字环境表现较高的信任和安全性。同时,由于心理学上的“乌比冈湖效应”,人们可能高估自己的实际水平并低估潜在的风险,或将其放在其他事务的优先级之后,认为自己不会成为数字攻击的目标,或认为后果并不严重,从而忽视了采取适当防护措施的时机,最终陷入被动的局面。在国际层面,尽管大多数国家政府都对数字风险保持警惕,但发展水平存在参差,缺乏风险度量指标会使国家更难评估当前风险。
在数字全球化的背景下,风险忽视导致的治理失灵所带来的负面影响是连锁性的,一个环节出现问题将导致整体风险的爆发。比较优势激励不同组织依赖相同的第三方硬件、软件或服务提供商,当共享服务或常用技术被网络攻击者破坏时,这种风险将会集中爆发。在全球供应链网络攻击问题上,由于供应链环节的强互连性,攻击可能对供应链的连续性产生严重后果。供应链可以通过其不同的链路受到攻击,攻击的影响因目标链路而异。大公司对信息系统安全进行大量投资,但部分小企业及其供应链较为脆弱,有可能缺乏管理内部风险所需的网络安全专家,没有能力应对突发事件。大型企业通常在其供应链中有中小型组织,当这些关键合作伙伴因技术原因而面对风险无法采取行动时,整个生态系统都会受到负面影响。确保集体对尚不存在的未来后果采取当下行动是一项艰难的任务,但数字风险要求我们必须对未来进行预计,进而决定眼前的治理行动。
(二)风险爱好:追求数字优势的高收益
风险爱好意味着未能正确认识到风险带来的严重后果,并选择为了获取高收益而接受高风险,即使它可能带来毁灭性的后果。在这一过程中,获取竞争优势的逻辑战胜了风险感知的逻辑,越是紧迫的行动越能成为滋生风险的土壤。大国竞争使得全球合作更加困难,地缘政治的紧张局势可能迫使各国接受越来越大的风险,如果他们认为这是一场值得为促进其安全利益而进行的赌博。转移风险曾是部分发达国家的一项普遍选择,而数字领域的风险难以被避免、局限或是转让,施害者和受害者可能面临相同境地。选择接受高风险的重要原因是为了获得高收益,拥有最智能的人工智能系统的国家将具有重要战略优势。
高强度的数字风险往往对规则的需求更加迫切,也会引发更加激烈的争论。为了获取军事领域优势而加快自主武器系统研发将带来极大的风险。致命性自主武器的现实应用很难保证不会冲击交战规则,因而应该尽早达成一项有约束力的国际公约以管制自主武器的研发、部署和应用。人类控制自主武器方面,以美国为代表的发达国家主张建立非约束性原则。美国等发达国家组成的联盟主张对致命性自主武器建立一个相对宽松的、自愿性的国际规制清单,人权观察组织、红十字国际委员会等国际组织则加入“禁止杀手机器人”运动。随着对致命性自主武器的认知程度逐渐提高,技术弱国与公民社会组织更加坚定地反对在国际谈判场合讨论军事无人化的优势。人类正站在未来战争时代的边缘,自主武器系统将塑造未来战争的新形态。
风险爱好的不可取之处在于,技术进步的根本是为全人类谋福祉,当技术应用的目的背离了这一目标时,人类的生存将陷入威胁中。自主武器系统将改变未来的作战模式,突破传统战场的限制,可能引发大规模的国际局势动荡,对人的生命权构成威胁。人工智能自主武器与其他技术的区别在于,大数据、云计算、物联网等的应用目的是增强连接性并大幅提高整体经济效率,其带来的风险属于技术发展的副作用,而人工智能自主武器一旦投入使用将成为“战术核武器”,将使全球稳定受到根本性的威胁。全球治理是在不同行为体之间开展的一种协同和合作,带有显著的协商和协作的特性,全球合作是全球治理的表现形式,为竞争目的而追求高风险和高收益的行为将破坏全球行为体的努力,损害全球治理的效果。
四、基于准确风险感知的治理路径
当有关数字技术的争论越来越激烈的情况频繁出现,也就昭示着全球数字治理关键时刻的到来。准确感知风险首先要摒弃零和思维与极端思维,运用灰度思维提高对多变的数字风险的适应性,坚持底线思维以做好充分的准备和争取最好的结果,通过概率演算和直觉判断两种路径实现有效数字治理。
(一)正确审视数字风险:动态中找寻规律
风险是取决于当前人类活动的一种动态的概念,简单风险的原因和后果较为明显,不确定性低,容易通过统计数据进行预测。在风险分析中如果有足够数量的数据则可以用于客观分析模型,但大部分风险都是系统性风险,意味着风险已然潜入社会背景中,需要更为全面的评估和管理方法。因此,要在探索变化的过程中绘制数字风险之间的相互联系,在明确目标的基础上对数字风险进行有效评估和分类处理。
正确审视数字风险要求我们秉持灰度思维和底线思维。一方面,灰度思维意味着保持开放的态度面对数字风险。风险不仅意味着“坏事发生的概率”,有时也蕴藏着机遇,规避了风险的同时可能也意味着规避了机遇的到来。数字风险治理的目的在于降低风险至可接受的水平,而不是完全消除风险。因此,最关键的是在可接受和合理的程度上识别和减轻风险损害,根据可接受的风险水平以及当前风险管理技术和控制措施,合理量化系统所构成的风险的性质和程度。另一方面,底线思维意味着守住最低目标的前提下争取最大期望值。党的二十大报告指出:“我们必须增强忧患意识,坚持底线思维,做到居安思危、未雨绸缪,准备经受风高浪急甚至惊涛骇浪的重大考验。”威胁大多源自外部的不安全感,而风险是个人自身行为体的产物,每一次创新也带来了新的风险、威胁和潜在危害。在技术发展的影响和人为的干预下,脱离于意图的风险越来越多。底线思维限定了数字技术发展的边界,避免滑向威胁人类生存的深渊,同时又不设上限而实现有为有守。
有效的治理路径不仅需要秉持正确的思维方式,同时也需要配合高效的实践方案,即技术方法和经验方法两种路径的有机结合。技术方法衡量的是风险对人类及其环境产生负面影响的事件的平均预期概率,在这种情况下风险的大小可以通过对负面影响的概率权重来确定,为总体风险分析提供了基础。在预测概率的基础上进行可视化风险管理,划定哪些是要降低的风险,哪些是可以接受的风险。但是,技术方法通常缺乏对风险的整体审视,我们对于具有严重影响的低风险事件和具有较低影响的高风险事件的态度从来都是不同的。经验方法依靠的是过往的经验、对风险的预判和对风险后果的评估,其优势在于可对风险进行较为全面的理解,但缺陷在于科学性不足,且可能受到决策者个人风险偏好的影响。在进行定性分析时应注意主观因素的影响,对结果持怀疑态度,根据专业论据来估计可能发生的风险概率。两种评估风险路径互为补充,将二者有机结合有利于正确审视风险和治理风险。
(二)打造数字免疫系统:以技术治理技术
数字治理这一概念通常有两种理解方式,一是对数字技术发展带来的问题进行治理,二是利用数字技术为治理赋能。此外,还存在第三种理解方式,即利用数字技术来治理数字技术发展带来的问题或风险。数字技术不仅能够通过数据和算法推进智慧城市建设、增强政府治理效率和提高国家治理能力,也能够实现自我规制。机器学习依赖于训练数据,但时常存在数据选择偏差或数据质量低下等情况,技术本身也存在不可解释和鲁棒性差等缺陷。在治理这些问题的过程中,数字技术既是“矛”,也是“盾”。
全球数字治理规则正在争议中构建,大国的技术竞争及全球发展水平的差异延缓了规则成型的进程,但在形成完善的治理规则前,我们可以利用已经拥有的工具——数字技术本身。部分风险的治理依靠数字技术本身的“盾”,而这一角色需要由具备专业知识的机构和科技公司担任。企业作为人工智能系统的设计者和服务提供者,最了解其中的技术细节和可能蕴含的风险,需要主动承担相关责任、充分评估潜在风险并做出相应的防范。科技发展的道路上总是要不断面临新的风险,尤其在数字技术的内生风险领域,仅靠国家内部或国际组织的规则难以有效治理。对于数字技术的内生风险,问责机制和防范体系是必要的,但从技术根源层面降低风险才是一种“釜底抽薪”的处理方式。以数字技术为“盾”进行的风险治理的关键在于促进风险的可视化,通过对新闻、社交媒体和报告等进行文本数据分析,重点关注数据流转中的动态安全风险。同时,围绕算法公平性问题,通过预处理、过程中处理和后处理公平性技术保障技术运行全过程的公平性,减少数据或算法中的固有和后天偏见。最终,通过定量分析输出风险概率的数值,通过定性分析阐释风险的严重程度及后果可能性,二者综合得出风险的评估结果。
(三)全球数字治理机构:以机构协调风险
治理数字风险不仅是一种技术工作,同时涉及到政治、经济、社会和文化等跨学科多领域。科学的专业化分工难以应对系统性的全球数字风险,数字风险本质上复杂且多面,应对和预防重大事件的能力往往取决于综合和协作解决方案,没有任何一个国家、机构或组织有能力单独应对数字风险。世界需要一个专业的全球治理机构,这一机构应该具有全球性、中立性、非营利的特质,由政府、大型技术公司、非营利组织、学术界提供指导,旨在合作找寻治理和技术解决方案,以促进安全和有保障的数字技术发展。该机构应发挥两方面的作用:一是为数字风险建立科学的评估框架,二是协调不同国家的数字风险应对倾向。
一方面,全球数字治理机构首先要评估数字风险后果、统合数字风险类别,准确判断风险的强弱属性、时间紧迫性以及后果的严重性,以此构建有约束力的行业标准。在对人类生存安全有着较高风险的技术领域,采取更为直接和有效的治理手段。要求研发主体加强对人工智能研发活动的自我约束,避免使用可能产生严重消极后果的不成熟技术,确保人工智能始终处于人类控制之下。另一方面,全球数字治理机构的重要任务是协调各国的数字风险倾向,推进全球数字治理共识的达成和规则的制定。世界各国正在制定和实施法律、监管和政策框架以及基础设施方面取得重大进展。在一个日益全球化和密切相互关联的世界里,应对数字风险需要无国界和全球性的应对措施,由政府、执法部门和全球科技行业共同构成治理主体。
全球数字治理机构的设置和规则的制定必然需要一段时间。社会需要时间来学习如何为新技术制定规则,就如同美国向日本投掷核弹二十年后,才达成了《部分禁止核试验条约》和《核不扩散条约》。每个技术炒作周期都会伴随着制定新的法律法规和机制的呼吁声,但如果每当出现新的技术便制定相应的法规,那么理论上将消耗大量的资源。正确的方式是在全球数字治理机构的统领下以新的方式最大程度地发挥现有规则的效用,并在此基础上根据具体情况加以完善,最终构建统一框架下的治理机制。随着数字技术的进步和知识的增长,未来将越来越难以预测,正是无数不确定的事件构成了纷繁复杂的世界图景。未来对全球数字风险的治理需要更多的跨学科研究,以及各相关领域研究人员的共同努力。