底线式科技安全治理体系构建研究

研究立足中国实际,对未来科技安全治理的难点和要点展开预见性分析,论证底线思维在科技安全治理中的内涵和必要性,提出包含"党的领导""举国体制""群众路线""开放包容""底线思维"五个核心要素的底线式科技安全治理体系和人工智能治理底线。此外,通过目标手段分析法,研究构建"目标-需求-系统"三维一体的治理体系分析框架。在理论阐释的基础上,研究通过信息、能源、物资、人员四方面的管理系统架构设计案例,对底线式科技安全管理体系构建的实践展开探讨,为开发和应用科技安全管理系统提供实践与政策启示。 

作者 / 陈劲，朱子钦，季与点，梅亮

新冠肺炎疫情给人类社会敲响了警钟：在大规模公共安全危机面前，人类的生存能力非常脆弱，世界现有的公共安全治理体系难堪一击。而随着科技的爆发式发展，智能、生化、量子、纳米等前沿领域所蕴藏的破坏力将远超现有治理体系的抵御范围，如果依旧用亡羊补牢的方式应对核泄露、非法基因编辑、不明原因疫病等导致的风险与失控，科技失控引发的公共安全事件迟早会给人类社会带来无法承受的灾难。

科技安全问题风险复杂、动态性强、影响面大、容错率低，其治理既需要正确的治理理念、稳定的治理路线、与时俱进的体系和制度构建，更需要配套先进的治理技术，形成全面周密、响应迅速的管理系统。但当前科技领域面临的激烈国际博弈，使人类社会难以在短期内实现治理理念的协同。

党的十八大以来，习近平总书记多次强调要坚持底线思维，防范化解重大风险。他深刻指出“科技领域安全是国家安全的重要组成部分”，“要加快科技安全预警监测体系建设”。针对人工智能治理，他着重强调防范潜在风险，确保人工智能安全、可靠、可控，维护人民利益和国家安全。底线思维及其科技安全的防控观为构建和完善新时代我国科技安全治理体系提供了方向指引。

已有研究尽管对科技治理中底线思维的理论意义进行了阐释，首次提出和建构了“底线式治理”概念并围绕能源和要素供给、物联网、信息交互、应急管理科技治理实践情景设计了基于底线思维的管理系统架构，但尚未形成完整的理论体系和技术框架。因此，本文以科技安全风险备受关注的人工智能领域为例拓展深化研究：第一，基于习近平总书记“树立底线思维和科技安全治理”的思想，系统性阐述底线式科技安全治理的理论内涵；第二，深入分析人工智能治理的难点和关键，提出“技术可落地”的人工智能治理底线；第三，将研究下沉到治理体系和技术方案层面，通过目标手段分析，构建“目标-需求-系统”三维一体的底线式科技安全治理体系框架，形成相关方法论；第四，对标治理需求，以信息、能源、物资、人员管理为例对科技安全管理系统架构展开模块化设计，为科技安全治理输出实践与政策借鉴。

理论阐释

01底线思维的内涵与必要性

底线思维是我们党治国理政方法论中的关键组成部分，是我国构建科技安全治理体系的重要遵循和独特法宝，其内涵和必要性体现在三个方面。

1.1  认识和警惕科技安全事件的必要性

过去来看，无意和有意的科技安全事件都在不断上演。以无意事件为例，发明氟利昂是为了防止制冷剂中毒，却无意间造成了人类历史上最严重的环境危机，古往今来很多学者心怀善意创造的科研成果最终却化为高风险技术和毁灭性武器的理论基石或间接推手；从有意角度来看，某些人员自筹资金，蓄意逃避监管，私自组织团队，实施明令禁止的基因编辑活动等事例充分说明，要高度警惕私有资本支持下的有意非法科研活动。而即便是应对当前的科技水平，现有治理体系的监管能力也明显不足。

短期来看，科技安全治理还将面临更严峻的挑战。在生产力稳步发展、激励政策逐渐加力、教育水平快速提升、科技服务越发完善、知识融合共享持续深化、人机结合和智能技术加速发展等因素的综合推动下，创新主体和人员的规模与能力将不断增长，甚至会迎来全民参与的公共创新时代，而科学技术之间的融合互促会不断加速它们从理论雏形发展到实际应用，如果跟不上发展节奏，无论针对无意还是有意事件，科技安全治理体系都将面临决策滞后、监管范围不全、风险评估不到位、应急响应不及时等一系列持续加重的问题。

长远来看，否定之否定规律预示着治理体系与其治理对象会形成一对相生相克的矛盾体，经历由低级到高级、由简单到复杂的反复斗争，呈现出螺旋形的无限上升运动。随着颠覆性技术不断涌现，无论治理体系发展得多么先进和完备，都总会遇到新的挑战和难点。因此，科技安全治理体系的有效性永远是相对的、暂时的，其建设是一项长期、动态的系统工程。

综上，历史事件验证了风险的客观性，短期趋势决定了挑战的严峻性，长远规律预示着斗争的持久性，因此必须以科技安全事件的必然性为基本出发点，倒逼其治理体系加紧建设完善。

1.2  坚守科技安全底线对国家发展的意义性

基于内部形势，我国开创和发展中国特色社会主义伟大事业具有较强的探索性和创新性，会面临一定风险。特别在社会主义初级阶段，我国各方面发展相较资本主义发达国家尚未形成足够优势，需要在坚持公有制为主体的同时接轨国际，引导各种非公经济发展，繁荣社会主义市场经济。对于公私资本融合发展，如果不能把握分寸，不能沿着正确政治方向发展人工智能、大数据、分布式、区块链等技术，放任私有资本主导关键领域的科技创新和话语权，任由“去中心化”“自主智能”“自适应管理”等理念渗透科技治理体系的重要环节，主管部门很可能会不知不觉失去治理路线的主导权，而一旦走上错误路线，在各方面掣肘下，将很难重建有效的治理体系和监管阵地。此时，任何有意或无意的科技安全事件都可能发生并被利用，给国家发展造成挫折与影响。因此，确立正确的治理路线，坚守科技安全底线，对国家安全稳定发展具有深远意义。

基于外部环境，全球治理面临“四大赤字”。即便面对疫情这类事关全人类生命健康的安全事件，各国在面向公共卫生治理方面依然难于协同。科技安全涉及更深远的利益博弈，加之各国制度、文化、价值观的多元性，进一步加剧了人类社会治理理念协同的难度。此外，科技安全牵一发动全身，一旦失控任何国家都很难独善其身，需要高度完整协同的国际治理体系和技术手段才可能实现有效治理，但这些需求在治理理念都无法统一的情况下很难实现，加之单边主义、恐怖主义横行的时代背景，我国在做好自己的同时还需警惕输入型科技安全事件，坚持底线思维和风险防控常态化。

1.3  坚守科技安全底线对民生价值的重要性

科技安全底线一旦被攻破，人民群众首当其冲，除了大规模的直接伤害，影响更深远的是对人类价值的冲击。因此，既要防止传统意义上物理层面的突发性失控，也要高度重视人文社会层面的渐变式失控。

受西方发展观影响，科技发展长期服务于推动经济增长、创造个人财富。市场和效率驱动的技术变革正加速冲击人类价值体系和社会结构，“无用阶层”等充满偏见的预测大行其道，其本质是资本主义的固化立场和静态思维对人和人际关系的极度物化，其隐含前提是生产资料私有化、教育资源差异化、科技事业精英化、发展权利贵族化，其根本问题是不能用发展的眼光看待生产力与生产关系的辩证关系。如果不树立马克思主义指导下的科技发展观，不以实现人的价值和自由解放为根本目标，算法和机器推动的科技创新很可能沦为少数人制造鸿沟、控制世界的工具，导致越来越多的人实质上成为“无用”而不自知的弱势群体。因此，科技发展本身并不会导致所谓的“无用阶层”，问题的本质是资本主义主导的科技发展难以服务每个人的自由全面发展，甚至会将多数人引入歧途，困在低级欲望与恐惧中得不到解放，进而阻碍人类社会迈向更高阶段。

因此，推动科技发展要重视科技、人文、哲学思维的统一，坚持以人民为中心的发展思想，将服务人的全面发展和人类社会可持续发展确立为科技发展目标的原则和底线；还要与时俱进、实事求是地动态调整生产关系，以适应生产力发展；进而推动创新主体逐步摆脱短期利益要求的束缚，实现面向长远效益和社会整体福利的转型，防止将人类发展引入歧途的渐变式科技失控。

02底线式科技安全治理的理论体系

无论从哪个角度看，运用底线思维都是科技安全治理的必然选择。鉴于短期内国际社会很难统一思想，我国亟需在有机会挽救局面时未雨绸缪，提出正确的治理理念和路线，创新发展相关理论，进而指导实践，切实运用底线思维构建体系、创新机制、规划技术、开发系统。对此，本文正式提出“底线式科技安全治理”，并聚焦“党的领导”“举国体制”“群众路线”“开放包容”“底线思维”五个维度建构其理论体系。

2.1  坚持和加强党的领导是根本保证

对比各国应对疫情的表现可以发现，面对重大公共安全事件，以人为本的理念、集中统一领导、科学高效决策、稳定可持续的战略、全面有力的措施、工业实力雄厚缺一不可，这些恰恰都是中国特色社会主义的基本特征和优势。科技安全治理事关人民生命健康、国家安全发展、社会大局稳定，要把政治建设摆在首位。

构建完善新型治理体系会伴随广泛而深刻的利益调整，要充分认识其中的艰巨性和复杂性。坚持党中央权威和集中统一领导，是确保政治方向正确和发展道路正确的根本保证。为了贯彻好党中央各项决策部署，还要健全总揽全局协调各方的领导体系，将党的领导体现到科技安全治理的机构、体制、制度之中。首先要加强党对全局重大工作的集中统一领导，健全相关决策和议事协调机构，保证政令畅通和工作高效。同时要加快推进国家治理现代化，提高科学执政、民主执政、依法执政水平。建立决策、咨询、执行、评价、监管等各环节职责清晰、协调衔接的治理体系；加快推动网络直报机制和系统的建设，促进人民依法参与治理工作；不断推进科技治理制度化、法治化，坚持在党的领导下依法执政。

党的领导不仅有关键的政治意义，也有重要的学术意义。学术界应肩负起深刻解读“中国模式”、总结升华“中国经验”、系统提炼“中国理论”的重要使命，将习近平总书记关于科技创新的系列重要讲话精神融入到科技管理理论的假设、模型、范式和研究对象、方法、结论中去，尽快全方位、系统性地完成理论革新，以全球视野构建符合中国实践需求和人类命运共同体建设需求的科技管理理论体系，从根源上解决同西方理论体系之间的深层次矛盾，为构建新型科技安全治理体系提供坚实的理论支撑。

图1  中国情境下的底线式科技安全治理理论体系

2.2  构建和完善新型举国体制是核心优势

新型举国体制可以实现政策引领和战略驱动下自主、协同、开放的系统性整合与有机统一。钱学森先生提出组织管理的系统工程思想和总体设计部构想，为构建底线式科技安全治理体系提供了重要启示。坚持底线思维的关键在于确保科技创新的所有组成部分和运转环节 “零漏洞”，要求将“政产学研用”视为有机统一的整体统筹开展治理，形成科技安全治理的新型举国体制。

政府层面，需强化六方面职能。一是加快推进立法，明确相关主体的权力责任，依法开展司法监督，加大违法惩戒力度。二是加强政策能力，在推动创新发展的同时，实时监测评估潜在风险，及时出台政策进行事前干预。三是推动制度创新。底线式治理对体系独立性、管理逻辑的严密性、系统的先进性均要求极高，需适时建立倒逼机制，与时俱进创新制度，以适应新兴技术的治理逻辑和能力需求。四是主导基础研究，完善人才技术的应急征召制度及配套激励机制，强化统筹协调和集中攻关能力，确保关键核心技术自主可控。五是推进技术革新，综合运用模块化供能、万物互联、量子通信与加密、现代安防、区块链等技术实现对科技创新的全生命周期调控，确保科技安全事件可测、可防、可控、可溯源。六是明晰责权，理顺治理体系内部的运行逻辑和功能关系，让各组成部分既有彼此牵制，又坚持集中统一，总体上确保科技安全“零漏洞”。

产业层面，可探索五方面举措。一是坚持“负责任”原则。无论是基础研究和应用研究，还是产品和服务，企业都应自觉防控科技安全风险。二是统一防控标准。推动关键系统、设备、装置的模块化、标准化并逐步实现统一编码、加密及调控。三是强化监督。注重行业自律，完善行业内部监督和企业自我监督，有效补充政府监管。四是合理分化产业链。对于存在风险的领域，要避免单一组织自成完整的体系和链条；对于事关国家安全稳定的支柱型产业，要坚持党的领导和公有制，确保人民当家作主；可适时成立科技安全领域的国有企业。五是集成服务。探索国家层面的“中台”战略，构建分布式资源共享、协同融合、集约化的科技服务平台，推动前台的规模化创新有序发展。

高校层面，应发挥五方面作用。一是意义引领。发挥学科齐全，客观独立等优势，全面评估科技活动对政治、经济、文化、社会、生态等方面的意义和影响，引导科技创新始终服务人的全面发展和人类社会的可持续发展。二是融合学科。深度融合管理学、统计学、信息与自动化等专业，加快建设以技术预见、决策支撑、科研规划、风险评估、创新及监管自动化、项目全周期管理、系统架构设计等为新兴核心能力的科技创新管理学科。三是创新理论。加快推进学术理论与中国特色社会主义理论体系深度结合，为底线式科技安全治理提供坚实的理论支撑。四是培养人才。科技治理的交叉性、复杂性、动态性对从管理决策到技术落地的一致性提出了极高要求，应加快推动学科改革，系统性培养政治立场坚定、人文底蕴深厚、经管理论通透、科技功底扎实，能够从人文社科、理学工程方面开展贯穿式研究的复合型人才。五是协同合作。通过设立国际学术组织、建立海外学术中心、举办国际会议等方式加强国际交流合作，扩大我国在科技治理领域的国际话语权和影响力。

科研机构层面，重点发挥延伸政府能力的作用，实时跟踪评估科技安全风险和治理难点，针对性地加大科技投入和科研力量布局。布局国家科技安全治理研究中心，整合形成跨学科、跨领域、覆盖科研生产和安全防控等各战线的科研团队，聚焦风险评估、监测预警、防控方案等方面集中攻关，加快培育掌握关键核心技术的科技治理领域科研机构。同时，配套问题、目标、结果导向的科研评价评估体系，探索以服务公共利益而非获取产权为目标的成果保护及奖励机制，引导激励科研人员围绕管理系统开发、核心技术攻关、关键软硬件研发等方面开展整合式研究。最后，适时成立高层次的科技治理学术组织和资助平台，完善自由探索、揭榜挂帅、快速响应、红蓝军对抗等机制，在有序的开放式创新、应用和对抗中检验成果成色，查缺补漏。

2.3  践行党的群众路线是必然要求

科技安全事关全体人民的生命健康，要树立其治理是为了人民，更要依靠人民的宗旨。一方面，科技安全治理要始终维护最广大人民的根本利益，绝不能沦为少数人的牟利工具。在研发高精尖产品的同时，要发扬基于东方哲学的创新范式，通过整合、普惠、共赢、节俭、灵活的创新推动科技成果和安全防护产品更多更公平惠及全体人民。另一方面，应充分发挥群众的主观能动作用。作为生产生活的实践主体，人民群众，特别是一线科研人员更容易发现科技安全漏洞，也有很多独到有效的对策。因此，首先要推进教育公平，在全社会树立正确的科技安全观，做好资质管理并鼓励群众依法参与科技创新和安全治理；其次要构建智能化直报平台，建立风险防控质询机制，并配套荣誉、住房、社保、教育、医疗等方面的实质性激励，以此更好地了解和尊重民意，激发蕴藏在群众中的智慧和能量。

以全球视野推进以人民为中心的发展思想深入人心。应对疫情的过程中，很多国家的政府并没有将人民的生命健康放在第一位，而是操控舆论、推卸责任、漠视弱者，甚至对资本利益唯命是从，火中取栗，给民众带来了深重灾难。在面对破坏力更大、防控难度更高的科技安全挑战时，如果部分国家仍然不能树立“科技发展是为了全人类的解放和自由发展”的正确理念，仍然在大是大非面前不知利害，将科技安全视为政治、经济博弈的工具，总有一天会自食其果，进而危害全人类。因此，我国在做好自己的同时也应向世界人民发出坚持群众路线的时代强音，让“人命关天”“以人为本”“世界人民大团结”的治理理念逐渐在世界范围内深入人心。

2.4  建立开放包容的国际秩序是关键支撑

科技安全是人类面临的共同挑战，需要推动全球治理。我国首先要做好自己的事。世卫组织在协调抗疫时的艰难充分体现了全球治理的复杂性。中兴、华为等事件也反复告诫我们，要丢掉一切幻想，坚定不移地走“以斗争求团结”的道路。因此，要尽快建成世界主要科技中心和科技安全研究中心，一方面掌握关键核心技术，确保科技发展的主动权，另一方面聚焦全球治理的“四大赤字”，加快推进站在国际高度的理论创新，为全球科技治理输出中国智慧，为推动构建人类命运共同体创造有利条件。

在此基础上，要深化国际合作，积极牵头组织国际联合研究项目与工程，在科技安全全球治理的国际法律体系、组织体系、学术体系、标准体系、产业体系、公共安全体系等方面丰富合作内涵、完善合作布局、创新合作机制、做强合作平台、提升合作水平、加强信息共享，充分整合知识、技术、人才等全球创新要素，在更高起点上推进治理理论创新和科技创新，不断提高我国的规则制度制定能力和影响力，构建内核强劲、合力强大、开放包容的全球科技安全治理体系和秩序。需要强调的是，上述包容是指对各国的先进治理经验和技术兼容并包，绝不是指对危害人类社会的思想和行为采取包容态度。

2.5  坚持底线思维是维护安全的基本原则

习近平总书记围绕公共卫生安全工作的重要讲话高屋建瓴又深刻具体，也为我国完善科技安全治理体系提供了根本遵循。总体来讲，就是要树立底线思维防范化解重大风险，以科技安全事件的必然性为出发点，全方位全周期入手确保国家科技领域安全。

平时要健全法律法规体系，加强战略谋划和前瞻布局，完善常态化的科技安全评估预警机制和监控网络，建立国家防护物资储备制度，以坚持党的领导和人民当家作主为根本原则，以确保科技安全事件的及时响应和随时终止能力为根本目标，以掌控发展速度、限制影响范围、控制危害程度、管控发展要素、明晰权责边界为根本任务，集中推进人才培养、治理体系构建、管理系统设计、关键核心技术攻关；还要健全危机发生后的科研攻关等方面指挥、行动、保障体系，提高体系化对抗能力和水平。

战时要迅速启动应急指南，结合未来计算机、区块链等技术开展溯源调查，迅速锁定问题源头和责任主体、厘清危机扩散链条，进而通过全面、动态的针对性举措快速扭转形势；还要及时总结经验教训，迭代更新治理体系、方法和技术，不断提升科技安全风险的预测响应能力，确保守住科技安全底线。

人工智能治理底线

人工智能的潜在安全风险备受研究与实践的关注，基于底线式科技安全治理框架，围绕为何以及如何将“人工智能治理原则”下沉为“人工智能治理底线”展开讨论。

01智能治理原则

1.1  已有原则及问题分析

机器人定律尝试通过规范机器人的从属身份实现安全发展，虽然经历了不断完善，但其始终无法解决两个根本问题：一是部分概念难以界定，技术上无法落地，比如“第零定律”中“人类的整体利益”就无法定量界定，很难转化为机器语言去约束机器行为；二是无法处理复杂情况，对强人工智能效用有限，很多伦理困局人类自身都束手无措，寄希望于机器永远服从人类的利益和价值只怕会是一厢情愿。

近年来，中国、欧盟等国家与组织相继发布了原则、准则或共识，为发展负责任、可信赖、有益的人工智能提供了更加详实的原则遵循。比如欧盟重点关注了人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制；《人工智能北京共识》将算法安全评估等列为降低风险隐患的重点技术领域。2019年，科技部发布了《新一代人工智能治理原则》，具体原则及问题分析详见图2。

图2  新一代人工智能治理原则及问题分析

1.2  问题归纳及底线要求

治理原则中的一个共性问题在于很多原则没有明确的标准，而是需要根据人工智能的发展进程，在治理和开放、约束和促进、惩处和激励之间动态地寻求平衡。管得过细过紧，会制约正常发展；管得不够周密，又将遗患无穷。为了避免因为治理理念、标准无法统一而导致的安全漏洞，亟需提出不受“算法黑箱”问题影响、技术上可落地、能够严格执行的底线要求。归纳起来，需重点解决五方面问题：一是掌控人工智能的发展速度；二是限制人工智能的影响范围；三是控制人工智能失控的危害程度；四是管控人工智能的发展要素；五是明晰人工智能治理的权责边界（图3）。

图3  治理原则的问题归纳与底线要求

02人工智能治理底线

对前述底线要求进行归纳概括，本文正式提出人工智能治理底线：

底线一：确保决策者和管理者始终不受威胁地做出自主选择，能够随时终止任何人工智能系统的运行。

底线二：禁止强人工智能直接与现实世界进行物质、信息交互。

底线三：建立精准到个体的应急管理和安全防护体系。

底线四：针对中控系统、能源系统、特殊材料设备系统、强人工智能系统、应急管理系统等分别构建独立的通信、物流和安防体系。

底线五：坚持能源、特殊材料设备等行业的集中统一管理、公有制和独立性，禁止人工智能参与供能和特殊材料设备的编码、加密、调配等过程。

03能源行业的发展要求

人工智能治理底线的提出标准是：概念明确、技术可落地、可规避私有资本干扰、不受人工智能和“算法黑箱”问题影响、可随时终止人工智能运行、可第一时间保护民众安全。

五条底线环环相扣，缺一不可。其中，能源系统之于人工智能治理体系好比心血管系统之于人体：能源行业的集中统一管理、公有制和独立性是实现所有底线要求的核心支撑。从充分性角度来看，能源是所有治理主体和客体的动力来源，只要坚持集中统一管理和公有制，就能实现以人民利益为出发点，高效统一决策，敏捷精准调控，只要坚持独立性，就能避免干扰，保持决策和措施公正客观，及时有效阻止人工智能失控；从必要性角度来看，如果不坚持集中统一管理、公有制和独立性，就会在各方利益的牵扯下出现决策混乱低效、响应调控不及时等问题，甚至有可能做出背离人民利益的选择，某些所谓资本主义发达国家在疫情中表现出的种种乱象就是最好例证。

因此，本文再三强调，要坚持能源行业的集中统一管理、公有制和独立性。

04目标-需求-系统分析与研究框架

管理理论和治理体系需落地为管理信息系统，才能切实发挥作用，实现治理目标。因此，本节通过目标手段分析法，构建“目标-需求-系统”三维一体的分析框架，为设计开发管理信息系统提供指向。

管理目标是系统开发的出发点。针对人工智能领域，底线式科技安全治理体系的管理目标就是通过掌控发展速度、限制影响范围、控制危害程度、管控发展要素、明晰权责边界来守住人工智能治理底线。对管理目标进行拆解，具体落实到管理需求，可分为信息管理、能源管理、物资管理、人员管理等方面。进一步，采用 “从需求分析到系统开发”等认知方法论，就能梳理出管理系统及其子系统的开发框架。

在逻辑构建的基础上，还需要通过对象/需求调查等方式，对主管部门和企业、高校、科研院所中的管理人员和专家学者展开深度访谈，对管理目标、需求、系统及技术方法进行拓展补充、迭代更新完善，形成如图2所示的底线式科技安全治理体系研究框架，为实际布局、设计、开发管理系统提供指引（图中名词含义详见引用的专利）。

图4  底线式科技安全治理体系构建逻辑与研究框架

案例研究

基于底线式科技安全治理的理论指引，本节进一步聚焦信息、能源、物资、人员等方面，通过信息交互管理系统、物联网系统和公共安全应急管理系统的架构设计案例，论述如何将底线式科技安全治理体系落地为管理系统并开展模块化的功能流程设计，以解析该体系构建框架的实证启示。

01信息交互管理系统架构设计

如前所述，由于治理要求存在本质不同，需要对弱人工智能和强人工智能采取分级管理。

1.1  弱人工智能管理系统架构设计

为了确保弱人工智能系统安全运行，以管理能源供给与人机结合等环节为主要抓手，通过目标手段分析设计了如图5所示的管理系统架构。

首先制定管理法规，规范各功能模块的权责关系，同时对相关主体进行司法监管。通过资质权限系统对人员和机器进行三方面资质管理：一是人机交互权限，二是对能源等重点领域知识和程序的学习、研究、调用权限，三是对能源和特殊材料设备的使用权限。机器在权限范围内通过调用、运行和创新程序库中的程序进行学习和工作。能源系统的结构和功能在强人工智能管理系统中一并说明，其中信息监测模块用于监测云平台、人机中台、机器内的信息，能源监测模块用于监测机器的用能信息。所有监测信息反馈至调控模块，一旦发现异常行为，抑或发现来源或去向不明的能量流，立即通过功率调节器调整或终止机器等的运行能力。对于关系重大的机器，可设置独立运行的备用能源系统。

整体来看，中央控制系统拥有最高监管权限，三套独立的通信网络分别为中央控制系统、能源系统、人机系统提供通信支撑。区块链系统为全流程溯源和倒查提供支撑。通过密钥系统控制人机交互和供能环节的权限。安防模块重点保护供能装置，必要时通过电磁脉冲阻止失控事件。具体细节详见专利。

图5  弱人工智能管理系统架构及功能流程

1.2  强人工智能管理系统架构设计

强人工智能是必须抢占的技术高地，但若没有周密的管理方案，很可能在出现技术质变的同时直接引发科技失控。除了能源管理外，确保强人工智能发展安全的关键在于隔绝智能系统与外界的直接联系，据此可通过目标手段分析设计出如图6所示的管理系统架构。

通信网络建立各功能主体之间的信息联络。权限认证与加密系统一方面管理相关人员资质和设备权限，另一方面利用综合生物计量技术对相关人员进行统一编号和授权，利用复合标识技术对相关设备进行统一编号、标注、定位、授权，利用量子密钥技术对密钥接口加密。对接装置建立各功能主体之间的输运通道。

强人工智能系统由运算控制模块、虚拟环境组成。运算控制模块通过智能核心程序、运算控制单元等进行类脑工作，通过移动存储设备分布式、模块化存储拓展程序和信息；虚拟环境是包含现实世界所有可测物理参数的全息虚拟世界，与增强现实系统一起为智能系统提供观测对象。

现实工作区是工作人员的活动区域。工作人员在程序工作室通过调控系统与智能系统在虚拟交互平台交流互动。装备工作室用于生产实体设备。调控系统一方面通过代理人程序引导智能系统研究指定问题，并在智能系统的睡眠周期内更新和检测其数据信息和核心代码，另一方面实时调控增强现实系统和虚拟环境的场景方案。审查系统实时审查违禁信息和行为，并向安防、能源、中控系统反馈预警信息。

隔离系统包括信息屏蔽网和物理隔离网，用于隔绝智能系统与外界的一切非授权信息、物质和能量交互。环境监控网用于监测隔绝有效性。人工现实系统是人造废墟，废墟出口通向设有高温脉冲器的热解终结区。物资封存区用于封存实体物质，确保人工现实系统范围内只有物质流入，没有物质流出。

能源系统由供能装置、能源调控平台、供能线路、供能中枢、电磁脉冲器、备用系统组成。供能装置为指定功能主体供能。能源调控平台包括监测反馈模块、能源监测模块、调控模块。监测反馈模块实时共享安防系统监控到的异常数据信息并监测信息交互过程信息；能源监测模块实时检测供能线路及安防系统监控区域的辐射水平、脉冲信号和能源流动；调控模块根据上述信息通过功率调节器调控用能设备的输入功率，必要时切断能源供应；供能线路设有密钥接口，每条线路只能接入密钥相匹配的用能设备；供能中枢根据智能核心程序中设定的运行、疲劳、睡眠周期调控智能系统的总输入功率，并根据调控模块的指令逐一调控运算控制单元的输入功率，当供能中枢与调控模块因不明原因失去联系时，供能中枢立即切断能源供应并启动电磁脉冲器。

此外，核心代码中包含身份程序、交互程序、周期程序、盲区程序、信任程序、激励程序、限时程序、判别程序等，比如盲区程序通过隐匿特定信息形成智能系统的认知盲点。整体来看，中控系统拥有最高监管权限；合理设置独立的通信网络实现信息安全；区块链系统为全流程溯源和倒查提供依据；独立的安防系统确保必要时终止失控事件。杜绝强人工智能失控是安全治理体系的重中之重，完整介绍详见相关专利。

图6  强人工智能管理系统架构及功能流程

02物联网系统架构设计

通过整合相关发明，本文设计了如图7所示的物联网系统，用于管理人工智能系统的物质要素，特别是特殊材料设备，具体模块结构和功能流程详见引用的专利。

图7  物联网系统架构及功能流程

03公共安全应急管理系统架构设计

普通民众面对科技安全事件的自我保护能力弱，所受影响范围广、速度快、程度深，需要加快完善国家和人民利益主导下的公共安全应急管理系统（图8），确保群众能够迅速获得有效庇护。具体模块结构和功能流程详见引用的专利。

图8  公共安全应急管理系统架构及功能流程

结论与展望

本文以习近平总书记关于底线思维和科技安全的思想为基础，提出了底线式科技安全治理以及人工智能治理底线，从理论阐释、准则提出、体系构建、技术研判、系统设计等方面开展了系统化研究，以期为科技安全治理的理论与政策实践输出启示。

任何治理理念都需要有与之相适应的政治体制、经济水平、社会制度、文化土壤、技术能力才能真正落地。因此，底线式科技安全治理体系的构建和完善将是一个伴随政治、经济、社会、文化、技术等各领域融合发展、螺旋上升的长期系统工程。之所以现在探究看似超前的治理模式和技术方案，是希望能够为各领域前瞻性协同布局输出借鉴。本文虽然围绕底线式治理构建了理论体系，但具体到管理系统架构和技术方案设计应用仅局限于人工智能领域，面向其他新兴科技领域的普适性与概化性有待拓展讨论。此外，底线式治理的支撑性管理系统（如科技安全治理的决策体系和监督制约体系）运行逻辑、组织结构和体制机制等尚待未来研究。

结合疫情在各国的发展实践，中国道路、理论、制度和文化在应对全球性的公共安全危机上具有显著优势，有些方面可以说是难以替代的。在更加综合的科技安全治理问题上，我国更要坚定四个自信、树立底线思维、坚持和加强党的领导、完善新型举国体制、贯彻党的群众路线、构建开放包容新秩序，为破解全球治理的“四个赤字”和推动构建人类命运共同体贡献中国智慧。