2021世界人工智能大会（WAIC）治理论坛于7月8日至10日在上海举行。本届论坛主题为“以人为本，实践为要”。国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长、清华大学苏世民书院院长、CIDEG学术委员会联席主席薛澜教授，上海交通大学文科资深教授、上海交通大学凯原法学院讲席教授、CIDEG学术委员季卫东教授出席会议并发言。“清华大学CIDEG”特将精彩内容转载如下，以飨读者。

薛澜：

人工智能治理很关键，创新和治理须协调推动

2021世界人工智能大会（WAIC）

人工智能治理对其发展很重要

薛澜教授首先表示，人工智能治理是其发展过程中非常重要的内容，治理如果跟不上，某种程度上就会制约发展。人工智能不仅已经很好地应用于抗击新冠疫情，也积极地应用于日常生活之中，甚至已经突破了为日常生活带来的各种益处，其发展可能会显著地提高人类对世界的认识。例如，蛋白质折叠、蛋白质结构的预测是过去50年来生物学中的一项重要挑战，但是最新版的AlphaFold被相关专家认为其是应对这一重大挑战的重要解决方案。

人工智能治理模式的变化

随后，薛澜教授回顾了人工智能治理在近年发生的变化过程，特别是其治理模式的变化。

过去：回应式治理模式

从2017年到2020年，这个阶段的主导政策是推动人工智能技术发展，形成非常有利于人工智能发展、创新的大环境，并且提供相关问题的引导性、规范性的措施。尽管在这一阶段中也出现过大大小小的问题，但总体而言，这一阶段呈现包容审慎的态度，针对国内出现的问题出台了一些软性规则，并且在科技部的推动下成立了新一代人工智能治理专家委员会，出台了新的人工智能治理准则，包括去年出台的新一代人工智能标准体系建设指南，网络安全标准实践指南，特别是人工智能伦理安全风险防范指引。

当前：集中治理模式

一些相关问题的应对不够集中、不够及时，便触发了集中治理，很多部门采取措施对一些问题进行整治，从去年的蚂蚁金服到最近的滴滴出行。与此同时，相关法律法规的出台也在加快步伐。《数据安全法》将于今年9月1日正式实施，《个人信息保护法》的二审也已经完成，预计将于8月份进行三审，地方也出台了相关的条例。这都意味着我国从去年开始，进入了一个相对比较集中的治理的模式。这个治理模式明确了国家加强行业监管，促进制度落实的决心，对暴露出来的各种问题采取比较坚决的措施，以及落实监管规则。同时也关注、触及了一些可能需要进一步研究的问题，如社会对互联网、人工智能发展的担心，包括个人隐私、数据保护方面的担忧，以及关于产业在未来的发展和行业法规的推进。

集中治理模式也会带来一定成本，短期内不排除资本对行业的关注会偏离。过去，新生企业都要打上“人工智能”的标签，但现在它们可能会尽量偏离这一标签，资本也会避开对其的关注。在全球竞争的环境下，很多人工智能企业面临双重挑战，这也是我们在加强监管的同时必须要考虑的问题。

应尽快进入的阶段：敏捷治理模式

中国发布的《新一代人工智能治理原则》里面专门有一条规则就是敏捷治理，薛澜教授指出，敏捷治理机制的运行，首先对治理的问题要有深入的了解。深入剖析敏捷治理的基本框架，以及研究如何在实践中落实敏捷治理，需要关注以下四个核心要素：

1、研究相关公共政策背后所蕴含的不同的价值理念，包括效率、公平、安全、自由等等。

2、治理对象应自下而上分层治理。治理对象有数据、算法、应用场景、平台、企业。

3、尽管治理、监管的主体是政府，但是需要多元参与和协同互动，以及充分考虑学术界、社会各方面的利益。

4、治理工具需要灵活运用，刚柔并济，这是敏捷治理中非常重要的一点。法律法规是非常刚性的，但具体怎么运用还需要我们进一步考虑。新经济的发展也带来了新的趋势，一味照搬传统的治理模式则会带来问题。此外，技术的发展也非常迅速，需要及时跟踪技术和市场，同时还要加强监管部门和市场主体的沟通，传统的监管和市场主体的关系就像“猫和老鼠”的关系，但实际上企业的发展是更快的，所以要加快沟通，灵活运用各种工具来进行监管。

创新导向和风险规制需要合理平衡

薛澜教授最后还探讨了创新和治理之间的关系，针对于”刚发展怎么就谈治理“的言论，他表示，任何时候创新和治理都是两个轮子，一定是要协调推动。如果没有很好的规制治理，就很难创新、很难良好地发展，将会对创新产生很大的影响。此外，创新有很大的不确定性，而规制本身的不确定性也对创新有重要影响。

薛澜教授对话商汤科技徐立：伦理治理给人工智能更大创新空间

“大爱无疆·共生” 人工智能企业论坛

薛澜教授就人工智能将带来哪些全新创新范式，人工智能的发展与治理存在怎样的关系等针对人工智能发展面临的诸多挑战性问题与商汤科技联合创始人、首席执行官徐立展开巅峰对话。

人工智能创新范式

薛澜教授首先分享了他对创新的全新理解，他表示，创新有时候颠覆的不仅是技术，同时也是观念和认知，也有可能带来一些未知和潜在的风险。人类社会其实也是在不断探索，在获取最大收益的同时，怎样有效规制和降低风险，在审慎的应用中去探索它的边界。

对于，“会不会有一天人工智能具有超出人类想象力的能力”的问题，徐立表示，答案是非常难的，需要技术往前再进一步，才能看得出更大的全貌。以现在技术演进的路线，距离真正能够去突破人的思维边界的能力，还存在一定的空间和距离。我们需要开发的是真正能够帮助人类去拓展思维局限性的技术。

人工智能治理框架

薛澜教授还主导了许多国家治理框架建设，他认为人工智能治理框架与传统治理区别很大，传统治理框架需要一个相当长的时间去研究归纳总结，再征求各方意见；但人工智能技术日新月异，治理框架要更快适应技术的发展，及时给予“点拨”，避免偏离太远。

人工智能发展与伦理治理

薛澜教授认为人工智能的发展与其伦理治理之间的关系是彼此关系紧密、相互依存。但如果规制的框架不清楚，实际上是限制了发展，倘若没有明确的治理框架，甚至不敢去做创新与投资。

徐立表示，商汤一直秉承着均衡的人工智能伦理治理观，包括可持续发展、以人为本和技术可控。其中，可持续发展的AI治理观，包括可持续发展、保护环境、包容共享等伦理主题；以人为本的AI治理观，包括保护隐私、造福人类、公平无歧视等伦理主题；技术可控的AI治理观，包括可验证、可审查、合法、可信任等伦理主题。旨在跳出传统的思维局限，集结更多元的思维视角，以此来规范人工智能创新和发展的伦理边界。

科技的普及至关重要

薛澜教授表示，需要让社会更好地认识到人工智能技术的特点，以及可能带来的各种风险，如此我们社会和公众对这些技术就不会感到那么陌生，也就可以做出更好的理性的选择。

季卫东教授发布《智慧法治》英文版文集

《智慧法治》英文版文集全球首发式

本次论坛发布了《智慧法治》英文版文集。发布嘉宾季卫东教授和刘艳红教授指出《东方法学》历来重视包括智慧法治在内的法学学术前沿问题的选题策划，重视优秀学术作品的国际传播。2019年，《东方法学》组建高翻团队，每年从全年发文中选译30篇适合外译的优秀作品，通过中国知网科技数据平台线上分发。为讲好新时代全球语境下的智慧法治故事，《东方法学》又精选其中18篇作品结集出版了《智慧法治》英文版文集，向全球集中展现最新研究成果。这是《东方法学》服务智慧法治建设的有效探索。