您的位置: 首页 > 关于CIDEG > CIDEG 观点

薛澜:人工智能迈向敏捷治理,需建立政府企业间互信发布时间: 2022-09-02

9月1日,世界人工智能大会治理论坛在上海世博中心召开。作为2022年世界人工智能大会的特色论坛之一,此次论坛围绕“以人为本,赋能为善”的主题开展,邀请来自政府、企业、学界等专家学者阐述各自观点。清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任、CIDEG学术委员会联席主席薛澜出席会议并做主题演讲,他围绕人工智能参与社会治理展开精彩阐释。


薛澜在主旨演讲中提出,随着人工智能的不断发展,应用不断多元化,出现了很多人们未曾想象的应用场景。不论是能够实现自我繁衍的首批生物机器人Xenobot,还是能够自主编程的机器人系统Alpha Code,都是人工智能创新发展的巨大进步。


在感叹科技无所不能的同时,由于人们无法完全掌握这些技术的发展轨迹,人工智能也为人类的未来增加了不确定性和一定风险。因此,对人工智能的治理有其必要性。


薛澜表示,回顾人工智能治理的发展历程,可以看到2017-2020年期间,主旋律是鼓励创新发展,属于围绕行业问题展开的回应式治理。从2020年至今,国家针对隐私、数据、算法等合规体系的制定相继完善,相关法律法规陆续出台,属于多部门整治的集中治理阶段。


从2022年往后,薛澜谈到近两年被热议的敏捷治理模式。敏捷治理模式下,企业应该主动起来,通过建立人工智能伦理委员会等形式加强内部审查,并且针对法律法规的出台加强与政府乃至学界的交流。企业之间需要就一些好的做法达成共识,进而转化成行业共识,并就此推进行业标准的制定。


企业、政府和学界之间的交流,也是这一阶段需要解决的。薛澜称之为“共同的无知”:“原来简单的情况,企业比较清楚,现在某种意义上企业不太清楚,监管方也不太清楚。在‘共同无知’的阶段,就需要加强交流。”


总的来看,敏捷治理以创新和治理协调发展为导向,由政府主导,多元参与协同互动。薛澜表示,敏捷治理的概念基本能够被认可,但具体执行中仍面临多重挑战。


首当其冲的是如何将抽象的治理原则落实为具体的法律法规,需要更多深入的研究和不同的争论。在抽象情境下,效率、公平、安全、自由都可以被纳入治理目标。但落实在不同场景中,这些目标的优先级是不一样的。如何对多元目标进行排序?最后又该如何进行取舍?薛澜结合自己对部分企业的调研结果,表示这是企业普遍面临的困惑。


其次是多元共治的体系的真正落实。如何破除监管部门和企业的固有关系?如何在治理体系中纳入社会意见?都是亟待解决的问题。薛澜举例,比如人工智能伦理的讨论,不该只是专家的“特权”,全社会可能都对这一问题有不同看法。


最后,对治理工具的选择也需要考量多种因素。高风险、明确的违规行为,需要明确适用法律法规。相对不那么清晰、有一些危险迹象的,则需要用柔性方法来解决。薛澜认为,如何刚柔并济地进行治理?如何把握治理节奏?仍然是监管部门的一个课题。


在演讲的末尾,薛澜再一次强调监管部门与企业之间的交流、建立互信关系。一方面,政府规则的颁布,应该从“一刀切”转为在执行过程中有所调整。比如对算法公开的规定,应该考虑到算法对企业生产的影响。


另一方面,企业和政府需要形成良性互动。“人工智能发展到这个阶段,对企业、政府都有很大的不确定性,需要双方搭建信任的桥梁。”薛澜谈到,“总体来说人工智能的发展还是给社会带来了巨大的利益,尽管有些风险,但苗头也都抓得比较及时。你往前一步,我也往前一步,往大家互信的方向做得更好。”


学术活动
主题论坛
专题研讨
学术沙龙
研究活动
研究项目
研究报告
成果出版
CIDEG文库
CIDEG研究论丛
CIDEG决策参考
CIDEG研究通讯
其他出版物
媒体报道
关于CIDEG
CIDEG 新闻
CIDEG 观点
CIDEG简介
CIDEG年报
联系我们