季卫东：人工智能开发的理念、法律以及政策发布时间： 2019-09-10
近日，上海交通大学法学院院长、教授，CIDEG学术委员季卫东出席“2019世界人工智能大会法治论坛” 并做了以“人工智能开发的理念、法律以及政策”为题的主题演讲。
季卫东教授在开场白中调侃道：“人工智能法治论坛进行到现在，也许大家希望突然有一群机器人列队走进会场，给各位分发午餐三明治。假如这样的场景真的出现，也许大家还会好奇这究竟是主持人施伟东专职副会长的指令导致的规定动作，还是机器人机械学习后的自选动作”。在一片笑声中，他言归正传，首先分析了人工智能进入深度学习和智慧网络化时代后的问题状况。在人工智能从机械学习的他律系统转化为深度学习的自律系统，特别是在不同人工智能系统之间的相互作用及其连锁反应不断进行的情况下，人工智能网络内部的自生性变异将被促进，其结果很容易引发网络与网络之间的冲突以及随之而来的混沌，因而算法黑箱化和失控的风险势必不断增大。
季卫东教授认为，“透明社会”与“黑箱算法”，这是数据驱动社会的一对根本矛盾，对国家治理方式的改革提出了新的挑战和机遇。为此，如何对人工智能进行适当的、合理的、充分的规制，确立人工智能研发的规则、伦理以及政策就势必成为极其重要并非常紧迫的一项课题。 国务院颁发的2017年《新一代人工智能发展规划》提出了人工智能发展的中国式制度安排以及九条主要原则，与国际社会已经形成了基本共识是相洽的；但在不同价值取向发生冲突时，怎样决定取舍的元规则和优先顺序还有待进一步明确。值得欣喜的是，这次论坛发布的《人工智能安全与法治导则》五大部分提出了27条具体指针，使国务院2017年规划的治理框架有了大幅度改进。
最后，季卫东教授强调，智慧网络的复杂性来自电子通讯技术把原先处于完全不同领域、不同层面、具有不同目的、不同属性的各种信息和数据都混合在一起处理的事实，也来自人工智能的不同系统在协同运作时带来的不同组合方式以及自动化改组、连锁反应的动态。5G在空前加强手机等移动电子通讯系统的功能的同时，也有可能增大智慧网络发生出乎利用者意料的现象的风险，并在多样化的应用方式中增大利用者以及第三者的权益遭受侵害的法律风险。为了在甄别和防范风险的同时保护人工智能开发的积极性和创造性，还有必要更多地采取软法方式，而不是简单地提高硬法的惩戒力度。
转载自公众号：法的社会视野