陈水生：人工智能伦理和治理需要“发展”和“监管”双轮驱动

中新经纬客户端8月18日电 (张燕征)近日，由清华大学数据治理研究中心主办的“人工智能伦理与治理”研讨会在线上举行。复旦大学国际关系与公共事务学院陈水生教授在研讨会上表示，人工智能伦理和治理需要“发展”和“监管”双轮驱动。

对于人工智能治理，陈水生认为，首先要为它创造一个比较好的发展环境或创新环境，推动人工智能技术、应用发展，可能会对整个人类社会带来更多的正向功能和价值；其次，在人工智能发展和治理过程中，政府、企业也要考虑该如何监管，怎样规避在发展过程中可能出现的风险和问题。

在陈水生看来，技术监管更多地是一种平衡的艺术。即如何平衡技术发展、技术应用和技术监管的关系，如何平衡经济、社会和政治的关系，以及如何平衡风险与伦理，技术与规则之间的关系。

陈水生表示，人工智能伦理与治理要考虑三大核心关切。一是“向善”。即技术应该是向善的，人们应思考该如何更好地维持技术的中性，确保技术“不作恶”，更好地让人工智能技术服务人类，推进人类文明和经济社会的发展。

二是“可控”。从伦理层面看，无论是人工智能的发展还是运用，应该是合法合规、安全可控的，还必须是由人类自主的，而不是被技术反制或者被人工智能反制。从全球和国际层面来看，未来如果联合国或其他国际组织制定人工智能发展的规章规则等，我们也要遵守。

三是“均衡”。比如如何平衡技术与制度、政策、政府管理之间的关系？如何平衡企业、公众和监管者的关系？如何平衡人工智能的研发者、创新者和使用者之间的关系？以及如何平衡不同社会阶层之间的关系，当下和未来的关系等。

陈水生还表示，关于人工智能的治理框架可以从纵向和横向两个视角来思考。从纵向的发展维度来看，可以更加关注人工智能发展：一是战略定位，即如何理性、客观、科学地看待人工智能与人类社会的关系、角色、定位；二是多元助推，即研发企业、政府、消费者、行业协会，该如何密切协作，促进人工智能更好发展；三是政策支持，即政府应该制定怎样的公共政策去促进人工智能发展和应用；四是有效监管，即在人工智能发展过程当中，如何通过法律、法规，或者行业自律、社会公众舆论，对人工智能进行监督规约。

从横向的治理维度看，可以把人工智能的治理概括为一个多元治理共同体：一是政府，很多产业发展有赖于中国政府出台的产业政策、监管政策，要考虑如何这把两者更好地有机协调。二是人工智能的相关企业，比如大数据和技术型企业，如何促进人工智能产业的健康发展；三是公众如何参与人工治理伦理建设；四是伦理委员会，包括国内伦理委员会，未来还有国际伦理委员会，可以承担哪些监管的职责；五是各种专家学者、社会科学家、自然科学家等，通过各方合力形成比较完整的治理共同体，一起探讨推动人工智能发展以及人工智能伦理的有效治理。(中新经纬APP)

（ HN666）