张钹：人工智能安全问题比信息系统更难克服

新浪科技讯 8月3日晚间消息，全球数字经济大会期间，中国科学院院士、清华大学人工智能研究院院长张钹指出，人工智能安全问题比信息系统更难克服，人工智能治理不仅要从法律法规、伦理规范等层面去“治标”，同时还应从技术创新层面发力去“治本”。

人工智能在纯技术层面是价值中立的，但在实际应用中则往往兼具创造性和破坏性。数据隐私、算法偏见、技术滥用等安全问题，正给社会公共治理与产业智能化转型带来严峻挑战。

在张钹看来，“人工智能与信息系统在安全性上有着显著区别。信息系统安全性问题主要是软件设计中的漏洞，容易被解决。而第二代人工智能的安全性问题主要来自深度学习算法本身的不安全，更加本质、更难克服。”张钹指出，为防止人工智能被误用、滥用，人工智能的治理首先需要从法律法规、伦理规范、行业共识等不同层面去“治标”，同时还应从技术创新层面发力去“治本”。

学术与教学之外，张钹同时还担任人工智能企业瑞莱智慧的首席科学家。本次数字经济大会，在由北京智源人工智能研究院、瑞莱智慧联合发起的《人工智能产业担当宣言》发布仪式上，华为、蚂蚁集团、寒武纪、出门问问等人工智能企业代表出席，宣布共担科技使命，积极探索人工智能治理的新路径。（文猛）

（董云龙 ）