吴超：算法技术问题最根本的解决方法是发展技术本身

中新经纬客户端8月18日电 (张燕征 实习生黄晨发)近日，由清华大学数据治理研究中心主办的“人工智能伦理与治理”研讨会在线上举行。浙江大学公共管理学院长聘副教授、研究员吴超提出要用形式化数学方式将算法伦理模糊目标可实现化，强调技术问题最根本的解决方法是发展技术本身。

“人工智能并没有我们想象当中的那么强，它很难对我们复杂的社会系统进行建模。”吴超指出，现在人工智能最强的深度学习方法，是用模式识别的方法去拟合泛化能力较强的函数，它对于不同个体的行为以及社会个体之间复杂交互的预测能力较弱。

对于人工智能的伦理和治理问题，吴超表示这是一个交叉领域，但并不是一个交叉应用的问题。“我们应该从社会科学的视角向人工智能提出新的科学问题和优化目标，驱动人工智能未来的发展和算法的创新。”

吴超强调，我们现在没有办法做到透明性，即模型可解释性。因为现在还没有一种可解释的数学方法能够让一个有几十亿个参数的神经网络变得透明，所以更重要的是，我们能否从社会科学的角度去驱动这些可解释性的研究。“这应该是比较基础和漫长的过程，但我们不能因为对人工智能没有一个很好的解释就不使用它。”

吴超指出，这种学术思路涉及到一个很基本的问题，即对社会治理问题的形式化描述，比如如何把“向善”表达为一种机器学习可以理解的目标。“这也是我们一直想促成的学科交叉的对话内容，而不是各有各的词汇集。我们能够用一种形式化的数学方式把这些模糊目标转化成为一个可实现的目标。根据这种学术思路，最近几年我们一直在做‘分布式的智慧治理’的题目，即如何构建一种群体智慧作为未来智能社会基础的智慧结构。”

吴超还提到该研究方向上几个比较重要的科学问题：第一个是不以模型泛化能力为目标，更加重视人工智能当中的个异性，而不在于用一个整体模型对更多节点做广泛性的适用。第二个是如何对动态性进行建模的支持。第三个是如何提高聚合模型的公平性。

“总而言之，我认为要解决技术带来的问题，最根本的方法应该是发展技术本身。目前AI还处在一个技术非常不成熟的早期阶段，从社会治理或者伦理角度来纠正它的方向，在相应的方向进行更加扎实的研究，这也是我们目前努力的方向。”吴超说。(中新经纬APP)

（ HN666）