许丽颖：“算法厌恶”源于使用者对算法优势和应用不熟悉

中新经纬客户端5月31日电 (薛宇飞)近日，由清华大学社科学院主办的“人工智能心理学与算法伦理”研讨会在清华科技园举行。研讨会上，清华大学社科学院心理学系博士后、助理研究员许丽颖分享了最新研究成果——《人工智能心理学和算法的伦理报告》。

清华大学社科学院心理学系博士后、助理研究员许丽颖。来源：主办方供图

过去几十年里算法发展非常快，已经融入社会生活的方方面面。许丽颖表示，算法发展迅速，首先是因为有些决策已超出人类的计算能力，这个时候就会把决策交给算法去做；其次，在人类可以做的事情中，有些是算法的决策和表现都优于人类的，这部分也会交给算法做；第三，算法一定程度可以弥补人类的主观和偏见；第四，算法决策的成本更低，适用范围更广。

尽管算法有很多好处，但实际上很多人对算法的态度并不乐观，研究表明，算法能够比人类更准确的预测未来或者完成任务的时候，人们倾向选择人类做出决策建议，有些人称之为“算法厌恶”。

许丽颖表示，“算法厌恶”潜在的原因包括几个方面。首先是认知原因，人不知道算法有这么多优势；第二是对应用领域的熟悉度和专业度，也会影响人们对算法决策的接受度，如果对算法应用的某一个领域不熟悉，不知道这个领域算法决策是更好的，也会导致厌恶；第三是责任转移，如果让人做决策，决策错误可以把责任推到人身上，但是如果算法做出错误决策，就很难把责任推到算法身上。

而针对算法厌恶的相反方面是算法欣赏，许丽颖也提出了一些提升算法欣赏的方法，第一是提高人类对算法的认识；第二是提升算法的决策能力；第三是在决策中采用人类和算法合作进行决策，这样人类更容易接受。

最后，许丽颖对研究成果进行了总结，首先是人判断人或者人工智能做出不道德的事情，会有不同的后果，同样的事情，无论是道德或者人工智能或者商业方面的结果都体现了不对称性；第二是在道德判断层面，人类始终对人类做出更加严苛的道德判断，而目前阶段人工智能不太能做出道德判断或者承担道德责任；第三是人工智能的结果方面，犯错会导致人们不支持人工智能的研究，对人工智能产生负面的印象；第四是在商业结果方面，来自社会层面的歧视和剥削让人工智能的负面事件对公司产生连带效应，如果算法做出了歧视行为，那么人们对于人类和算法的态度以及对公司的影响也显著不同。(中新经纬APP)

（ HN666）