许丽颖:心理学研究发现人对技术不了解造成算法厌恶

快报
2021
06/26
12:32
亚设网
分享

中新经纬客户端6月26日电 (张燕征)近日,由中国人民大学高瓴人工智能学院等单位主办的“推荐算法社会价值与可持续发展”研讨会在中国人民大学举行。清华大学社科学院心理学系博士后许丽颖在研讨会上表示,要解决算法歧视和算法厌恶等问题,需要更多实证道德心理学研究,了解更多民众的观点。“平台收集人们的数据,做用户画像和用户分类,需要探索一个合适的‘度’。”

许丽颖:心理学研究发现人对技术不了解造成算法厌恶

清华大学社科学院心理学系博士后许丽颖。来源:主办方供图

许丽颖表示,心理学领域对算法有很多研究。数据表明,很多人知道算法决策表现是更优的,但是人们还是不太喜欢让算法做决策,更愿意让人类做决策,人们称这种心理为算法厌恶。当这种决策任务有道德性质时,这个厌恶就更加强烈。

那么算法厌恶形成的原因是什么?又该如何解决?许丽颖指出,可在实证研究基础上再去探讨一些解决方式。比如研究发现,人们对于算法不了解,从而导致人们产生算法厌恶,那么可以提高算法的透明度,提高普通人的算法知识。也有实证研究发现,人们对于算法能力不信任,那么可提高算法的决策能力、专业化和个性化。

“还有一些人了解算法,也信任它的能力,但是内心就是不愿意用,针对这种现象,可以增强人类和算法的合作,不是把决定权交给算法,而是共同做决策,一定程度可以减少算法厌恶。”许丽颖称。

许丽颖介绍道,她所在的研究团队从人工智能的社会心理学、道德心理学研究领域,将算法研究划分成了三个层面:最底层的数据和算法包括隐私泄露问题,中层是人机交互辅助决策和冲突问题,上层探讨算法歧视问题。“从下至上是越来越社会化的,从上至下是越来越基础。剥离人的因素,然后在这个框架下进行系列研究。”

针对算法歧视方面的研究,许丽颖团队采用了情境实验的范式,“通过对比分析性别、学历、民族、年龄等要素,我们发现无论是什么样的歧视,相比算法歧视来说,人们对人类的歧视更加愤怒、更加生气。”许丽颖称。

在许丽颖看来,要理解算法歧视现象,还需要进一步探讨中介机制。“算法歧视行为是没有意图,不是主动去做的,没有自由意志,而如果我们将算法拟人化,算法就有更多意图,更多的自由意志,那民众可能对它更愤怒,更想要惩罚它。”

“道德心理学对于人工智能研究是一个以人为本的研究,无论是算法厌恶还是算法歧视,其实都是从民众中来的,要研究如何解决也要到民众中去,看民众怎么想,在了解他们意见的基础上,我们再提出一些针对性的措施去解决。”许丽颖称。(中新经纬APP)

( HN666)

THE END
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表亚设网的观点和立场。

2.jpg

关于我们

微信扫一扫,加关注

Top