王立梅：算法备案不如事中评估事后回查

中新经纬客户端5月7日电 (张芷菡)近日，由中国人民大学未来法治研究院主办的“算法分类分场景规制”研讨会在中国人民大学举行。中国政法大学网络法学研究院教授、副院长王立梅在研讨会中指出，算法可尝试为用户提供多样化的推荐选项，与其算法备案不如事后回查。

中国政法大学网络法学研究院教授、副院长王立梅 来源：主办方供图

当前网络购物、资讯、视频等平台主要依赖算法推荐进行内容分发，并向用户进行个性化推荐，但是个性化推荐算法在应用中仍然存在一些问题。比如，无论是电商平台还是内容平台，其能给用户展现的“货架”大小有限，所以通常只把用户最有可能点击或购买的放在前面。更值得忧虑的是，一些算法尚未发展到逻辑推理、归纳抽象的认识层面学习，无法向用户解释推荐背后的逻辑，用户常感觉到被迫接受，它使个性化推荐变得机械和冒犯。

对此，王立梅指出，很多公司推出了基于关键词、基于神经网络、基于知识图谱的个性化推荐的算法，在进行推荐时，会推荐它认为最“权威”、最“准确”的，但不一定能满足用户在不同场景不同分类下的需求。

“比如采用算法为法官推荐他需要参考的裁判文书时，算法可能只推荐它认为结果最相似的判决，认为它是最具‘参考价值’的。但有些法官可能更希望系统能推荐出事实有部分相似但是判决不同的案例用来比较参考。所以我们需要更多的用户信息，考察全面的用户需求。如果为所有用户推荐同一结果，那么其价值就会降低。从这个角度分析，个性化推荐有非常大的优势。”王立梅表示。

王立梅说，在不同的场景和不同的分类下，用户对于数据的要求是不同的。在规制算法的时候如果不能优化数据源，算法得出的结果不一定是用户想要的，全量数据的最大问题是如何清晰地找到符合用户需求、对用户有价值的信息。算法应当尝试分场景或分类，为用户提供多样化的推荐选项。

王立梅认为，分类或者分场景需要考虑用户本身的需求。在法学定义上，用户本身的需求可以通过用户选择权来实现，算法要尊重用户选择权。算法应该给用户提供针对个人特征的选项、不针对个人特征的选项、拒绝针对个人特征的选项，使得用户选择权的行使成为可能。另外，针对个人特征的选项还应当进一步细分，用户可以选择提供哪些个人特征信息以获得部分推荐服务，而不是一刀切地提供全部个人信息得到一个推荐结果。同时，如果对算法分类或者分场景，应当确立技术性的标准，有一定的标准才能评价算法好与不好。

在算法监管方面，如何在算法提升效率、方便用户的同时，保证算法的安全、规范运行，王立梅认为，算法备案、数据备案，其实不是很现实的选择。“算法发展很快，难以穷尽，使用过程中还会不断调整。算法这种动态属性使得采用算法备案、数据备案的事前监管模式并不现实。相对而言，事中监管和事后监管更符合算法的客观属性。具体来说，可以使算法方承担提供专家意见的义务，邀请专家根据评估算法必要披露的文件或必要信息对算法进行第三方意见评估。监管机关或者用户对算法提出质疑时，算法方必须启动这一程序，类似于如果企业采用自动化决策系统，董事有义务要求管理方对他的自动化决策系统提供说明。”(中新经纬APP)

（ HN666）