编者按:
宰你不是因为你有钱,而是因为你“熟”!
其实除了电商购物,点外卖、订酒店、订机票,买电影票都可能发生“杀熟”。而上述提到的这些,几乎美团都有涉及,大数据杀熟的诱惑实在太大,于是美团最近两天深陷大数据杀熟质疑的困扰。
12月17日,一篇名为《我被美团会员割了韭菜》的文章刷屏,该文作者基于自己点外卖的经历发现,在美团上的同一家店铺,用同一个配送地址,在同样的时间点单,会员比非会员的配送费更高。文章中称,本以为开通外卖会员会省钱,但附近几乎所有外卖商户的配送费都比非会员高1-5元。
一时间,买了美团会员的“打工人”觉得感情受到了伤害,在微博、知乎、黑猫投诉、朋友圈里发出了声泪俱下的“控诉”:“价格歧视”、“割会员韭菜”、“吃相难看”。同时,#美团被爆杀熟外卖会员#迅速登上当日微博热搜榜第五名。
实话说,美团的态度还是比较诚恳的:道歉,成立团队了解问题,解决问题。其效果就留待时间检验吧。
实际上,《紫金财经》的小伙伴,成稿是在美团发生这件事之前,本文的写作目的也不是深扒美团的大数据杀熟。而是在智能技术和大数据广泛应用的当下,面对诱惑,去考验创始人的人性,去考验一家商业企业的人性,未必合适。数据和技术是中性的,但最终的走向却让人深感忧虑!!!
以下是思考全文:
现在智能技术和大数据广泛应用在互联网行业中,个人信息被滥用已经不是什么新鲜事了。人们似乎已经习惯了依照个人信息订制的广告推送,也习惯了自己的隐私数据在外“裸奔”。但隐私数据的现状,却没有最坏,只有更坏。
12月5日,中国裁判文书网公布一份判决书显示,北京某网络公司负责人朱某找到金立子公司致璞科技,由朱某开发木马病毒,金立负责在手机出厂前植入到手机中。植入这种“拉活木马”的病毒之后,手机就变成了可以被黑客远程操控的“肉鸡”。用户无法想像,一些不法厂商,已经把在手机出厂前植入病毒当成一种常规操作。
一方面是无良厂商收集乃至没有底线的窃取用户数据,另一方面是一些人还在用收集来的数据进行算法操纵。这背后是国内隐私数据保护的缺失,亟需完善。
但是,我们真的无法改变现状,任由机器控制我们的一切吗? 或许如同电影《终结者》曾经给我们演示的那样,改变,就将从今天开始。
让人不安的数据
一直在北京市望京地区工作的王昕(化名)是一个轻度数据控厌恶者。一些电商网站根据她的用户信息进行的广告推送,王昕从不点开。但这种厌恶还是随着各类应用的推送,而在不断加深。
冬日里白天短,天黑的早,这让身处偏僻小区的王昕不得不选择网约车出行。一是公司规定用网约车有一定的报销额度,二是这样算下来也确实实惠。于是,几年过去了,王昕的手机换了三、四部,但手机上总是至少有两家网约车平台,方便她约车。
让王昕记忆犹新的是,两年前,她打开某网约车平台,输入上车地点后,突然发现平台显示的下车地点处出现一行小字,正是她家小区地址,也是她经常输入的下车地址。这让王昕心有余悸,不断曝出的用户信息泄露的新闻,让王昕感到隐隐的不安。
从此王昕选择了跟网约车平台玩捉迷藏,不断把自己下车的地点在公司和家附近变化,公司所处的园区和家所在的小区,再也没有在网约车平台上出现过。
尽管如此,王昕还是感到了无奈。她发现用了一款APP后,在没有打开任何应用而只是开机的状态下,她和同事或家人谈话中提及的商品,就会在电商平台推送的广告中出现。尽管王昕迅速删除了这款APP,但她还是感慨:自己这么小心翼翼,却并不能避开个人信息的泄露。自己也无法弄清楚,电子设备里到底有多少陷阱在等待着她。
事实上,一些有心的用户,对于数据隐私的抗争从来就没有停止过,政策层面对此也有动作。2020年3月6日,国家标准化管理委员会正式发布《信息安全技术个人信息安全规范》,并于2020年10月1日起实施。
王昕对于信息泄露非常敏感,而性格大条的周洋(化名)却遇到了不少怪事。一次周洋打开好久没用过的订票APP,迅速弹出了一个要求周洋授权同意APP采集用户信息的协议,当周洋选择拒绝时,此订票APP也做出了让周洋无法继续应用此APP的反应。无奈之下,周洋只好选择同意。而在另一款移动运营商的APP中,周洋发现了同样的问题。
深究之下,周洋才发现:《信息安全技术个人信息安全规范》只是属于国家推荐标准而非强制性约束,其中有一个条款:个人信息主体通过书面、口头等方式主动作出纸质或电子形式的声明,或者自主作出肯定性动作,对其个人信息进行特定处理作出明确授权的行为,不在《信息安全技术个人信息安全规范》管辖之内。
各类APP商家,早就研究透了此类法规,在法规发生效力之前,就巧妙地进行了规避。从而,用户的数据信息始终处于一种“裸奔”的状态,任由各类商家出于各种目的使用,甚至滥用。
作恶的算法
与过去不同,智能时代重塑了人与技术的关系,技术不再仅仅是“制造”和“使用”,他能在人类的需求下,不断的自我进化。
这其中就要用到大量算法,算法是解决现实问题进行分析、计算、求解的程序。首先要对数据信息(包含了个人隐私等)进行获取、占有和处理,并作出判断,产生新的信息。而个人的信息则在这个过程中被不断的编辑、分类和处理。
按常理分析,算法本可以把我们从繁杂的劳动中解放出来,或者通过数据处理获得更大的能力。但失去了中立性的算法,更容易被资本和商家所操纵。
算法已经从过去单一的分析工具,蜕变成可以对社会产生重要影响的力量。它或许在帮助人们,改善人们的生活,或许在作恶,给人们制造麻烦,甚至让人处于恐惧之中。
当人们默认了人工智能的判断,让数据为我们筛选喜好,任凭算法还原,依托于技术而产生的算法,就限制了人们对自我的认知、意识和价值的评判。
于是,越来越多的王昕、周洋们,要么选择在忐忑中生活,要么在算法面前缴械投降。
人们一开始可能会对千人千面的界面感到惊奇,但深入下去,却是几亿用户的数据被使用和分析。用户的浏览行为,在鞋子、包包等不同商品面前,停留的不同时间,都已被归入了不同的算法,进而可以引发新推送界面的秒级更新。
即便如此,这与Negflix相比,还算不上作恶。
Netflix(网飞)是一家会员订阅制的流媒体播放平台,用户可以通过免费快递信封租赁及归还Netflix库存的大量影片实体光盘。Negflix运用大数据技术,进行用户画像后,可以归纳出用户所乐意承受的价格空间,进而在价格呈现上做到千人千面。
老用户看到的价格甚至会高于新用户,Negflix的利润由此提高了14.55%,背后是大数据技术的无情杀熟。商家获利后,也就更加倾向于采用大数据技术操控价格。
当数据滥用以一种更为隐密的方式表现出来之后,往往带来的危害性更大。谷歌曾经以“不作恶”为使命,谷歌邮箱也曾被看做是效率的提升工具,但却没有人注意到它的另一个危害——致瘾。
当用户早上醒来,谷歌邮箱告诉他们,应该这样工作。沉溺其中的用户根本无从察觉这一点,直到谷歌前道德伦理设计师的特里斯坦揭示了这一点。对于具备相当抵抗力的成人来说,致瘾只会导致不同程度的沉迷,但对心智还不成熟的未成年人来说,致瘾所改变的,可能是他们的一生。
互联网的奶头效应明显,喂养型的用户越来越多。这种喂养是经过大数据分析、机器学习决策后,推送给人们的。
而这种喂养推送都有一个前提,这就是预判人们行为轨迹的模型,然后让人们上瘾,将人们还没想到的部分,用算法推送给他们,最终成为思想的一部分,甚至让他们以为这就是他们心之所想,这也正是算法操控的本质。
拯救之路
用户数据让互联网商家获利,而为了获得更多数据,那些商业平台,更乐于监视用户去过的每个地方、每种喜好、每种行为数据,无限追踪、分析、评估,无限逐利。
从人工智能的影响要素来看,算法、算力、数据构成了人工智能的三要素。因此在算力越来越强,算法越来越精良的条件下,摆脱算法操纵的关键,还是创造一个监管的环境,控制用户数据的应用范围。
事实上,在世界范围内,反抗算法操控的行动从来没有停止过。
在美国,主要采取了行业自律模式,即由公司或行业内部制定行为规章或最佳实践指南,为行业的隐私保护提供示范和标杆。
在欧盟,《通用数据保护条例》(GDPR)成为影响最大的法规。欧盟在个人信息保护方面要严格得多,它对互联网环境下个人信息的隐私保护,算得上是世界上最为全面和严格的。欧盟法规对数据泄露的定义较为宽泛,同时还规定了数据控制者和数据处理者在泄露事件中的义务,其惩罚措施也是全球最严格的。
在中国大陆,2017年出台的《网络安全法》中对个人信息的定义和范围进行了统一,同时也提出了个人信息保护的要求,并与《APEC个人隐私保护框架》等国际条例接轨。现在,《个人信息保护法》和《数据安全法》也已经在路上了。
另一方面,即使有相应的法规出台,个人隐私数据保护还是会面临不少问题。
在互联网应用已经日渐形成垄断的当下,用户在使用某类应用之初,就可能被要求签订数据授权协议。于是,用户在无应用可用,或被迫签约的两难选择之下,可能选择后者。
这一点,《信息安全技术个人信息安全规范》,甚至欧洲的GDPR也没有从根本上解决。互联网商家通过一键签约,就让自己的APP成为数据滥用的法外之地。我们期待国内的《个人信息保护法》和《数据安全法》能够解开这个难题。
此外,给弱势的网民提供法律救济,如通过集体诉讼寻求补偿,使公司承担责任,帮助公司成为负责任的个人信息管理者。同时,应建立以行政救济为主,民事救济、刑事救济相结合的多途径救济机制,全面保障个人信息主体的权利。
欧洲的GDPR之所以被包括Facebook和Google在内的所有企业重视,是因为它规定:没有保护好数据而导致数据泄露的,处以1000 万欧元或者上一年度全球营业收入 2%的处罚,两者取其高;自主泄露侵犯用户数据的,处以最高 2000 万欧元或者企业上一年度全球营业收入4%的处罚,二者取其高。
信息泄露与个人隐私保护,或许会成为互联网行业的永恒话题。或许正应了那句话:我们之所以麻木不仁地与这个世界抵抗,不是为了改变世界,而是不被它改变。
人们的美好生活,一定不能被信息滥用所左右,如果必须被滥用,那么互联网是让人类更幸福,还是更悲催?