「时间就是金钱」这句谚语,在 2011 年被拍成了科幻片《时间规划局》。电影构筑的未来世界中,「时间」完全等同于金钱,辛苦工作赚「时间」,再用「时间」买买买。
▲ 电影《时间规划局》(2011)
好像只会出现在科幻片的奇思妙想,却在当下以另一种形式成为现实——我们的注意力和时间,暗地里被兜售给广告商赚取金钱。但这仅仅是冰山一角,屏幕那端藏着太多见不得人的谜团。
有多少次看到广告、收到推送,会觉得手机在窃听自己的生活?
明明是悄悄关注某人,还是会毫不遗漏收到他/她的动态。亲朋好友的生日总有即时的提醒,说不定还会有礼物推荐。甚至还有一个说法,对着男友的手机多念叨自己想要的礼物,男友就会收到相关推荐。
这一切背后的秘密,都在去年 9 月 9 日上映的《监视资本主义:智能陷阱》(以下简称《智能陷阱》),这部 Netflix 高分纪录片中得到揭晓。
▲《监视资本主义:智能陷阱》海报. 图片来自:Netflix
虽然被定义为纪录片,看完这片子却不禁惊叹,纪录片还可以这样拍!
既有科幻片十足的虚构画面,又有贴合讲述的改编故事,还有借鉴剧情片的精彩剪辑。看了 app 标记后戳进去的这一段,不正是《梦之安魂曲》对毒瘾的描绘吗?
▲ 纪录片《监视资本主义:智能陷阱》
▲ 电影《梦之安魂曲》(2000)
而且还会不时来个打脸环节——那边 Facebook 创始人马克·扎克伯格刚声称「人工智能可以解决问题」,《数学杀伤性武器》(Weapons of Math Destruction)的作者 Cathy O’Neil 博士立马现身,有理有据地解释「这是骗人的」。
▲ 纪录片《监视资本主义:智能陷阱》中马克·扎克伯格和 Cathy O’Neil
看完片子疯狂安利的观众不在少数,在推特上搜索片名,就会看到一堆「你一定要看」、「你一定要看」、「你一定要看」……分享热情丝毫不亚于传教的狂热信徒。还有人将这部纪录片跟「开眼看世界」这个词语挂钩。
这部片子解释了远远超出为什么一分钟从谷歌搜索最佳沙发,下一分钟就会在 Facebook 信息推送中看到沙发广告这个问题。
——烂番茄上美联社马克·肯尼迪的热门评论
国人请自动将 Google 替代为百度,Facebook 替代为微博、小红书、抖音等等,是不是有那味儿了?读完接下来的揭秘,你也有望成为另一位 Cathy O’Neil 博士,振振有词地戳穿科技大佬们的谎言。
《智能陷阱》请来很多业界核心人物,曾服务过 Facebook、Instagram、Google、YouTube、苹果、推特、火狐、Pinterest……如果主演一栏只能写上一位,那必定是前 Google 设计道德伦理学家、人道技术中心的创始人特里斯坦·哈里斯(Tristan Harris)。
▲ 特里斯坦·哈里斯(Tristan Harris)
聊到特里斯坦与 Netflix 的「过节」,那得回到 2017 年特里斯坦在 TED 上发表的演讲《科技公司如何控制你的注意力》,将 Netflix 作为抨击对象,还引用 Netflix CEO Reed Hastings 那段时间说过的一句话:「我们最大的对手是 Facebook, YouTube 和睡眠」。
不少人误以为 Netflix 的竞争对手是网络媒体,但他的竞争对手名单上有所有会瓜分人类注意力的事物。
这些科技公司之间的竞争,特里斯坦也给出了简单的例子——YouTube 增加自动播放下一个视频的功能,来提升用户停留的时间,Netflix 看到后也开始自动播放下一集,Facebook 发现后自动播放推送中的所有视频,连用户按下播放键的片刻也要全数扼杀。
看似简单的功能设计,背后有门不简单的学问,名叫劝服性技术。特里斯坦恰好就是这方面的天才,在谷歌工作期间他就负责这一块——名正言顺地用技术结合心理学,去左右人们的想法。
我们今天不停刷微博、淘宝的「刷」这个动作,因为「对方正在输入……」便在对话框内等待的行为,收到照片被圈、群里被 @ 之后会进入互动环节等等,都是被这群工程师精心设计过的,用来竞争用户花在自家产品上的时间。
Netflix 明明知道自己也是被抨击对象,却在揭秘上不懈努力。先在 2019 年拍了《隐私大盗》,就 Facebook 干扰川普大选、脱欧投票等政治活动进行揭秘,再在 2020 年上了这部《智能陷阱》,赚了无数观众的 94 分钟。
由科技公司主导、科技专家坐镇(阵)的《智能陷阱》,也在说服力和可信度上,给了观众一颗定心丸。
▲《智能陷阱》中的部分受访工程师
特里斯坦在 TED 演讲的第一段描述非常硬核——他将屏幕那端比作控制室,里面有一群人在工作,如何去决定用户的思想和情感。《智能陷阱》则将这个如同存在于科幻片的房间,在影片里面做了出来。
在科技大咖持续讲解的同时,片子还虚构了一个受困于「智能陷阱」的家庭。其中名叫本的男孩还是一个学生,却已经是 Facebook 的重度上瘾者。他在屏幕那端,被工程师造出了一个仿若巫毒娃娃的模型。
看什么东西,看了多久,看的速度,都会被记录下来作为数据,打造越来越精准的模型。模型越精准,预判能力也会更优秀。预判能力用更通俗的话来解释,就是越来越像肚子里的蛔虫那般懂你。
我们在生活中或多或少会埋汰,身边亲近的人不懂自己。反过来思考,为什么这些平台可以这么懂我们?答案很简单,懂我们可以让它们赚钱,甚至于单靠懂我们就可以赚钱。
最有钱的公司就是技术公司,Google Docs、Facebook、亚马逊、Tesla。
这些公司成为世界上最有势力的公司,是因为去年数据在价值上超越石油。
数据是地球上最宝贵的资产。这些公司很值钱,因为他们在剥削人们的资产。
——前剑桥分析的商业发展总监布瑞特妮·凯瑟(Brittany Kaiser)在纪录片《隐私大盗》中的讲述
▲《让世界天翻地覆的数据》. 图片来自:纪录片《隐私大盗》(2019)
布瑞特妮曾经为参议员写了一个用来质询马克·扎克伯格的问题:「Facebook 的收益有多少直接来自将用户的个人数据货币化?」一旁的朋友惊呼:「全都是」。
每到年末年初的时候,朋友圈分享的那些来自网易云、豆瓣、支付宝等平台的年度报告,不正是明晃晃的证据吗?
很多这种技术公司有三个主要目标。
有一个参与度目标,增加你的使用,让你一直滑动屏幕。
有一个增长目标,让你不断回来,尽可能多地邀请朋友,让他们再邀请更多的朋友。
还有一个广告目标,确保一切按照预期发展。我们尽量多地从广告上挣钱。
每一个目标都由一个算法驱动。算法的作用是找出,给你展示什么,让数据上涨。
——特里斯坦·哈里斯
有了很多很多的数据,将用户的性格剖析完毕,能够预测用户的行为,如何换取商业价值?我们终于聊到最关键的一步:个性化定制。
个性化定制表面看上去是个褒义词,像测量体型定制衣服一样,量身定做了一个专属于我们每个人的内容页,根据我们的性格、喜好以及当下的需求,推送不同的信息。
维基百科就是一个反向的例子,百度百科也是一样的道理。
当你打开一个维基百科网页,你和别人看到的东西是一样的。所以,这是网络上少有的,我们统一共享的东西。
现在想象一下,维基百科说:「我们要给每一个人不同的个性化定义,有人给我们钱,让我们这样做。」维基百科就会监视你,会计算「我要做什么,才能代表一些商业利益让这个人产生一点改变?」对吧。
然后就会改变整个词条。你能想象吗?你应该能够想象得到,因为在 Facebook 页面上,就是这样的。你的 YouTube 推送,就是这样的。
——《立刻删除你社交媒体的十个观点》作者贾伦·拉尼尔(Jaron Lanier)
即便是两个非常亲近的朋友,他们两个有着完全相同的朋友圈子,他们会认为「我们在脸书上的新推送上,会看到完全相同的信息」。但事实远非如此,他们会看到完全不同的世界,因为这是基于计算机的计算,对每一个人来说,最完美的呈现。
——特里斯坦·哈里斯
反复迭代升级后,会个性化呈现给每个人最完美的世界。这个世界里,每一个人都认同你,在收到的推送消息中,每个人都跟你极其相似。让你认同的完美世界,会在你放松警惕的时候,反过来影响你,以实现它的商业目标与价值。
因为这跟量体裁衣不一样的是,我们没有花钱,只是用户,而广告商或者政客掏钱了,他们才是客户。客户才是社交媒体的「上帝」。
在片子里面虚构的小家庭里,妈妈想让孩子们摆脱手机上瘾的状态,但都失败了。
女孩艾拉砸碎锁住手机的玻璃罐,拿到房间里面自拍、修图、等点赞。点赞太少便删掉再拍、再修图、再发布。渐渐地,她开始无法接受自己真实的模样。
我们制作「点赞」按钮的时候,我们全部的动机是「我们可以在世界中传播积极和爱吗?」
时间快进到当下,青少年会因为没有得到足够多的点赞而抑郁。
这个想法或者或导致政治两极分化,当时是完全无法想象的。
——前 Facebook、Google 工程师、Asana 联合创始人 Justin Rosenstein
男孩本在放下手机的空虚三天后,重新沉迷到了社交网络中。之后,他还被推送的阴谋论信息所影响,因为人工智能会为了吸引人注意不惜推送虚假消息,直至在抗议集会中被捕。
这个故事结束的方式也颇有深意。屏幕那端的控制室被销毁了,「巫毒娃娃」被放了下来回到真实的状态。
不禁联想起电影《楚门的世界》,从出生便活在「直播」中的楚门,终于走出了「片场」这个虚构的世界。
▲ 电影《楚门的世界》(1998)
也许,我们与其对假想的未来中的人工智能感到担心, 不如解决当下就存在的人工智能问题, 就是那些争夺注意力的新闻推送。
解决这个问题 是解决其他问题的关键所在。 归根到底,在一生中, 我们共同拥有的就是注意力和时间。 时间会被我们自己充分利用吗?
——特里斯坦·哈里斯
在片子中,这些科技大咖对提出完全解决问题的方法也会摇头、叹气,但他们对个人也给出了一些很有用的小建议:
关闭通知或尽可能减少不必要的通知,卸载不必要且浪费时间的 app
使用浏览器扩展程序阻止推荐,不在 YouTube 等平台接受推荐的视频
获取具有不同观点的信息来源,关注跟自己不同观点的人
分享、点赞或评论前,先核查信息的真实性
为自己以及孩子规划使用智能设备的时间
多亏了这群走出来发声的勇敢工程师,他们亲手搭建了让大家上瘾的数据世界,也担起自己的责任,离开那个世界,走到我们面前,让大家都成为知情者。只有知悉问题,才能在不久的未来走出困境。