对不起,我操控了你的大脑-读书笔记

来自楠悦读

2018年3月,脸书(Facebook)被曝出泄露数据丑闻,一家在2016年帮助特朗普赢得美国总统大选的数据公司曾违规获取8700万脸书用户的信息。网络上发起了“删除脸书”的活动。一周后,脸书股价暴跌18%,市值蒸发800亿美元。

作者曾是身处这场风暴核心的心理战咨询公司“剑桥分析”的数据科学家。在书中,他讲述了自己加盟“剑桥分析”,参与基于数据挖掘得出社交网络用户画像,并预测及引导其行为的研究,构建可用于宣传战的算法系统,继而卷入脸书、维基解密、特朗普竞选及英国脱欧等一系列事件的全过程。

怀利在发现自己所效力的公司渐渐变成了一个操控民意,进而侵害社会、破坏民主的工具之后,站出来举报了一切,并联合新闻界向公众发出警示:人们的身份和行为已经成为数据交易中的商品。控制信息的那些当今世界的强大企业,正以过去无法想象的方式操控着大众的思想。任何人都很难逃脱算法的掌控。 怀利的举报引发了历史上最大规模的数据犯罪调查。他的故事不仅揭露了由流量经济驱动的众多公司内在的冷漠,也暴露了民主制度的脆弱性。

接下来我们分两个部分来了解本书。第一部分,我们来看看怀利的成长之路,剑桥分析公司从创业到破产的过程。第二部分,我们来了解剑桥分析公司到底是如何控制他人大脑的。

怀利的成长之路

首先,我们从怀利的小时候开始说起,了解一下他的成长经历;以及剑桥分析公司的创立、运作以及破产。

怀利的成长之路

怀利是加拿大人,剑桥分析公司的创始人之一,他12岁时,因生病只能坐轮椅行动。13岁左右,他开始制作网页,建网站,学编程。后来,他开始混迹黑客社区。他从黑客理念中学到——任何系统,不论是一台电脑,一个网络,甚至是整个社会,都有可能暴露自己的弱点和缺陷。作为黑客,他知道每一个系统都有弱点在等着被人利用。

经过治疗后,怀利摆脱了轮椅,还在加拿大一个政党那里得到一份技术员的工作。那时候社交媒体正在兴起,美国总统的竞选工作会大量使用它们,18岁的怀利就被派去美国考察学习。

有一家美国公司负责收集数据,鼓励选民投票。怀利去那里考察了一番,开始学习使用一些基础软件包做数据处理。他当时相信科技向善,数据是一种向善的力量,能鼓励那些被遗忘的人去参与政治。

考察结束后,他为加拿大那个政党写了一份报告,里面讲的都是技术。但加拿大的政党对报告没兴趣,怀利就决定离开,到伦敦政治经济学院读法律。

2010年夏天,21岁的怀利在伦敦租了一间公寓,念书,享受城市生活。而后,他接到一个电话,是英国一个政党——自由民主党打来的。他们听说怀利研究过竞选和数据库,就想听一听这个小伙子有何高见。

自由民主党的办公室里贴着一张宣传标语——“无人当被贫穷、无知或从众盲从奴役”,这句口号很对怀利的胃口,所以他又开始为这里工作。怀利一边上学,一边工作,还结交了各种朋友。

他认识了一个剑桥大学心理学博士,博士建议说,如果你想更深入地研究人格和投票行为的关系,就该用到人格五因素模型。这个模型把人格分成五个维度,然后评分。五个维度分别是开放性、尽责性、外向性、宜人性和神经质。

简单来说,尽责性得分高的人,学习成绩可能更好,开放性得分高的人更可能成为创意人士。怀利说,人格五因素模型在预测选民行为方面,可以发挥极大的作用。后来,这个模型成为剑桥分析公司的核心理念。

几年后,有人给怀利推荐了一份工作,他就去这家名叫SCL的公司应聘。SCL集团正是后来剑桥分析的母公司,而面试他的人名叫亚历山大·尼克斯,是后来剑桥分析的总裁。

面试那天,尼克斯向怀利介绍,公司的大多数业务都和英国军方、情报部门有关。英国政府不好公开进行的活动,会交给这家私营公司来干。SCL集团会在东欧进行对抗俄罗斯的宣传,还在拉丁美洲开展反毒品计划,煽动那些种古柯的农民对抗毒枭。怀利对尼克斯说,公司要想发展,就应该获得更准确的数据,构建算法,瞄准更确定的目标人群。

当时,SCL集团正在做一个案例研究,他们把特立尼达和多巴哥共和国当成目标。这个加勒比小国有130万人口,当地政府希望能预防犯罪,于是允许SCL读取这里的人口普查数据,电信公司也允许SCL能实时访问当地任何一个人的数据。SCL选取一个IP地址,就能发现这个人在网上的踪迹。

尼克斯当时在SCL公司负责操控加勒比海地区、非洲和南亚一些国家的选举。怀利看不上尼克斯的傲慢和势利,也看不上SCL缺乏道德感的商业行为,但他相信SCL仍然有许多好人,他所做的项目能够造福世界,于是还是留在这里,和心理学家、数据工程师一起工作,监控他人,影响和改变他人的思想。

剑桥分析公司的创立

2013年10月,怀利见到了一个叫史蒂夫·班农的美国人,向他演示SCL在特立尼达和多巴哥的项目,班农后来参与了美国总统的竞选工作,还进入白宫担任顾问。怀利调出地图,地图上逐渐出现一层荧光点,每个亮点都是一个活生生的人,上面有他们的基本数据。怀利往上添加一个信息层,亮点就会变多,向外扩展,每个人的网络浏览历史就出现了。

班农问怀利,你们整的这些东西能改变文化吗?怀利说,我们要做的是对文化进行定量分析,对文化进行测量;通过追踪、测量、分析,就可以知道我们是否正在改变文化。

怀利还向班农解释了,什么是心理学上的“启动”,要想改变文化,就要找到那些最容易被“启动”的人,然后再逐渐扩散。班农看完怀利的演示之后,很想让怀利把这套监控做法用到美国人身上。于是,见完班农后,怀利开始收集美国弗吉尼亚州居民的信息。他从一些私营机构那里购买数据,也会搜罗持枪证、钓鱼证等个人资料。

班农还对怀利、尼克斯等人许诺,我们可能会有2000万美元的投资,而这个投资的人叫默瑟,是个内向的工程师,有计算机博士学位,曾经在IBM工作过,后来他专心把技术手段都用在了挣钱上。

2013年11月,尼克斯带着怀利等人飞赴纽约,面见投资人默瑟。在默瑟的家庭聚会上,尼克斯和怀利讲述了SCL的发展策略。默瑟听得非常认真,在他的构想中,如果能在电脑上重建人类社会,输入的都是真人数据,那么就可以预测社会及市场的动向。如果能创建出这样一个人工社会,那就拥有了世界上最强大的市场情报工具。

班农和默瑟的想法不尽相同,默瑟想赚钱,班农想用在政治上。但两个人有相同的诉求,那就是用上帝视角来看待脸书、看待人们在网上的行为,以及他们在现实中的行为。

聚会结束后,默瑟决定投资SCL,他出资1500万美元,占股90%。SCL出知识产权,占股10%。他们一起建立了“剑桥分析”公司。尼克斯曾向班农撒谎,说SCL集团在剑桥有办公室,但实际上这个办公室只是临时租用的,里面的职员也都是临时雇来演戏的。尼克斯搞定了班农,班农搞定了投资,两个人分别出任剑桥分析公司的总裁和副总裁。

剑桥分析的运作

怀利的心理学博士朋友,也进入剑桥分析公司工作,还介绍了几位剑桥心理学专业的教授,他们后来都参与了剑桥分析的工作。其中有两位教授曾经做过一个小程序叫“我的人格”,供社交媒体的用户下载。用户完成测试之后能获得一份自己的人格画像。就是平时我们点个赞,发表评论等等这些行为,作者说这些行为意味着每个人都可以被当作数据对待。

2015年的一项研究表明,一个计算机模型可以通过脸书上的点赞数据,精准地预测人的行为。只要拿到某个人10个点赞数据,电脑模型对这个人的行为预测,会比他的同事还精准。如果有了一个人的150个点赞数据,预测准确率会比他的家人还高。如果有300个点赞数据,这个模型对他的了解,会比他的配偶还要高。所以,电脑在判断人格方面是有一定优势的。做市场营销或者心理评估的,都很依赖把人当成数据来处理。把人当成数据来处理,这个趋势会改变个人隐私的概念。

比如,“我的人格”这个程序,一个用户下载、用了这个程序,程序开发者就能掌握这个人及其好友的个人资料。脸书用户的平均好友数量超过了150个,如果1000个人用了这个程序,开发者就能拿到15万人的个人资料,200万人下载了这个程序,开发者就能拿到3亿份个人资料。此前,SCL用过的最大数据集,是特立尼达和多巴哥130万人的个人档案。当剑桥分析公司获得投资之后,他们利用小程序和第三方机构,从脸书那里拿到了几千万份美国用户的数据集。

当时,尼日利亚有一些富翁会聘用剑桥分析来影响当地的大选。富翁们担心,如果一个名叫布哈里的穆斯林候选人在大选中获胜,就会把石油勘探权收为国有,缩减这些富豪的财源。为了毁掉布哈里,剑桥分析公司侵入了相关的邮箱和医院病历,挖掘对布哈里不利的信息。他们还向特定人群散播病毒小视频。视频中宣扬说,如果布哈里当选,就会在尼日利亚实施伊斯兰教法,而后播放了一连串惊悚的画面。怀利认为,公司的行为太龌龊了,他实在忍受不了公司的所作所为,就离职了。

剑桥分析的破产

2018年3月,《卫报》和《纽约时报》报道说,剑桥分析公司未经授权,访问了5000万份脸书用户的个人资料,还通过数据分析有针对性地影响选民,协助特朗普赢得2016年美国总统大选。这份报道其实准备了很久,记者在怀利的协助下,揭露了剑桥分析公司的所作所为。

很快,剑桥分析和SCL宣布启动破产程序,脸书的CEO扎克伯格接受美国国会的问询。最终,脸书交纳了50亿左右美元的罚款。而怀利,被脸书和其旗下的照片墙软列入黑名单,不许他使用这两种社交媒体。

剑桥如何控制他人的大脑

那么剑桥分析是如何控制他人的大脑的呢?剑桥分析的总裁尼克斯大肆宣扬自己公司的能耐,曾经向记者假扮的客户炫耀说,特朗普赢得选举,剑桥分析功不可没。但是,谁也无法证实他们真的能改变别人的思想,操控了大选。怀利说,剑桥会有一帮心理学家和数据专家,琢磨怎么激发、利用互联网上的黑暗面,怎么利用社交媒体和假新闻操控他人。

“把政治正确界定为一种身份威胁”

剑桥分析注意到,美国年纪较大的那部分人,从小就被灌输了一套观念,认为自己天生享有一定的社会特权。他们说话不比节制,像种族歧视,美国人认为,黑人很低劣,看不起黑人。但是现在很多人没有这么自由了。他们不得不约束自己的语言,不断纠正自己在公众面前的表现。

有一些年轻的白人男子还组成了“非自愿独身者社区”,他们找不到高薪工作。对他们来说,受欢迎的男性形象越来越高不可及,要高薪、要身材管理得好、要尊重女性,这让他们内心充满愤怒。

班农掌控剑桥分析之后,他要干的一件事,就是把这些人心中的仇恨和愤怒给勾出来。认为自己享有社会特权的白人男子,总会高估别人对自己的关注程度,所以,要想让他们感受到社交不适,就要向他们传播这样的信息——“想象有一天,你身在美国,但没有一个美国人的名字你念得出来。这个名字的发音难度有多大?你记不记得有人曾因念错了某个种族的名字而受到嘲笑?”

剑桥分析要给这些人建立一个信念——种族关系是一场零和博弈,少数族裔拿走的东西越多,你能拿到的就越少。别人要是主张政治正确,你就无法发声。把政治正确界定为一种身份威胁,就会催发一种“飞去来器效应”,就是说,接触到跟自己意见相左的人之后,我的偏见和信念反而会加强。

“强化认知偏差”

有一个心理学术语叫“公正世界假设”。一个人相信自己生活在一个公正的世界里,如果有人发生了不幸,那一定是“事出有因”。如果发生了一起恶性事件,那受害者肯定也有什么地方做得不对。表现出“公正世界假设”偏差的人,更倾向于责怪受害者。

这是为什么呢?因为他们找理由责怪受害者,能起到心理上的预防作用,帮助他们克服不可控的环境威胁所引发的焦虑。同时,还能安慰他们,让他们觉得自己将会受到公正待遇。

剑桥分析发现,“公正世界假设”跟种族偏见的关系最相关。在美国,很多白人比黑人富裕,文化程度比黑人高。相信“公正世界假设”的人认为,造成这种社会和经济差距的原因,要怪黑人自己,后者明明有那么多时间、条件可以迎头赶上,可就是扶不起来。针对这些人,剑桥分析会推送相关的叙事,强化他们的观念。

煽动“黑暗三人格”

所谓的“黑暗三人格”,其中一个是自恋,极端以自我为中心;另一个是马基雅维利主义,就是为了达到目的不择手段,无情的利己主义;最后一个是情感抽离,不能跟人产生共情。一般来说,“黑暗三人格”都属于对社会适应不良,有这类人格障碍的人更可能作出反社会的行为。

剑桥发现,如果有人点赞了某个极端团体的帖子,算法就会把他和其他用户区别开来。此后,推荐引擎会优先给这个人推送一些极端话题,给他一些量身制作的新闻,这样做是为了提高用户的参与度。我们知道,用户参与度提升是一个重要的运营指标,参与度越高,看到广告的时间就越长。所以,他们会想办法利用一个人的弱点。

2014年夏天,剑桥分析公司开始在脸书上投放虚假信息,创立一些群组。在这些群组中,他们会发布能进一步煽动和激怒用户的内容,等到群组到达一定规模,再组织线下活动,让这些人能交流彼此的偏执和恐惧。因为剑桥分析观察到,当人们发怒时,他们就会失去理性,听不到任何解释。换句话说,一个人被激发起怒气,就更容易被操控。

对不起,我操控了你的大脑 导图
对不起,我操控了你的大脑 导图