欢迎安装高清版[一起看]电影APP
剧照
剧情介绍
我们发推文、点赞、分享 — 但日益依赖社交媒体会带来什么后果？随着数字平台日益成为人们保持联系的重要方式，硅谷内部人士通过暴露屏幕另一侧的隐藏内容，揭示了社交媒体如何重新改写文明。螳螂2012金玉满堂失忆煽动WIXOSS爱上费加罗自梳2010释放印度战俘彩虹小马：小马国女孩灰色的果实祭旗可不可以不魔法科高校的劣等生 追忆篇达·芬奇的恶魔第三季长相思没有过去的男人家族与情感急诊室的故事 第十四季你好，妈妈血玫瑰相错亲嫁对人女儿经空中庭园蜡笔小新：爆盛！功夫男孩〜拉面大乱〜舞国傻子龙婿第二部遇见你时风好甜狂医下山诺娜和埃斯特葬礼再聚首加齐号的攻击人类清除计划第一季车轮滚滚1975永生的海拉本能2带你去见我妈爱斗气爱上你千年之恋之源氏物语笑笑笑黑侠1996鬼谷门·蜃世浩劫弟子都说我无敌华严小镇之诡踪江南灵异录之白云桥宋飞正传第六季一级方程式：疾速争胜第五季入侵脑细胞2
长篇影评
1 ) 《social dilemma》：除了迷茫、恐惧、愤怒，还有别的符合人类本性的东西，吗？
网飞的纪录片《social dilemma》真正揭开了科技（互联网）公司的神秘，让我们看到个人在一整套系统技术和盈利目标面前的脆弱。这种脆弱，有纯粹力量上的对比，但与历史上的技术变革影响相比，这一轮的科学技术利用人天性弱点的能力前无古人，助力背后操作者，甚至是操作者背后的人完成其目的。
在这部纪录片里，几个硅谷科技公司的早期员工、重要成员，相继表达了这样一个观点：“科技一开始是为了美好的目标，但走着走着就变了样子，我们根本没想到会这样。” 确实，google的提供信息，facebook的连接亲友，甚至美团的外卖速递，一开始都是为了满足人们正常的需求，让生活更美好。什么时候开始变糟了呢？
在这些互联网公司，所有的事物目标归根结底分为三类：engagement，growth，monetization。让用户停留尽量多的时间，让尽量多的用户加入，从他们身上尽量多的赚钱。再往前走一步，这其实就是从尽可能多的人身上长久地赚最多的钱，资本主义的典型状态。
然而这能怪资本主义吗？资本主义的逻辑是如此强大成熟，现代社会运行与之密不可分。与其从意识形态入手解决问题，不如降一格，从社会、政治、技术、制度层面尝试。
赚钱，本质上其实是一件中立的事，这个目的本身并不是罪恶的，或者对人有害的。目前来看，是商业模式只找到了最简单的赚钱方法，煽动人的情绪和本能来获取更多的注意力，并最终转化为赚钱。然而除了煽动情绪，难道没有别的选择吗？这确实是最便捷的路，但如果用更好的，稍微复杂的东西来代替它，是否可以一样保持赚钱，但同时又减少对社会和个人的伤害呢？
举个例子，约会软件。使用约会软件，人们很容易关注的是自己被多少人like，有多少match这些指标，但这些真的是人最需要的吗？被多少人like，match，背后是一种空洞的影响力和权力。相比之下，我觉得大部分人在约会软件上其实最想要得到的，是和真实的人的社交，无论是交朋友，还是情感，还是性。质比量重要。而约会软件大多把重点放在如何match人，match到了（或没match到）就不管了。就像爱情故事里结婚以后就happily ever after了，但真实的生活不是这样，产品应该帮助人更好地认识和应对真实的生活。
作为一个市场营销分析人士，我的日常工作就是计算用户购买商品的可能性，选出更有可能购买的用户，将邮件、信息推送给他们。在我做项目时，我看着千万级的用户，会把他们就当成数字，计算着销售额、购买率会有多少提升，不会想到这每一个数字背后都是一个个真实的家庭真实的人。
为了改变这种情况，当然可以用外部限制，比如政府立法。但有没有办法，企业自己找到别的对人有益的、更加理性的指标纳入考核标准？或者改变广告的商业模式，让企业明着支持广告，将自己的名字与社会责任联系起来？这需要多方面的改进。就像最近关于外卖骑手的讨论，算法只是中间的媒介，是投资者、消费者、经营者的思维传导媒介。要解决问题，需要社会各界的研究和努力。
我现在在和两个朋友尝试做一个线上辩论/讨论的app和插件，希望能改善互联网上的评论环境，通过将一个议题正反双方的观点同时展示在内容之下，减少有害言论，增强信息来源的展示以减少不实信息，根据成员发表的评论的复杂度和参与程度来进行engagement分层，来改善线上讨论的体验，让其更加理性，更加全面。
如果你想到什么相关的解决方法，或者相关的议题，欢迎讨论。
2 ) 关于技术的非客观性与不可控性
道理我都懂，可是谁能在拉屎的时候不看手机呢？
言归正传，以前一直叫嚣“技术中立”的我这些年来对技术，尤其是巨🐂🍺的技术，真的是越来越保守了。既然略微涉及到了自己专业方面的东西，不妨稍微多写点记录一下自己想法的改变，以及近期的一些思考，主要想说说两点，技术的非客观性和不可控性。
非客观性
任何对数学或是计算机科学稍有了解的人应当都知道，算法本质上就是一堆数学和运算，定义明确，不存在任何欺骗性和模糊性——给两组一样的输入，就会出来两组一样的结果（起码分布相同）。算法是如此地“笨拙”和“老实”，不管你是资本家还是无产阶级，算法不受贿也不行贿，只做它该做的事，这还不能被称为客观吗？
机器学习有个子领域叫机器学习公平性（machine learning fairness），专门研究算法中的偏差对社会公平性的影响。这个领域的研究经常会提到COMPAS数据集，里面记录了一些被告的个人特征信息与犯罪服刑记录等。研究人员用这个数据集去训练了一个机器学习模型，来预测某人未来犯罪的概率，发现训练出来的模型更倾向于错误地将黑人预测为容易犯罪。数学上，这种偏差一方面是来源于训练数据的分布，另一方面则是来源于一些复杂的因果关系，比如法庭上由于种族歧视等黑人更容易被判有罪。这些问题其实都可以通过技术手段，比如重采样或是引入工具变量等，来克服或是减轻，但它背后更本质的一个问题是：为什么我们的社会需要预测一个人是否有可能犯罪？有很多科幻作品比如PSYCHO-PASS都讨论过这个问题，包括社会心理学上也会从自我实现预言的角度研究该种预测对个人和社会所可能带来的影响。这里只做个简单的想象作为一个小小的思维实验，假设我们训练一个模型来预测犯罪，并希望它能最准确地找出潜在犯罪者，同时又训练一个决策或行动模型来逮捕最有可能犯罪的人，随着两个模型互相产生数据互相迭代，最终“犯罪”这个概念将完全由模型定义。当我们为机器学习算法设定目标时，即准确预测潜在的罪犯，我们是在默认地假设一个人是否犯罪是预先就被决定并且不会为环境所改变的。这种假设和目标的设定本身就存在巨大的问题，其反映的是目标和算法的设计者对于人类社会的偏见。
我们知道所有算法的提出和应用都是为了优化某个目标和解决某个实际问题，但如果我们的目标和问题定义错了呢？我们还要继续使用这些算法吗？问题错了，算法再怎么提升也是白费，it's not even wrong. 刨开它想要解决的问题，算法本身毫无意义，而这些问题被定义的方式，恰巧就反应了问题定义者对于一系列事件乃至整个世界的看法。Algorithms are not objective，它们是一整套价值观的投射，只要我们还在一个人的社会里，算法与其背后的利益关系就不可能也不应当被割裂开。可惜的是，在现在的学术界和工业界，绝大多数全世界最聪明的大脑关注的仍然是如何在特定目标下提升算法的表现，而我们的问题是否定义正确，我们的优化目标是否设计正确，相对来说却不太有人讨论。
这里我想到之前上的一位研究 Science, Technology and Society（STS, 中文还没有翻译）的老师的课，他论文里有一段关于优化算法的讨论特别有意思。优化算法我们一直都在学，求最值、线性规划、凸优化、非凸优化、动态规划、整数规划诸如此类。但实际上，“优化”是一个西方资本主义社会所创造和强化的概念，它的背后是一套利益最大化的逻辑，这在非西方世界的传统价值观中是罕见的。随着大航海时代与殖民主义、帝国时代的演进，这一套优化的逻辑也慢慢根植进了各个民族的思想，也写进了不同国家的教材。我并非是想说“优化”这个概念不好，或者我们不应该研究优化问题，相反，优化问题很重要，并且能建模很多实际问题。但正因为它能建模太多太多的实际问题，我们才更应该加以注意其适用范围，比如一个班里的同学或是一个组里的同事相互竞争，搞成绩最大化利益最大化，硬生生地把非零和博弈考虑成了零和博弈，这种内卷或许只对补课机构和资本家有益。
不可控性
当影片把我们所面临的问题赤裸裸地摆在面前的时候，我才真正意识到并惊讶于，一个我们无法理解、无法控制、拥有巨大预测世界和改变世界能力的技术，竟然早已悄无声息地融入到了我们生活的各个角落。我们一直在思考，如何提升人工智能的极限，或是AI还需要多久才能取代人类，我们看到的始终是AI在人类强项上的羸弱，如关系推理、结构生成等等，就好像AI仍然完全在我们的掌控范围内。但实际上，我们常常忽略的一点是，AI在人类的弱项方面已经做得非常好了，并且我们对其知之甚少。以前中学的时候和同学聊过一些关于基因工程、人体改造诸如此类的话题，结论是这类技术太过神秘、太过强大，在伦理道德和法律条文完善之前就不应该去触碰。现在想来，基因改造相对于复杂的算法来说，或许就是个弟弟。我说“复杂的算法”，并不是因为算法本身的实现很复杂（当然确实也挺复杂的），而是因为现在的很多算法，比如神经网络，本身就是一个“复杂系统”。
我个人认为复杂系统或者混沌理论是人类在20世纪所提出的最具革命性的概念之一，起码本科接触到这个概念之后，我的世界观迅速就改变了很多。复杂系统（complex system）简单来说，就是系统中有多个个体，它们相互之间会有一些交互，这些个体本身的行为模式或简单或复杂，其间的交互也能以各种形式呈现，可一旦当它们构成系统，整个系统中可能就会涌现出一些难以预见的行为模式。复杂系统或者混沌现象在我们的世界中无时无刻不在呈现，比如气象系统，洛伦兹当年就是因为发现自己用微分方程无法预测天气，而开创了这整个领域，大家常说的“蝴蝶效应”，其实指的就是微小的空气扰动也会在未来大幅影响整个气象系统的运行这一现象。除此之外常见的例子还有大脑活动、心脏跳动、股票市场的波动等等。康威在70年人为构造了一个复杂系统并将其命名为“生命游戏”，这里找到了一个模拟器，感兴趣的话可以玩玩。关于复杂系统和混沌理论的研究瞬间就颠覆了17世纪以来的牛顿范式（虽然爱因斯坦早几十年已经从时空观的角度颠覆过一次了），所有的研究结果都告诉我们，这个世界不是你推动小球，小球就会获得一个加速度，然后像你预想的那样运动——当这个世界由千千万万个小球组成的时候，哪怕你完全知道每个小球的受力情况，你也无法预测整个小球系统将会怎样运行。当然，刘慈欣的三体早就科普过，只需要三个小球，就能使任何人、任何计算机的大脑彻底瘫痪。之前看过BBC的科普纪录片《神秘的混沌理论》觉得很不错，里面也提到了在如此混沌的世界中，数学和科学还能为我们做些什么，答案就包括统计学等等，扯远了。
回到技术的不可控性，这里想重点讨论一下深度学习掀起的神经网络浪潮。神经网络（neural networks）是计算机科学家们仿照人类大脑的结构所提出的一个计算概念，在计算中，每个节点都被看做是一个神经元，它接收上游神经元所传来的信号，并在一番处理之后将结果信号再传递给下游神经元。单独看每个神经元的行为其实是非常简单的，就是一个带权求和再套一个激活函数（现目前最常见的激活函数就是ReLU，它保留正的数字并将负的数字变为0）。再看神经元之间相互的关系，其实也非常简单，就是计算结果的传递。然而就是这么一些简单的小小的计算神经元，却能从系统层面上发挥令人意想不到的作用——人脸识别、图像生成、阅读理解…很多理论上的工作都尝试去解释神经网络的运作机制，但目前还没有人敢说他真正地理解了神经网络。其中一个比较有代表性的讨论就是神经网络的泛化能力。泛化能力指的是模型把从训练数据中所获得的知识，应用到未曾见过的样例上的能力。做个简单的类比，就好像是你通过刷题来准备期末考试，如果相同知识点的题，刷题时你学会了，考试时你也能做对，那么你的泛化能力就很好。传统机器学习认为模型的参数或是可变性越多，泛化能力就越差。这就好像是你的记性特别好，过目不忘，那么为了做对题库里的每一道题，对你来说最省时省力的方法就是把所有的答案都完全不加以理解地给背下来，但到考试的时候你就会傻眼了。神奇的是，神经网络并不遵循这一规律，去年OpenAI公开的 GPT-3 语言模型中共有1.75兆个参数，但它在下游任务上的表现却完全暴打之前的模型。近期的一些工作比如 Neral Tangent Kernel 对此细致地进行了理论上的阐述，大体上讲，就是当大量神经元组成神经网络后，整个复杂系统就会涌现出一些新的性质。目前不管是学术界还是工业界，都把神经网络当作黑箱在使用，没有人知道这个黑箱中究竟在发生些什么，更不用说有谁能够做到精准地控制黑箱。
更加令人沮丧的是，神经网络等技术的复杂性还只是不可控的一方面，而另一个不可控因素就是人类社会。人类社会由许许多多的个体组成，个体之间也会经由社交产生各种互动，是一个典型的复杂系统。在人类社会的历史中，我们可以看到很多群体行为的涌现，如政党的形成、经济系统的构建、革命与暴乱等等。如此一个复杂系统本就已经够社会学、经济学、政治学、心理学等学科研究的了，而我们现在还要将复杂的神经网络运用到复杂的社交网络上，其结果想也不知。就如纪录片中所说，这些大佬们在开发产品的时候最多也就考虑了用户粘性等跟商业挂钩的指标，而诸如阴谋论、假新闻的流行，还有意见的极化和青少年成瘾等负面影响，都是在最初的产品开发时所难以完全预见的。至此可以看到，在我们将越来越多的权力交付给人工智能时，情况已经愈发地失控了。
最后
尽管快到末尾时大佬们把AI技术、社交网络等带来的问题归因为商业模式的运作，包括整部片子的译名也被加上了“监视资本主义”，但这些问题的根源绝不仅仅只在于经济形式——again, it's all about power moves. 任何形式的社会，只要有权力结构的存在，就会使算法带有一定的目的性，并且此种目的性也会由于算法和社会本身的不可控性，而造成难以预见的影响。
看到最后真的蛮感动的，有这么多厉害的大佬都不只是在关心自己的个人利益，而是利用自己的视角来为全体人类尤其是还在成长中的下一代做思考，怎么说，算是野蛮屠宰场里人类文明的微光吧。
3 ) 结构性的问题：资本主义
“没有人是坏人。”智能陷阱的制造者也如我们一般是活生生的个体，带着人道主义的期许设计出“点赞”、“推荐”，但这些设计在发展的过程中失控了，成为让人上瘾的一个个陷阱，甚至陷阱设计者本身也会掉入其中。可见真正出问题的不是人本身，而是背后结构性的根源。正如片中所提，当今驱动或者说运营这个世界转动的的就是经济奖励，所以任何问题的解决方案一定要是符合经济奖励的，而经济奖励就是资本主义追求的最终目的。所有这个结构性问题就出在了马克思不断抨击的资本主义制度上，而智能陷阱只是再一次映证着资本主义本身摇摇欲坠，和过去资本主义导致的经济危机、工人罢工游行有着相似的本质。
同时，片中所提到的立法的解决方案，在资本主义国家也很难得到真正意义上的实现，因为悖论在于政府需要制定出不利于资本积累的法律条款，但却是资产阶级控制着政权。
片尾Harris说“我们要推翻这一切。”太笼统也太无力了，甚至搞不清的是，我们真正应该推翻的，是技术和工具本身，还是背后那个操纵技术达到目的的制度呢？
摘抄启发点：
1.极化
-技术什么时候会超越人类取代我们的工作，比人类更聪明？技术超越人类的弱点时。
这个超越的点就是上瘾。两极分化、激进化、激化愤怒、激化虚弱，一切的根源，它在压制人类的天性，在挫伤（checkmate）人类的天性。
-想象维基百科的个人化，脸书油管谷歌就是这样
-27亿的楚门的世界：
你觉得楚门为什么到现在都从来没有接近，发现他所在世界的真实本质？
-皮尤调查：个人和政治两极分化达到20年来最高
-人们总是以为算法推荐的是给他们真正想要的，但其实不然。算法其实是在试图找到几个非常强大的兔子洞。试图找到哪一个兔子洞最贴近你的兴趣。
-PIZZAGATE阴谋论在社交媒体传播的典型案例。
-我们创造了一个偏心于虚假信息的体系，并不是因为我们想要，而是因为虚假信息比真实信息能让各个公司赚到更多钱，真实信息都很无聊。
-如果你想控制你们国家的人民，从未有过像脸书这样有效的工具。
最明显的案例：缅甸发生的事情。
脸书真的给军人和其他不良人士一种控制公众言论的新手段，并协助煽动针对罗兴亚族穆斯林的暴力，已经导致70万罗兴亚族穆斯林逃出这个国家。
-远程控制战争，俄罗斯对2016年美国大选的干预。只是将合法给广告商与用户使用的工具用在了邪恶的地方。
-部落主义。
-技术并不是人类存亡的威胁，而是技术能把社会中最坏的东西带出来的能力，社会中最坏的东西，才是人类存亡的威胁。
-我们很可能会因为故意无知毁掉我们的文明。
-如果你不知道你身处矩阵中，你怎么从矩阵中醒来？
立法：
-经济奖励可以说运营着世界，所以这个问题的任何解决方案一定要符合经济奖励。
-交数据收集和处理税——不掌握所有的数据。
-“没有人是坏人”。点赞按钮的全部动机：我们可以在世界中传播积极和爱吗？但时间快进到当下，青少年会因为没有得到足够多的点赞而抑郁或者会导致政治两极分化。
-我不认为这些人的动机是邪恶的，只是这个商业模式有问题。
-我们应该接受的是公司是要挣钱的，但不合理的是，当没有监管规定竞争，公司在充当实际政府部门，然后他们说“我们可以自己监管自己。”
改进：
-推翻这套系统
-是批判者驱动着改进，批判者才是真正的乐观主义者。
-你在用点击去投票，你点击钓鱼网站，你就是在创造一个经济奖励延续这个已经存在的体系。
-在推特上关注你不认同的人。
-在你分享之前，查找一下事实，思考一下信息来源。
4 ) 你被抖音、微博等社交媒体卖掉的30个真相
无法放下手机是意志力薄弱吗？谷歌、脸书和自行车一样只是我们使用的工具吗？算法和技术是中立的吗？假新闻为什么无往而不胜？这个假期看完的第一个片子是奈飞新出的纪录片《监视资本主义：智能陷阱》，触目惊心，假期的末尾希望有空的话你也可以看看。
影片其中一条叙事线由谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述，这里面不乏社交媒体上点赞功能的设计者，甚至还有帮助脸书建立商业模式的负责人，他们出于对行业道德伦理的担心纷纷离开，现在他们重新站出来讲出他们看到的真相并发出警告。下面我将摘选30条我觉得重要的观点，方便你快速了解。
1.进入凡人生活的一切强大之物，无不具有弊端——索福克勒斯
2.主角之一的特里斯坦·哈里斯是前谷歌员工，曾在谷歌邮箱团队工作，他觉得很疲惫，因为他们一直在讨论邮箱应该长什么样，用什么颜色，他坦承自己对邮件上瘾，但更有趣的是团队里每一个人都想让用户上瘾。但是大家有反思过这个现象吗？他认为谷歌有解决这个问题的道德责任。但讨论在谷歌内部却不了了之。
3.脸书商业化负责人说，他负责帮助脸书想出如何盈利，而彼时他认为广告模式可能是最优雅的模式。以前我们为硬件和软件付费，但现在这些互联网产品都是免费的，但其实并不真是免费，背后是广告商在付费，广告商是这些互联网产品的客户，而使用者其实是被销售的商品。经典的说法是，如果你没有花钱买产品，那你就是被卖的产品。
4.谷歌并不只是一个搜索工具，脸书并不只是一个你和朋友联系的社交工具，其实种种互联网产品，他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费，广告商付费，广告商为什么付费？他要花钱交换你看广告，我们的关注就是卖给广告商的产品。这样说可能过于简单了，产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西：改变你做的事，你的思维方式，改变你这个人。
5.每种商业都有个梦想：投放一个广告，有成功的保障，这就是广告平台的生意，出售确定性。为了这个商业成功，必须有预判的能力，而优秀的预判能力始于一个必要的条件那就是数据。
6.我们使用互联网社交产品的一切行为数据都被监控和记录，具体到你在某张图片停留多久，我们的孤独、抑郁时刻，我们爱看前任的信息，我们深夜做什么，这些系统统统知道。这些我们不经意流露出的数据，都被喂养给系统，而这几乎不需要人看管，系统会不断做出越来越好的预判，判断出我们是什么样的人，我们要做什么。
7.很多人有一个误解，认为被卖掉的是我们的数据，脸书的兴趣肯定不是卖掉数据，而是用数据建立一个可以预测我们行为的模型，拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人，他们成长的背景中，彼此之间的交流，文化中都渗透着操纵的鬼影。
8.任何足够先进的技术都极其类似于魔术。
9.魔术师几乎是最早的神经学家和心理学家，他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分，这是让幻觉起作用的关键。
10. 特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们，以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为，让人们按照他们的意愿去做，譬如不停的用手指滑动屏幕浏览信息。往下拉，最上面是新的内容，再往下拉，上面又是新的每次都一样，这在心理学上被称作积极正强化。你不知道什么时候能刷到，或者你能刷到什么。这其实和赌场里老虎机的原理一样。
11.无数工程师他们的工作就像黑客一样黑进人们的心里，然后获得更多产品数据的增长，更多的用户增长，更多的活跃。他们会做大量的AB测试，然后根据结果不断优化就可以让用户做他们想让用户做的事，这就是操纵。很多时候他们诉诸的是人的潜意识，你被影响时甚至根本没有意识到，因为这是在利用人心理中最脆弱的部分挣钱。
12.自行车问世的时候，没有人不满，没有人会说它毁灭了我们的社会，因为自行车拉远了父母和孩子之间的距离，毁灭了我们的民主，让我们无法分别消息的真假。如果一个东西是工具，它就会忠诚的坐在那里，耐心等待。如果一个东西它对你有所求，它想引诱你，操纵你，从你身上获利，它就不是工具那么简单了。
13.我们已经走过了以工具为基础的技术环境，来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具，它有自己的目标，有自己的方法去实现这些目标。利用你的心理来对付你，
14.社交媒体就是一种毒品，我们有着基本的生物学的欲望比如和别人保持联系，这直接影响着奖赏通路中多巴胺的释放，这背后是几百万年的进化，我们群居找到伴侣繁殖。毫无疑问，社交媒体会优化这种联系，自然会有致瘾的可能性。
15.这些技术产品不是由努力保护儿童的心理专家设计的，他们的设计是让算法非常善于给你推荐下一个视频，非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里，而且越来越深入到大脑的根部，夺走孩子的注意力和自我价值。我们进化出了在意社群中的其他人评价的机制，这很重要。但是，我们进化需要在意一万个人怎么看我们吗？我们的进化不需要每隔5分钟获得一次社交认可。
16.我们在训练、调节整个一代人，我们不自在、不确定、孤独、害怕时，有一个自己的数码安慰，这让我们处理自己情绪的能力退化了。
17.有一种说法是，我们应该去适应它。我们要学着与这些设备共存，就像我们学着与其它事物共存一样。但这个说法忽略的是，有些东西明显是全新的。这其中最危险的是，这是由技术驱动的成指数级向前发展的。计算机处理能力，从上世纪60年代至今，增长了亿万倍，我们身边没有任何东西以这个速率增长。而我们人类生理上，大脑根本没有丝毫进化。我们的大脑已经存在几百万年，然后出现了这样一块屏幕，屏幕的另一端是数千工程师和超级计算机，有着与你不同的目标，那么这个游戏谁会赢呢？
18.算法是内嵌在代码中的观点，算法并不是客观中立的，算法被某种成功的定义优化。你给AI一个目标，我想要这样一个结果，AI自己去学习怎样实现，这是机器学习概念的由来。没人真正明白，为了实现这个目标，他们在做什么。
19.算法有自己的思想，虽然它们是由人写的。它被写出来的目的，是建立一个机器，这个机器会自己改变。作为人类，我们几乎已经失去对这些系统的控制，因为使它们在控制我们看到的信息。
20.想象一下，你用脸书，你的对手是人工智能，它知道你的一切，能预测你未来的举动，而你对它一无所知，这根本不是公平的竞争。
21.我们都在担心这个时刻，技术什么时候超越人类的智慧和力量。但有更早的时刻，技术超越人类的弱点时，这个超越点就是上瘾。两极分化、激进化、激化愤怒，激化虚荣，它在压制人类的天性，挫伤人性。
22.脸书的推送方式非常错误。如果我们打开一个维基百科页面，你看到的和别人的是一样的。这是网络上少有的我们统一共享的东西。想象一下，如果维基百科说，我们要给每个人一个个性化的定义，有人给我们钱让我们这么做，维基百科会监视你，会计算要怎么做才能代表一些商业利益，让这个人产生一点改变，对吧？然后就会改变整个词条。你能想象吗？脸书就是这样，你的youtube推送就是这样。
23.看了这个片子我才知道，原来在不同地方用谷歌搜索我们得到的是不同的结果。譬如我们在搜索框输入“气候变化是”在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相，而取决于你在哪里搜索，以及谷歌对你个人兴趣的了解（譬如如果你是个阴谋论者，它就会给你推送气候变化是一场骗局的内容）。
即使是两个很相似的朋友，看到的也是完全不同的内容，因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉，所有人都赞同你，因为给你推送的新闻中，每个人都和你极其相似，一但达到这种状态，你就容易被操控了，和被魔术师操纵是同样的方式。
24.油管前算法推荐工程师坦承，他研究的一个算法增加了社会的两极分化。但从在线时间上看，这种两级分化的做法却极其有效的让人们一直在线观看。
25.著名篮球运动员凯里·欧文说他相信地球是平的，后来公开道歉时说，这是油管算法的锅。地球是平的这一言论被算法推荐了几亿次，我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是，算法每天都在变得更聪明，今天它能说服少部分人相信地球是平的，明天它就能说服你相信一个完全虚假的事情。
26.推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势，这个世界会如何？你可以想象，有些事情让人类的基本面倾斜了。让一些行为更难，一些行为更容易。虽然你总是可以自由的走上山坡，但这样的人越来越少。所以在更大的范围内，整个社会的基础倾斜了，改变了数十亿人的想法和行为。
我们创造了一个偏爱假信息的系统，并不是因为我们想这么做，而是假消息能让这些公司更容易赚到钱，你知道的，真实信息比较无聊。这是一个利用虚假信息牟利的商业模式，允许未受监管的信息推送给更多的人，卖出更好的价钱，以此来赚钱。
27.脸书每天推送万亿个新闻资讯，他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效的影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业，非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人，自己的信仰越来越缺少控制权。如果每个人都有权执着于自己的真相，就没有必要妥协团结了。我们需要对现实有一些共同的理解，否则我们就不是一个国家了。
28.谷歌不知道真相，它只知道点击。如果我们不认同真相，我们就无法找到任何一个问题的解决办法。硅谷的很多人相信一种理论，我们正在建造一些全球的超级大脑，我们所有的用户都只是可交互的神经元，我们一点都不重要。它让人们服从于这样一个奇怪的角色，你就像一个小的编程元素，我们通过我们的行为操纵去编程，为了服务于这个巨型大脑，不会给你钱，不会让你看到真相，你没有自主权，因为你只是编程的一个节点，你根本不重要。
29.技术并不是人类存亡的威胁，只是技术能够把人类社会中最坏的东西带出来，社会中最坏的东西才是人类存亡的威胁。如果你不知道身处矩阵之中，你如何从矩阵中醒来。
30.在整个人类历史中，每一次有事物变得更好，都是因为有人站出来说，这太蠢了，我们可以做得更好。是批判者推动改进，批判者才是真正的乐观主义者。
影片的最后，画外音问特里斯坦·哈里斯，你觉得我们能改变这一切让他们变得更好吗？特里斯坦·哈里斯说，我们必须要实现。
5 ) 看完这部新出的口碑好片，吓得我马上关闭了朋友圈
沉迷手机不可自拔，你再无隐私可言。”
这不是《楚门的世界》，这是正在发生的现实。
如果说有什么东西占据着现代人生活的大部分时间，答案无疑是手机。
回想一下你每天会凝视着手中这个小小的机器多长时间？
日前发布的《2020中国网络视听发展研究报告》中显示，截至2020年6月，我国网络视听用户规模达9.01亿；短视频已成为用户“杀”时间的利器，短视频以人均单日110分钟的使用时长超越了即时通讯。
110分钟，将近2个小时。
这不是我们的错，因为刷手机实在太有趣了不是吗？
我们的注意力很容易被它吸引。
当我们购物时，它会主动向我们推荐迎合我们喜好的单品。
当我们观看有趣的视频图片时，它又会向我们推荐更多类似的内容。
这一切甚至让人觉得，哇哦，手机才是这个世界上最了解我的！
无论是和朋友吃饭时，还是在地铁上，我们总是习惯性打开手机重复着滑动、选择、滑动的动作。
但有些人也渐渐发现，自己总有一种时刻被监控的感觉。
有时在网上随意搜索的东西，甚至聊天时提到的东西，都会神奇地出现在平台推荐中。
一些网站还会向你推荐通讯录中的用户，同时也将你推荐给你通讯录中的人。
而注册时填写的个人信息，让这些平台对你更加如指掌了。
那么问题来了，究竟是我们在操作手机还是手机在控制我们？
这问题关乎一个经常被提起的热词：大数据。
尽管每个账号背后却都是活生生的人，在大数据中你可能只是一串数字。
你的言论、兴趣爱好、学历、住址甚至健康状况都成为了大数据海洋中的一部分。
大数据对我们个人信息的盗取，算法对我们的监控，使得平台更懂你，从而也可以更精准地影响你。
此外，社交媒体的使用，更是对人的心理健康有着不可忽视的影响。
刷手机的时间越长，是不是感觉更丧？更容易焦虑？
所以，问题到底出在哪儿？
最近Netflix再出佳作，围绕这个与我们每个人息息相关的主题拍摄了一部纪录片。
9月初上映的《监视资本主义：智能陷阱》大获好评，豆瓣评分8.6，被认为是今年网飞最好的纪录片。
今天我们就来看看这部纪录片为我们揭示出什么样被隐匿的真相。
监视资本主义：智能陷阱
导演: 杰夫·奥洛威斯基 编剧:戴维斯·库姆贝 / 维奇·柯蒂斯 / 杰夫·奥洛威斯基 主演:杰伦·拉尼尔 / 罗杰·麦克纳米 / 斯凯勒·吉桑多 首播: 2020-09-09 片场:94分钟
片中一群来自Facebook、Instagram、Youtube的前员工直面镜头现身说法，揭露了很多行业秘密。
让我们了解这些软件是如何借助大数据和人性来令人上瘾，从而控制用户。
片中有一句话相当发人深省：“如果你没有花钱买产品，那么你就是被卖的产品”。
然而，这话可能真不是危言耸听。
《智能陷阱》向我们每个人提出了一个很简单的问题：为什么这些社交 APP 都是免费的？为什么用户使用他们的产品却不用付钱？
只要你稍稍思考就能看清楚本质。
它们当然并不免费，是广告商在付钱。广告商为什么给这些公司付钱？
它们付钱来交换向你（用户）展示广告，所以用户本身就是卖给广告商的“产品”。
为此，网站需要更多的用户以及更长的使用时间。
因此，用户的行为开始被监视、被预测，然后被有目的地引导。
通过各种智能推荐算法，让人们的视野局限在它想你沉迷的领域里。
潜移默化改变人的行为和认知。
而对用户的预测就建立在大数据之上。
来自哈佛大学商学院的教授莎娜称这种数据积累逻辑为“监控资本主义”。
这种新型的信息资本主义模式，通过预测和修正人类的行为来获得收入并且控制市场。
换言之，你在网络上所做的一切都被监控着、被追踪着、被评估着。
具体到你停在哪一张图片上看了，看了多久。
这些都是大数据的一部分。
计算机通过这些数据做出预判我们行为的模型，拥有优秀模型的公司就赢了。
我们做过的所有事情、点击过的每一个地方、我们看过的所有视频、点赞过的所有内容，这些数据都会被用来建造一个越来越精确的模型。
有了这个模型，网站就能预判这个人的行为。
甚至能预判什么样的情感更能让你产生共鸣。
这一切都导致我们越来越离不开手机，除了睡觉，大多数时候我们都会不自觉地拿起手机。
如果手机离开我们一时半刻，我们就会感到无聊、焦虑。
只有两个行业把他们的客户叫做“使用者”：毒品和软件。
但这着实不能怪我们，因为就连互联网公司的管理者也难以抵挡这种吸引。
前Pinterest的总经理坦言，他在职时，即便回到家也无法停止刷Pinterest。尽管他有两个小孩需要他的关爱，但就是放不下手机。
有一天他突然感到莫大的讽刺：他白天去工作，就是为了构建一个把自己当猎物的东西。
放不下手机并不代表你自控力差，毕竟这世界上最聪明的一群人每天都在研究怎样让人成瘾。
在斯坦福“劝服技术实验室（Persuasive Technology Lab）”，学者们主要研究如何利用所知道的一切心理学知识来改变他人的行为。
很多硅谷的著名人物都曾是这个实验室的学员，其中也包括 Facebook、优步、推特、领英等公司负责用户增长的关键人物。
《监视资本主义：智能陷阱》用一家五口的故事，更好地演绎了这一切。
晚餐时，母亲提议大家都不玩手机，来一次面对面地交谈和安静的进餐。
于是她把所有人的手机，放进定时1小时后才能打开的盒子。
然而这顿晚餐显得有几分冷场，每个人都对对方缺乏耐心。
没多久，女儿就忍不住用锤子把箱子砸开，取出了手机。
立刻回到了社交网络的世界中。
小儿子的手机不小心被凿破，母亲许诺如果他可以一星期不用手机，就给他换最新款。然而才失去手机几个小时，他就开始感到空虚和坐立不安。
我们不禁要问，那些没有手机的时代，人们是如何生活？
据研究表明，进入互联网时代后，青少年焦虑、抑郁、自杀明显高于从前。
无论是点赞还是表示肯定的评论，都会使人获得一种多巴胺分泌带来的快感。
人可以从手上一个小机器获得被肯定的满足感，但同时也会更情绪化，更脆弱。
近十年来，美国少女自残与自杀率大幅升高。
统计数据显示，美国 15-19 岁女孩的自杀率比世纪初提高了 70%，而 10-14 岁女孩的自杀率增加了 151%。
1996年之后出生的孩子，是历史上第一代在初中开始使用社交媒体的人。
他们更不愿意冒险，拿到驾照的比率下降了，出去约会过的人数骤减。
整个一代人都更加焦虑、更加脆弱、更加抑郁。
很多人如此在意一个虚拟的“赞”，如此在意陌生人的评价，如此在意自己在网络世界的形象。
然而，我们真的需要在意一万个人怎么看我们吗？
我们真的需要每隔5分钟就获得一个表示认可的赞吗？
近年来网络暴力逼死人的新闻已经不绝于耳。
这些服务正在杀人，也导致人们自杀。
在美国，整容医生甚至发现一种新的病症：“图片分享畸形症”。
指的是年轻的患者想做整容手术，让自己看上去更接近滤镜自拍中的样子。
很多人已经逐渐失去了对真实世界的兴趣，更愿意活在网络上。
很多这种技术公司有三个主要目标：
1、参与度目标，增加你的使用时间，让你一直滑动屏幕；
2、增长目标，让你不断回来，尽可能多地邀请朋友；
3、广告目标，确保一切按照预期发展，公司尽可能地从广告上挣钱。
每一个目标都由一个算法驱动，算法的作用是决定给你展示什么，让数据上涨。
所以有人说躺着刷手机的肥宅生活是最自由的，殊不知此时的你也未必是真的自由。
此外算法还会根据你的喜好来判断你，并向你推送更多相关内容。
你越爱看什么，平台就给你推送什么。
久而久之，你经常见到的就是些类似的观点，仿佛你相信的这些就是世界通行的真理。
这在某种意义上也加深了你的偏见，假新闻和阴谋论因此得到更广泛的传播。
《智能陷阱》里提到地平说的例子就是很好的证明。
NBA 著名球星凯里·欧文曾公开表示他认为地球是平的，在遭到公众批评后他上节目道歉，称自己对地平说信以为真是因为在 YouTube 上看了很多阴谋论视频。
“你点进一个 YouTube 视频，就像掉进了一个兔子洞，”欧文说，“然后平台就会给你推荐更多的此类视频，慢慢的你就信了。”
虽说科技造福人类，然而事实可能没那么简单，社交媒体副作用大到已经无法忽视。
讽刺的是，即便是这些算法背后的工程师，也很难摆脱被算法操控的命运。
他们创造了这些，最终却不得不写个程序来帮自己戒网瘾。
整部影片的观感可谓触目惊心，但也并非全盘否定科技进步带来的好处。
它试图提醒人们重视对这个新兴世界的监督，以及立法层面的巨大缺失。
毕竟手机公司有无数关于你的敏感数据，我们必须保证他们不会利用这些数据做错的事。
近几年人们经常谈论未来的人工智能可能会毁灭人类，而事实上人工智能已经在运营着当今世界了。
它未必是《终结者》中的机器人，却是威力更大的神秘存在。
从20世纪60年代至今，计算机的处理能力已增长了万亿倍，我们身边没有任何其他东西以这个速率增长。
而作为人类，我们的大脑根本没有丝毫进化。
人类正在面对着百万年来不曾应对的局面：一个小小的屏幕背后的上千名工程师和超级计算机。
这个世界将会去往何方？人类可以扭转局面吗？
需要明白的是：我们是使用工具的人，绝不是工具操纵的对象。
也许“觉醒”，只是第一步。
*本文作者：RAMA
最后还是把问题还原到商业模式和经济上去了 也就是说 不是简单呼吁大家自己控制社交媒体的使用就可以解决根本问题的 不过很有意思的是… 看完片子之后 大家还是屁颠儿屁颠儿跑到社交媒体上来打分了😂 这和竞争关注的结果其实没有本质上的区别吧 人生而愚蠢...也是没办法的事
最讽刺的是你之所以能看到这部片子，多半也是因为它被网飞自己的大数据和算法推到了用户主页。这种感觉就像是有天迈克尔·贝跑出来拍了一部【电影艺术是如何被滥用CGI特效的好莱坞大片毁掉的】纪录片一样。
前半段谈的是个人的成瘾性，后半段谈到了对社会和政治的影响，甚至还提到了香港问题受到了推荐算法的影响，实在是强烈推荐的纪录片。推荐算法让人类看到更多他想看到的信息，而不是正确的信息；当算法没有被操纵的时候，假象会被传播和放大的更快，社会群体的分化会更严重；当被操纵的时候，它会成为比以往更高效的舆论控制工具。
“在整个人类历史中，每次有事情变好，都是因为有人站出来说：“这太蠢了，我们可以做的更好”。是批判者驱动了改进，他们才是真正的乐观主义者。我们正飞速走向毁灭，需要一个奇迹才能让我们回头，这个奇迹就是集体意识，再足够的公众压力出现之前，这台机器是绝对不会回头的。”
我一直是更亲近Yuval Noal那种对社交网的防御心，最近他跟唐凤的对话中，唐女士更接近Bill Gates，她们对Code is law的信任是基于他们对科技的掌握，略傲慢的盲目。人类善于发明创造工具，却总是不能智慧的使用好它，socialmedia被创造出时的工具属性越来越模糊，连接一切变成绑定一切，我们都在失去个人专注力的同时被训练的自动贡献出时间来替科技公司创造价值。见惯了友邻放弃包容，讽刺刻薄的针对陌生人，哪怕对方只是没把咖啡馆当图书馆对待产生噪音。我们大部分人，都忘了我们用社交网的初衷了，我们只是停不下来了，这不对，要自省。
突然觉得，我如果能活到八十岁，说不定可以亲眼看到这颗星球毁灭……
能请到离职的脸书 谷歌 twitter高管或功能创始人来搞一部揭露社交APP之罪的纪录片确实牛逼!！看影片开头好多工程师已经在担心律师函了。 我们以为的AI危机（人工智能）是电影中类似机器人入侵的画面，其实，人类早已被AI奴役好几年了，它们以智能手机APP的面貌出现在我们生活中，吃掉我们的时间，夺取我们的注意力，令我轻信、空虚、偏执甚至被利用…… 就连创造出这些APP的工程师们——这个AI统治者的创造者们都承认有手机上瘾症。if you are not paying for the product, you are the product.You would not realize it's a Matrix if you Are in the Matrix.
就提一个capitalism会死吗
互联网是人类文明的硕果还是浩劫？这是一个问题。互联网发展太快，而互联网用户运用它的智慧却太慢。它几乎成为现代人剪不断的脐带，每个人都以为这根脐带为我们输送养料，却很少发现它也在吞噬我们的时间，消耗我们的生命。互联网背后是不断将我们异化的数据和图形，是将用户打造成韭菜的智能工具，而你我是它们手中的行货。尼采说，“在自己身上,克服这个时代。”然而，这多么困难。最有意思的是，看完这部纪录片后，我发布的信息也会成为互联网内容的一部分，不小心浪费了别人的时间。
中文翻译的标题线路很正确嘛
可能是今年 Netflix 最好的一部纪录片，无论是 have no clue 的大众还是互联网业内工作人员，都能从中得到新的启迪。一段虚构故事结合湾区大佬们和学者们的访谈形式也耳目一新。Just fucking watch this right now！另外好多差评真是男言之瘾重灾区…
三星半吧。这个片子一边谴责社交媒体蛊惑人心，一边也通过背景音，模拟场景，动画，拼命传输自己想传达的意思。有点讽刺
通过海量的数据加上对用户个体的行为记录，最终用户个体不再特殊。你的行为可以被预测，你的心理已被掌握，你已经无所遁形。在IT巨头面前，你只是一个可被盈利的工具。 --你以为你想买的东西其实是巨头想卖的东西，你想做的事情是巨头暗示你做的。下篇讲述 在网络环境中，虚假的信息传播的更快，其中人工智能的推荐起到了加速作用。 推荐系统的智能化是的信息发送方变得极化，同时是的接受的信息变得不再全面的。。。。
“是批判者推动社会变得更好，批判者才是真正的乐观主义者。”
朋友圈已经关闭了好几年，也不用微博和fb的我感觉自己还是有点觉悟的。
聚众吸牍哪家强 网飞找来这群人一个劲戳别人脊梁骨 没种把自己的5秒跳转下一个视频算进去
在网飞纪录片序列中算不上惊艳，内容都能想得到，有个别地方倒是有启发。其实社交媒体不是重新发明了人性，只是顺应人性被发明出来。
某种existential crisis的压迫感沉重到可以将其归类恐怖片的程度：迫真humanity的一个至暗时刻。毋庸置疑新自由主义的放任默许了它们的野蛮生长。日渐两极化割裂的民主世界，中产的消亡，功绩社会里的精神暴力，抑郁及自杀率的攀升，ultra-right/left异军突起众多吊诡背后，总能追溯到科技巨头的鬼影。今年的BLM可谓一个高潮，空前的社会撕裂，内战的恐惧开始在北美大陆扩散，然而那种担忧早已经在太平洋对岸成为了现实，诸如废青和武统的呐喊此起彼伏，落入集权独裁手里的社交媒体正上演着数亿人的《楚门的世界》。
影片翻译成”监视资本主义“太符合中国上层领导了，其实就是讲了社交网络怎样赚钱、怎样改变和监视用户、大数据统治的，其影响会延伸和触及到人性、进化、政治竞选等领域。但人类历史中的谎言、煽动、阴谋、阶级等现象，并不是网络时代就特有的，只是网络时代让这些现象具有更大规模、更快的反应而已，但不能把原罪归于网络。
一边抗拒一边沉迷，也是无解了。