• 当前位置:首页 记录片 监视资本主义:智能陷阱

    监视资本主义:智能陷阱

    评分:
    0.0很差

    分类:记录片美国2020

    主演:杰伦·拉尼尔,罗杰·麦克纳米,斯凯勒·吉桑多,卡拉·海沃德,文森特·卡塞瑟,马蒂·林赛,Ena Henderson,Chase Penny 

    导演:杰夫·奥洛威斯基 

    提示:如无法播放请看其他线路

    提示:如无法播放请看其他线路

    提示:如无法播放请看其他线路

    提示:如无法播放请看其他线路

    提示:如无法播放请看其他线路

    提示:如无法播放请看其他线路

    猜你喜欢

     剧照

    监视资本主义:智能陷阱 剧照 NO.1监视资本主义:智能陷阱 剧照 NO.2监视资本主义:智能陷阱 剧照 NO.3监视资本主义:智能陷阱 剧照 NO.4监视资本主义:智能陷阱 剧照 NO.5监视资本主义:智能陷阱 剧照 NO.6监视资本主义:智能陷阱 剧照 NO.16监视资本主义:智能陷阱 剧照 NO.17监视资本主义:智能陷阱 剧照 NO.18监视资本主义:智能陷阱 剧照 NO.19监视资本主义:智能陷阱 剧照 NO.20

    剧情介绍

      我们发推文、点赞、分享 — 但日益依赖社交媒体会带来什么后果?随着数字平台日益成为人们保持联系的重要方式,硅谷内部人士通过暴露屏幕另一侧的隐藏内容,揭示了社交媒体如何重新改写文明。

     长篇影评

     1 ) 画外之音才是难以忽视的真相:简评《监视资本主义:智能陷阱》

    Netflix 的《监视资本主义:智能陷阱》(The Social Dilemma)很可能是近几个月全球最热门的纪录片。正如标题所示,此片瞄准社群平台(Facebook, Twitter, Instagram 等)以及背后的大公司,指出它们如何透过各种设计(包括算法)来让用户上瘾,不只在个人层面把隐私拿去兜售,更在社会层面让民主陷入危机。这部片汇集(或者说,整理)过去五年间各界对于社群平台的批评和反省,但这其实也意味着:它没有讲什么新东西。在这样了无新意的情况下,还能引起热潮和讨论,反而映照出我们一直以来的几个思考盲点。

    首先,我们可以问:为什么一谈到社群平台的「操弄」,我们就觉得很可怕甚至十恶不赦?在我看来,我们之所以畏惧或反对操弄,是因为一个深埋脑海的既定观念:人生而自由——人类可以自由做决定。这也是十八世纪启蒙时代以来支撑现代社会的根本假设。问题是,这样的人类真的存在吗?不管是行为经济学,还是脑神经科学,都在逐步否定——即使还没完全否定——这种人类形象。手握热茶杯,待人接物就会比较温暖;读过关于老人的文章,走路就会不自觉变慢。人类太容易受到各种因素影响,而且多数时候我们并不自知。

    影片提到,设计师使用「强化」的技巧来制作「用滑的」动态墙,让用户着迷到放不下手机。这个「强化」的原理,是心理学家 B. F. Skinner 发现的——他利用鸽子做了大量实验。如果社群媒体让人上瘾,那么这件事的启示很可能不是设计师有多邪恶,而是人类根本没有比鸽子高明多少一直抱怨社群平台利用「人性弱点」其实效果不大,关键在于如果这些弱点根深蒂固,而且人类从未自由过,那么我们是不是应该要思考如何「正面利用」它?为什么我们不用同样的技巧,来让学生着迷于阅读、音乐、运动、或者艺术?

    再来,我们可以问:为什么大家对于社群平台的运作原理这么惊讶?社群平台会收集使用者的喜好,以此为依据来调整或提供信息与广告,因此我们比较像产品而非顾客,这件事早已是老生常谈、甚至陈词滥调,但多数人仍然不知道,尤其是大量使用社群平台的青少年。这意味着,我们需要有针对「科技素养」的教育,但这种教育不是科普——科技素养要让学生了解的,不是手中科技运作的「原理」,而是设计的「逻辑」。

    学生不需要知道手机里面的半导体组件、程序语言、或者薄膜技术,但要知道操作的各种机制是什么、还有开发和经营的经费从何而来。熟悉手中科技的设计逻辑,我们才能真正「使用」科技,才不会不知道可以关掉个人化广告、可以关闭位置追踪,或者连从哪里关都找不到。一旦知道社群平台只是重复喂养我们的喜好,我们就会知道「按赞」是在告诉算法「多给我一点」,那么为了维持信息健康,我们自然会更小心、甚至按反对意见「赞」。

    最后,应该问:为什么我们这么担心社群平台正在摧毁民主?片中批评,社群平台正在制造「极化」(polarization),让抱持不同价值观的人群针锋相对、无法沟通。问题是,沟通是可能的吗?很多时候并非如此——只要想想你/妳是否成功说服你/妳的父母。换句话说,我们担心社群平台摧毁民主,是因为我们一向以为民主的核心是沟通、妥协、相互理解、达成共识,然而实际上,这可能是个误解,民主并非我们所想。

    如同脸书总部的反对文(解释文)所言,极化现象早已存在许久,社群平台是非战之罪。根据政治理论家 Chantal Mouffe,政治的核心其实是对抗,而不是共识。简单来说,如果我们希望成为一个群体(我群),不可能没有边界,因此总是有「他群」存在——必定有人不同意我们,也必定有人被排除。换句话说,极化全然无法避免,社群平台只是让这种长期被我们忽视的政治核心暴露出来罢了。因此,民主不在于寻找共识,而在于鼓励和制度化非暴力的对抗。就此而言,显然问题不在社群平台加强极化,而在于我们需要重新理解和安排民主,才能安置早已无法回头的网络文化。

    我不会说《监视资本主义:智能陷阱》不值得一看,毕竟对于许多人来说,这可能是第一次理解社群平台是怎么运作的。但我们确实应该深思,甚至反省,我们的不安与愤怒从何而来,究竟是这些社群平台的大公司太过邪恶,还是这些社群平台正在挑战我们习以为常的假设?很多人说看完这部电影感到绝望,但或许,希望的破灭,才是发现真正问题的开始。

    * 原文刊载于《社技哲学.TECHNOSOPHY》博客。

     2 ) 認識這個世界

    看完這部片,渾身起雞皮疙瘩,我歸咎的理由是真正意識到目前社交媒體對於社會無法衡量的負面影響,但糾結的是,我需要這樣的社交媒體提供一種存在的意義,不然就會陷入一種虛無主義跟矛盾之中.

    片中的訪談提到:Pinterest的設計者,設計Pinterest更人性化,更讓人願意去使用,但交換的是自己也在無形中被影響,我是個生意人,我的工作就是讓我去影響其他人更願意購買我的產品,但是但是,我需要更了解我的消費者跟這個世界的現實,以去達到我個體的最大利益,而社交軟件是一個非常好用的工具,也是一個非常Powerful的工具,因為我在獲取這個世界的更多資訊的同時,我同時出賣了我自己的靈魂.若我不使用社交媒體或其他工具,我會更困難的達到我個體的最大利益,例如金錢,但我在使用社交媒體的同時,我同時背負社交媒體帶來的負面影響,例如無意義的碎片畫資訊充斥著生活,如果我不接受這些無意義的碎片,我又如何獲取有用的資訊.

    這是一個非常衝突的事情,在看這部片之前,我感覺到社交媒體跟網路有些不對勁的地方,但我說不出來那是甚麼,我在使用的同時獲得了短暫的快樂,但糾結的是我知道這對我長期的影響是負面的,對於獨立思考的扼殺.我花更少的時間去閱讀跟觀影,而選擇獲取更短暫的快樂跟資訊,也許人類這種生物就是這樣被設計的,不論是被上帝或是被進化論設計的,我們更傾向獲取短暫的快樂,但是人類這種生物,之所以還沒把自己搞死,是因為我們有一定程度的自省能力,我們會發現短暫的快樂無法長久維持,但現在的社交媒體和網路是一個有史以來最強大的敵人,遠大於電視報章雜誌所能企及的地方.

    我之所以描述失去社交媒體會導致虛無主義的原因是,在我的認知裡,例如薩特的存在主義提供了一個讓人類找到意義的方式,我們在一張白紙上作畫,人生結果就是我們最後完成的畫作.不論我們滿意於否這個畫作,這是人類生存下去的動力,從另一方面來說,一種不斷的進步感讓我們感覺到我們不停地作畫把畫作畫得更好,而我們從中獲得了成就感使自己不再詢問存在的意義是甚麼.但失去社交媒體導致了我無法和現在21世紀感到連結.失去連結很大的概率會導致我在社會認同的成功上失敗,而我生在這個社會中,我無法避免的以某種形式認同了社會定義的成功.失去了這種認同感,也會導致自己找不到生存的意義.

    這是一個雞生蛋蛋生雞的問題,我覺得這個問題無解,而是如何在這個無解的問題中,找到自己舒適的位置,做完自己最滿意的畫作.

    結論:我需要找到一個更好的模式,把自己放置在這個資訊爆炸的時代,能在其中找到自己的位置,減少網路對自己的負面影響,而取的更多網路對自己的正面影響,我同意網路或社交軟件是好東西,如片中所說,當初設計這些東西的人,更多是為了更美好的社會,而無形中創造了一個怪物,這個怪物是有能力摧毀幾千年來創造的文明,我們如何利用這個怪物的能力創造更美好的世界,同時限制他能摧毀其他一切美好的事物,很多人認為我們在往1984的世界狂奔,我卻認為我們正在往美麗新世界狂奔,一個我們情感上不想要的烏托邦,我不是個完全理想主義者,我清楚知道,所有人的共同最大利益,就是我的最大利益,如博弈論所討論的,但個性導向導致我是一個精緻利己主義者,我可能無法改變,我也不想改變,我只想把自己放在這個舒適的位置,完成我自己期許的畫作.

     3 ) 对抗硅谷,为了“楚门的世界”里的27亿人

    2016年,特里斯坦·哈里斯——这位谷歌的内部道德设计师决定离职,此时的他已经意识到,Facebook、谷歌(YouTube、谷歌搜索)、推特这样的互联网科技公司为了商业利益,利用算法吸引人上瘾的产品设计,是不道德的。这已经成为:

    “人类生存的一大威胁”。

    他想到了对抗。实际上,特里斯坦·哈里斯任职谷歌期间,谷歌有知名的“不作恶”准则。但这一准则并没有阻挡住算法基于商业利益走向偏路。离职两年后,特里斯坦·哈里斯拉着Facebook和Google等大公司离职或在职的技术专家,建立了一个叫“人道科技中心”(Center for Humane Technology)的组织,这个组织在2018年成立,用来——

    对抗硅谷互联网公司让人上瘾的设计理论。

    除了特里斯坦·哈里斯,参与这个中心工作的人,还有前Facebook运营经理;苹果公司和谷歌前通讯主管林恩·福克斯;前Facebook高管戴夫·莫林;Facebook早期投资人罗杰·麦克纳米。

    纪录片截图:“人道科技中心”(Center for Humane Technology)

    2017年前后,很多硅谷公司的高管,感觉到了算法操持的互联网平台,出现了道德伦理危机,纷纷离开了所在公司,2020年,网飞(Netflix)公司拍摄了一部纪录片叫《监视资本主义:智能陷阱》。片中,Pinterest 的前总经理、Facebook的前盈利总监Tim Kkendall说他担心算法操纵的世界最终导致美国内战;一个从谷歌出来的工程师,担心整个互联网产业的道德沦丧……

    曾与马克·扎克伯格(Mark Zuckerberg)一起创办了Facebook的克里斯·休斯(Chris Hughes)离职后多年后,批评Facebook说,“扎克伯格是个好人。但令我感到愤怒的是,他对增长的关注导致他为了点击而牺牲了安全和道德底线”。

    这样严重的担忧,是什么导致的,问题出在哪儿呢?

    纪录片截图:一个前谷歌员工离职的原因

    01

    2018年,推特CEO Jack Dorsey在一次听证会上说,12年前创办推特时,他没想到推特会变成今天这样……

    这段话,与《黑镜》第五季第二集的剧情正相契合,该剧正好也是网飞公司拍摄的。男主Chris Gillhaney因为在一次和女友驾车的过程中看手机社交消息,导致车祸,女友当场死亡。当他恢复过来后,他做了一个类似UBER产品的司机,每天在这家叫“碎片”的社交网站公司楼下接客。终于有一天,他接到了一个这家公司员工,绑架了他,通过要挟这个员工,逐层上接,和“碎片”公司CEO接上了电话,而他只是想告诉这个CEO,社交网站是怎样绑架了人们的生活而导致种种悲剧的。这家CEO的回答和推特CEO的回答很相似:

    我当初创办这家公司的时候,没有想到它会变成这样。

    “碎片”公司CEO阐述了一种逻辑:一个产品成型后,它的走势就不再是他能决定的,每一次更新和功能改进,都是因为用户喜欢、希望得到的结果,这并不一定是一个CEO想要的。

    上瘾,几乎成了所有社交App追求的东西。

    《监视资本主义:智能陷阱》采访了很多前硅谷科技公司的前高管和投资人。

    作为谷歌前道德伦理设计师的特里斯坦说,当年他在谷歌做邮箱设计时,意识到一个问题,历史上从来没有过50个左右的20-35岁的加州工程设计师做出一个决定,就能影响20亿人,影响他们做出从来没有预想到的想法或决定——当用户早上醒来,谷歌邮箱就告诉他,应该这样工作。工作、文化、生活的意义,都来自一个鬼鬼祟祟的第三方操纵。而谷歌内部,没有一个人想把邮箱做得不那么致瘾。

    纪录片截图:特里斯坦·哈里斯——谷歌前内部道德设计师

    后来他做了一个呼吁:我们这些工程师,有道德责任去审视、讨论致瘾问题。

    特里斯坦发出这个呼吁后,很多工程师都赞同,然后,就没有然后了……

    作为Facebook 的早期投资者罗杰·麦克纳米说,硅谷的前50年,IBM、谷歌、英特尔都制造软件或硬件产品卖给顾客,商业模式简单而良好。但过去十年,硅谷最大的公司一直在“贩卖顾客”

    互联网时代以前,人们所发明的东西,都是为大众服务的,自行车、汽车、计算器,它们是简单而中性的工具;当互联网时代兴起后,技术慢慢演变为向人类索取、引诱甚至操纵并从人身上获利的工具,已经由以人为主动型技术环境,转变为以人被动接受的、致瘾操纵型的技术环境。社交媒体不再是等在仓库里等着人去骑行的自行车,或驾驶的汽车,而是会自我学习、分析、操纵、致瘾的东西。

    硅谷大公司的高管们就很警惕这个问题,比如比尔·盖茨和史蒂夫·乔布斯的小孩,童年就被要求与电子产品完全隔离。

    这正是《纽约时报》2018年的一篇文章所说的,“技术专家知道手机的真面目,所以他们很多人决定让自己的孩子远离这些东西。”

    雷慢曾说过,互联网是一个喂养型的社会。这种喂养是经过大数据分析、机器学习决策后,推送给人的。

    这也是马克思、弗洛伊德等人对“异化”一次观点所说的,人作为客体被动地接受体验世界和自身;“物凌驾于人之上”。就像系统算法凌驾于外卖快递员之上。机器流水线凌驾于工人之上一样。

    02

    现在,互联网公司提供了大量的免费产品,FaceBook、微信、抖音、推特,大家都不为使用的社交产品付费。为这些社交App付费的是那些广告商,广告商就是社交App的顾客,而用户成了被销售的商品。这就出现了一种现象:

    如果你没有花钱买产品,那你就是被卖的产品。

    所以FaceBook、推特这些公司的商业模式就是,怎样让你最大程度的上瘾,花更多的时间在这些App上,付出你人生的时间。

    人生值多少钱呢?

    哈佛商学院教授Shoshana Zuboff被采访时说,在商业上,FaceBook、推特们为了卖出更多的广告,需要给与顾客确定性,所以,商业广告卖的就是确定性,这个“确定性”就来自用户上瘾背后的“数据分析”。

    纪录片截屏:大数据可以记录用户在某张图上停留了多长时间,来判断用户对那种图感兴趣。

    这就是纪录片标题所说的核心:监视资本主义。

    为了获得数据,这些公司需要监视用户去过的每个地方,每种喜好,每种行为数据,无限追踪、分析、评估,无限逐利。

    你喜欢看NBA的视频?好的,在你看下一个同类视频前,给你插播一条篮球鞋的广告。

    纪录片截图:算法模型会给用户画像,这个画像是由无数的行为数据建立的。

    这些数据不用人看管,机器可以自动深度学习,给出预判,这也是推特CEO所说,为什么这些产品成了当初他们所没想到的样子。

    但高管们做了什么呢,预判人们行为轨迹的模型是他们做的,能够自动学习的程序代码是他们写的。

    这一切都为了一个确定性:尽可能成功的将用户卖给广告商。Shoshana Zuboff将这个市场称为:

    从未出现的、最大的人类期货市场。

    过去我们交易猪肉期货、钻石期货,现在人类也成了期货。

    上瘾带来的后果是,将你还没想到的部分,用算法推送给你,使它们成为你思想的一部分,还让你觉得这是自己所想的。

    FaceBook、UBER等公司的高管都曾在斯坦福大学上过这样一个课程:怎么用技术劝服用户?这类行为被称为:

    劝服的艺术。

    这是一种极端刻意的、对人们行为进行设计的行为。用户的每一次下拉或上拉刷新,都是一次算法的重新推送。它们深入脑袋里,植入一种无意识的习惯,让人的脑袋更深层次地被编程。

    FaceBook曾做过一个“海量规模蔓延实验”,测试用FaceBook上的潜意识信号来让更多人在美国中期选举投票,实验结果是:能。

    这种影响并不会触发用户的意识,而是一种潜意识,这意味着用户根本不会察觉。

    这种实验,谷歌和FaceBook每年要在用户身上做很多,用户就是实验小白鼠。

    03

    各种致瘾的大数据分析、算法推送,使美国Z世代的年青人成为了牺牲品。

    纽约大学心理学家Jonathan Haidt提供的数据显示,大概在2011年至2013年前后开始,每年因为割腕自残而住院的少女出现了剧烈上升的趋势。

    纪录片截图:近20年,美国每年少女因手机上瘾而自残与自杀的趋势

    一个常见的现象是,人在孤独、无所事事的时候,总要找点什么事情做。如今这个空隙被算法推送的网络社交、短视频等占据了,人处理情绪的能力就退化了。

    Cathy O’neil是一个大数据科学家。她说,算法是内嵌在代码中的观点,它并不是客观的。算法会被成功的商业模式引导、优化。

    通常,在一个像FaceBook这样影响数十亿人的公司里,能明白某个程序算法工作逻辑的就几个人,相对于70多亿的人类来说,可以看成:人类失去了对算法系统的控制。

    罗杰·麦克纳米说,这就像一个27亿人的《楚门的世界》,每个人都有自己的世界。没有人发现自己所在世界的本质真相。当然,实际上,活在“楚门的世界”里的人可能更多。在中国,类似的产品有今日头条、抖音等。

    算法的每一个推送,都代表着一种商业利益。

    在中国,中老年人喜欢看的一些鼓吹、煽动的假新闻视频, 并不是制作者一定相信这些事,而是假新闻传播比真新闻更快,流量能给他们带来商业变现,免费看视频的人,才是被卖的商品。

    特里斯坦·哈里斯发明了一套理论:技术超越人类的第一个阶段点是超越弱点,其结果就是上瘾,上瘾会激化愤怒、激化虚荣,压制人类天性,挫伤天性。第二个点是超越人类的智慧。

    算法喂养的世界里容易出现种种激化的矛盾,每个人的意见越来越不相容,因为每个人都从不同的推送里了解信息,而这些信息、知识又因为推送不同而不同。当两个因为同一个社交网站的鼓吹而同时出现在街上游行的美国人,对同一件事情产生争论的时候,他们容易发现:

    哦,原来我们并没有看到相同的信息。

    这种激化的分歧的一个知名例子就是“地球是平的”论,这种论调在YouTube上被推荐了几亿次,因为有的人喜欢,算法每天都在变着法地给人们推送“地球是平的”的内容,“地球是圆的”则被他们当作阴谋,而且越来越多的人相信了这种阴谋论。

    这个事件的高潮是,今年2月,因为想证实地球是平的,美国发明家迈克尔休斯在用自制的载人火箭进行发射测试后,坠地身亡。

    04

    算法只推荐给人们感兴趣的东西,它并无道德感,它唯一的动力是商业利益,它可以一而再再而三地给人们推送虚假、阴谋论的信息。今天可以让人相信地球是平的,明天就可以让人相信喝消毒液可以杀死新冠病毒。

    2016年,美国有成千上万的民众相信着一个假新闻——一个有民主党高层参与的地下娈童犯罪组织隐藏在一家华盛顿的披萨店,算法在这个事情发酵中,不停地推荐人们加入“披萨门”小组,直到越来越多的人相信它真的存在。

    事件的高潮以一个男子拿着枪要进入披萨店仓库去解救“被迫害的孩子”、半路被警察逮捕了而告终。

    在美国,疫情期间的谣言,和算法的推波助澜,加剧了谣言传播,个体各自为政。人们在街上游行,有的喊“新冠疫苗是阴谋”,有的喊“人类基因不适合新冠疫苗”。每个人执着于自己看到的信息。一个政府官员将其称为:

    新时期的部落主义。

    在算法推送的信息浸染下,2017年的一项皮尤研究中心的数据显示,2017年民主党和共和党的政治分歧达到了20年来最高点。

    在缅甸,2017年以来FaceBook上出现了前所未有、情绪高涨的煽动性言论,这些言论被不停地推送给那些喜欢看的极端民族主义者,催生了严重的犯罪行为、种族主义迫害,并导致了70万罗兴亚族MSL逃离了缅甸。

    纪录片截图:缅甸罗兴亚族MSL大逃离

    《崩溃》一书作者贾雷德·戴蒙德阐明了社会是怎样崩溃的:一个社会一起推动一种不稳定、消极状态的前进,最终导致了社会的崩溃。贾雷德·戴蒙德的学生曾向他问出一个非常有意思的问题:

    17世纪,复活节岛生态环境崩溃前,砍倒了岛上最后一棵树的那个人,那一刻在想什么?

    我们是时候也思考一下这个问题了。

    本文来自“新金融洛书”,欢迎关注公众号:

     4 ) 你听得到

    更新:刚发现,《黑袍纠察队》第二季第七集片头与该片主旨严重契合。

    ——————————————————————

    首先,影片制作本身,在嘉宾谈论之外加入情景剧、拟人演绎、动画演示,太炸了(27/06/2022 我发现每每重看自己的文章,有时总能让人忍俊不禁,尴尬无比。但其实,我是不想修改的,这就是当时较为真实的状况),最后那个类似《水滴》拉伸镜头展现出来电子大脑的结点囚牢让人原地炸裂。人们一步步被控制得死死的,身处现实世界越来越看不清,而在虚拟囚牢里却越来越真实。(囚牢里的男主从一开始全身透明的人类形体,一点一点被“充实”显现,到最后完全坠入,像行尸走肉) 其次,说回影片主旨,当下的各类社交媒体,包括“豆瓣”本身,在此风暴下,又何尝不是与“视觉文化”以来,居伊·德波的“景观社会”达到一种严丝合缝的契合。人们“自甘堕落”。

    人类必将在自我发展中自我毁灭。图片时代更替了文字时代,影像时代更替了图文时代,发展的同时也是毁灭。事物存在的前提与事物所需之发展相悖,太多了,存在即悖论。

    个人而言,少用手机,甚至不想用,但是大家都要用,我也就被裹挟。举个最简单的例子:现在你让上司通过短信(再“离谱”的方式我就不多说了)联系你那是不可能的,你也不可能同时与多人通过短信即时相互交流和沟通。

    但,“景观社会”最核心的一点是什么?它是怎么存在的以及如何发展壮大的?它的基础是目前所处的影像时代,以各大社交媒体为平台,我们消费和得到的是别人的关注。我们不再只是购买和拥有,我们更多从“拥有”转向了“展示”。所以,我本人手机里东西尽量少,朋友圈不咋看(我的朋友圈也尽量小),我自己也越来越少发东西,也确实没意思,甚至怕别人给我点赞。因为,I don't give a shit. (27/06/2022 我想当时可能是美剧看多了)我并不在意别人怎么看以及如何看我的东西,我一直觉得是,你看不看、怎么看这是你的事,与我无关。但同时我也很清楚,所有人在点赞和评论时,第一,要么是认为对方是在意你这一下的(比如一些秀智商的评论);第二,要么是自己在意这一下的(比如一些秀智商的评论);第三,要么是真心喜欢和认同的。以上几点,虽然会有大相径庭,但其实有一个共同的核心——渴望被看到被(去)认同。(有人会疑问第三点,个人认为其实“点赞”和“评论”的动因在于潜意识里的“物以类聚,人以群分”,尤其“豆瓣”里面,相对于微信朋友圈什么的,“亲人朋友票”较少,也就是说你潜意识里认为自己是这一挂的,志同道合的,品味相投的。清流也好,“泥淖”也罢,玩笑也是,都无所谓)这也正是“景观社会”的引力核心,也是当下人们的精神疾病。

    个人有些极端和无情。虽然I don't give a shit,按理说别人点不点赞还关心什么?但就是不喜欢别人点赞。因为,点赞无非是上面情况其一,我从不站边,我就是我,我只相信自己,我也不需要任何人的赞美和认同,最不喜欢别人的加油和鼓励。我也从不加入什么豆瓣小组,加入了我也不会看。我相信没有人可以被范围圈定,或许有什么“三教九流”、“人以群分”和“芝兰之室”,但,与“我”(个体)无关,I don't give a shit. 我不是什么反社会人格,但我确实想与世隔绝,独自生活。

    跟很多人一样,个人只是把朋友圈、空间还有豆瓣什么的,当做自己对日常生活的记录。

    渴望被看到被认同,不好吗?不是。除了某些炫耀作秀的畸形心理(景观社会的病症)不好之外,一些价值上的被认同,努力上的被看到,没什么不好。因为人总是很孤独。

    个人的感觉是,只要你不在意所谓的关注和赞美,平常心对待,那么你孤独中有时出现的赞美和认同就会变成黑暗中的火光,力量会更大。不要期待被关注、被认同和被赞美,更不能习惯被关注、被认同和被赞美,这样也不会那么容易被那些“陷阱”所陷害。

    其实能做到这样,也就基本上是因为你是什么样的人,那么有些事其实本质上就与你无关了。比如,本人从来没看过抖音,是根本没有意识到我可以去看看。(当然,前段时间做了一段时间的短视频编导,真的是必须下载抖音,但其实我还是没怎么看,干干净净。事实上也是半个月就辞了,觉得自己真的没法拍那些东西,我也认为有些东西多了真的不好,真的不好。我并非坚决否定其他任何人或某些事物,还是那句话,与“我”无关,我只是需要把握自己,目前我也绝无那么大的能力影响别人)还有去年,基本上没怎么用手机,尤其是社交媒体,沉寂了一年,远离社会,消失无踪,也没有打任何招呼,以致最后打开微信,成百上千条新消息,很多好朋友都在问,也在问对方,这人去哪了?还好嘛?我真的很抱歉,最后更是写下长文忏悔自己。而这次“行为艺术”之后,我删了一批人,剩一百来好友。我在长文前言里说得非常明白,有些渗人。朋友也说,你这不仅是在考验自己也是在考验别人。以前有过两次大批量删人的经历,也都会提前打招呼。我这人很不好,也很难与自己和解。

    该死的自我

    我并非提倡某些行为,也还是那句话,以往写一些涉及个人想法的文章都会提,大致是:以上所有,你没必要相信和认同(所以我不喜欢点赞嘛,点和被点。但并非完全不会,其实别太在意“点赞”一事就OK),你有你自己的想法。必须注意的是,当你觉得我说的某些话可能有些道理的时候,可得小心了,因为我的话可能正成为某种意识形态对你“询唤”,要不要“应答”这就是你的事儿了。我的建议是:不要随意应答,学会时刻存疑,多多思考!(那最后这句话,你要不要听呢?)

    (27/06/2022 在旁人的提醒下重新审视自己)

     5 ) 作为在互联网公司搬砖的data scientist,我有话想说

    挺讽刺的,看这部纪录片的时候手边正好摆着product manager必读书目 -- Hooked,讲的就是怎么创造出人人都上瘾的产品(speaking of dilemma,作者最近又写了一本新书讲如何保护自己的时间不被social media占据)

    纪录片前三分之一正好讲的也是这个部分:互联网公司为了得到更多的用户从而实现盈利目的,投入了不计其数的资金去研究怎么能让用户上瘾。基本上呢,互联网公司的盈利模式正基于此,足够的screen time,足够的广告。纪录片本身没有什么新颖的观点,比较触目惊心的是美国青少年自残自杀人数自2010年开始增加,social media上许多功能带来的后果在初期没人能想得到。

    当然,互联网不光影响了高中生的心理健康,由于各种算法只会通过点击来判定用户兴趣,在以增加screen time/stickiness为前提的商业模式下,许多假新闻阴谋论得以广泛传播 - 人们活在自己的世界里,目之所见全是相同的观点,每个人都有一套自己的是非体系,polarization越来越严重。

    这和‘被困在系统的外卖小哥’那篇文章不谋而合。因为数据有限,算法仅能够根据用户有限的实时反馈:点击、点赞、用户时长等指标进行提高,而算法的设计者们往往不会也无法预料到可能产生的负面影响,导致了今天的局面。看到这个地方我很好奇导演会怎么来探讨可能的解决方法,毕竟大家都知道这是个问题,可真要解决起来太难了。

    导演也知道,于是他只花了最多十五分钟(包括片尾鸣谢),即全片16%的时间,非常非常非常蜻蜓点水的讨论了一下。

    监管制度是一定需要的,可是假新闻要怎么监管呢?没说。谁拥有最终的话语权可以为假新闻盖棺定论,是政府,是互联网公司,还是用户自己?任何一方如果直接干涉,那又该怎么保证不影响言论自由?说到底,作为用户,到底谁才能决定我看到什么?影片中把互联网公司的推荐算法跟人口贩卖(和许多我记不起来的黑色产业)对比,可问题在于,什么是真什么是假可比人口贩卖是好还是不好难鉴定许多许多。再加上监管制度成型中各种power play,最终成型的会是什么样子也挺难说的。

    在我看来,互联网、科技、算法等等最大的难题在于,这个产业本身是高度分散的。由于互联网本身的特性,任何一个小小的产品改变能在上线的一瞬间影响上亿的用户。可是作为参与这一改变的人:设计师、码农、产品经理、数据分析师等等,他们和你我一样,都是普通人,无法预料到点赞功能会导致青少年焦虑,无法预料到优化送餐时间会导致外卖员的困境。如何在产品设计、算法设计的过程中考虑到可能产生的社会影响才是每个互联网人应该上的一堂课。

    可是好遗憾,这部纪录片根本没有探讨可能的解决方法,唯一有点意思的是片尾鸣谢时每个人提到的自己对抗算法的方法 - 这明明是应该放进正片的内容!

    总的来说,纪录片花了过多篇幅来讨论现象,有sensationalism之嫌,而对于立法的困难程度、互联网公司该如何自省方面的讨论少之又少(我很期待看到这些的!比如如何在算法中融入社会学)。最后吐槽一句,netflix的纪录片好像都有点煽动情绪大过摆事实讲道理,看看本片标题,也挺讽刺的。

     6 ) 结构性的问题:资本主义

    “没有人是坏人。”智能陷阱的制造者也如我们一般是活生生的个体,带着人道主义的期许设计出“点赞”、“推荐”,但这些设计在发展的过程中失控了,成为让人上瘾的一个个陷阱,甚至陷阱设计者本身也会掉入其中。可见真正出问题的不是人本身,而是背后结构性的根源。正如片中所提,当今驱动或者说运营这个世界转动的的就是经济奖励,所以任何问题的解决方案一定要是符合经济奖励的,而经济奖励就是资本主义追求的最终目的。所有这个结构性问题就出在了马克思不断抨击的资本主义制度上,而智能陷阱只是再一次映证着资本主义本身摇摇欲坠,和过去资本主义导致的经济危机、工人罢工游行有着相似的本质。

    同时,片中所提到的立法的解决方案,在资本主义国家也很难得到真正意义上的实现,因为悖论在于政府需要制定出不利于资本积累的法律条款,但却是资产阶级控制着政权。

    片尾Harris说“我们要推翻这一切。”太笼统也太无力了,甚至搞不清的是,我们真正应该推翻的,是技术和工具本身,还是背后那个操纵技术达到目的的制度呢?

    摘抄启发点:

    1.极化

    -技术什么时候会超越人类取代我们的工作,比人类更聪明?技术超越人类的弱点时。

    这个超越的点就是上瘾。两极分化、激进化、激化愤怒、激化虚弱,一切的根源,它在压制人类的天性,在挫伤(checkmate)人类的天性。

    -想象维基百科的个人化,脸书油管谷歌就是这样

    -27亿的楚门的世界:

    你觉得楚门为什么到现在都从来没有接近,发现他所在世界的真实本质?

    -皮尤调查:个人和政治两极分化达到20年来最高

    -人们总是以为算法推荐的是给他们真正想要的,但其实不然。算法其实是在试图找到几个非常强大的兔子洞。试图找到哪一个兔子洞最贴近你的兴趣。

    -PIZZAGATE阴谋论在社交媒体传播的典型案例。

    -我们创造了一个偏心于虚假信息的体系,并不是因为我们想要,而是因为虚假信息比真实信息能让各个公司赚到更多钱,真实信息都很无聊。

    -如果你想控制你们国家的人民,从未有过像脸书这样有效的工具。

    最明显的案例:缅甸发生的事情。

    脸书真的给军人和其他不良人士一种控制公众言论的新手段,并协助煽动针对罗兴亚族穆斯林的暴力,已经导致70万罗兴亚族穆斯林逃出这个国家。

    -远程控制战争,俄罗斯对2016年美国大选的干预。只是将合法给广告商与用户使用的工具用在了邪恶的地方。

    -部落主义。

    -技术并不是人类存亡的威胁,而是技术能把社会中最坏的东西带出来的能力,社会中最坏的东西,才是人类存亡的威胁。

    -我们很可能会因为故意无知毁掉我们的文明。

    -如果你不知道你身处矩阵中,你怎么从矩阵中醒来?

    立法:

    -经济奖励可以说运营着世界,所以这个问题的任何解决方案一定要符合经济奖励。

    -交数据收集和处理税——不掌握所有的数据。

    -“没有人是坏人”。点赞按钮的全部动机:我们可以在世界中传播积极和爱吗?但时间快进到当下,青少年会因为没有得到足够多的点赞而抑郁或者会导致政治两极分化。

    -我不认为这些人的动机是邪恶的,只是这个商业模式有问题。

    -我们应该接受的是公司是要挣钱的,但不合理的是,当没有监管规定竞争,公司在充当实际政府部门,然后他们说“我们可以自己监管自己。”

    改进:

    -推翻这套系统

    -是批判者驱动着改进,批判者才是真正的乐观主义者。

    -你在用点击去投票,你点击钓鱼网站,你就是在创造一个经济奖励延续这个已经存在的体系。

    -在推特上关注你不认同的人。

    -在你分享之前,查找一下事实,思考一下信息来源。

     7 ) 社交媒体就是毒品。

    与其说这是一篇《监视资本主义:智能陷阱》的影评,不如说是这几年,我关于社会观察的一次阶段性课题总结。 在进入正题之前,我必须要说,无论这部纪录片,或是我这篇影评,都是都只是这个社会病症的一部分。 所以,今天聚焦这一部分是——关于互联网科技和资本主义结合后,所创造出来的这个所谓【社交网络】,对人类个体以及整个社会所带来的负面影响。 一、 对于互联网,我在自己对社会观察的记录里(这本书之前取名叫《这个世界的bug》,老粉丝应该记得)最简短的概况就是: 科技在极速发展,社会制度在缓慢发展,局势在左右摇摆螺旋上升,没有发展,而人性不仅没有发展,反而在堕落。 要认同这一现状,我们必须学会且承认涂尔干的理论,就是社会变迁会影响个人的行为。 而随着人们行为路径的改变,又会反过来影响社会趋势。在这个理论中,我最爱用的例子就是,连环杀人犯。 在工业社会中早期,受压抑的连环杀人犯,都采取蛰伏的策略,以几年甚至几十年的时间来间续作案,通常都是忍不住了,就好像瘾来了,必须要杀一个人。作案一次后得到满足和舒缓,随后可以长时间——几周几个月甚至几年不作案,直到下一次杀人的瘾再发作。因为破案相关科技不发达,加上这种较为隐蔽的作案手法,所以他们可以多次作案而不被抓。比如最近几年才抓到的某国内著名案件,他最后一次作案是2002年,被抓是2016年。 而到了2010年之后,就少有连环杀人犯了。相反,一次性杀死多人,街头报复社会,同归于尽,甚至在人群密集的音乐节、酒吧、教堂用枪扫射的疯狂案件,在世界各地都开始变得多起来。前年甚至还看了一场甚至直播杀人过程。 是什么让杀人犯们改变了方式? 答案是社会的变化不仅影响了杀人犯的行为,其实也改变了每一个人的行为。 无可置疑,社会正在变化,而且越来越快。在科技发展缓慢的中世纪,人们的生活方式几乎是没有变化的。而如今,人们的生活方式每3年5年,就有新的改变。 尤其是在城市里,从2000年,到2020年,仅仅20年,已经是完全不同的生活方式和节奏了。 如果你是1960年生人,今年60岁,那么你见证的就是一场巨变,真真正正的沧海桑田。这不过这沧海桑田,基本都是在网上,在科技上。如果你是2020年出生,那么你出生就是一个互联网新世界。 从某些角度来讲,1960年出生的城市人,和2020年出生的城市人,压根就是两种人,代沟可能比太平洋还宽。 那么,这种社会变化对人们造成的影响,有没有负面存在? 当然是有的。 《监视资本主义:智能陷阱》开篇就提到,如今的科技发展,是存在某种问题的。科技发展的背后,显然是有某种道德隐患的。 无论是自然发展所酝酿的危机,又或者是人为的道德隐患,它势必促成一场社会危机,会造成巨大的可怕的后果。 然而,因为我们在一个最新的世界,面临的最新的问题和隐患,所以这个隐患,甚至没有一个名字。 (这也是之前我那本《这个世界的bug》没有写完的原因之一,它太新了,涉及太多方面,不好全面总结。我虽然在两三年前就列好了大纲,每个章节都对应一个环节,但在后续的写作中,不断的查询各个领域的资料和书籍,从而不断的有新的认识,有时候比原本设想的更广更深,有时候甚至推翻了之前的想法。 所以,这是一个没有权威定义的,没有名字的问题和隐患,是一个巨大的网,需要很长的时间才能总结全貌,而我正热衷于窥见每一个角落。 另一个原因,是我自己性格的原因。就算没有完全认识,其实也不妨碍先写出来。我不知道还有没有其他人,也在和我进行同样的工作和观察,但我知道我的一些观点是对的,也在网上经常看见同样的观点、趋势、现象、论证结果,符合推测和预言。 但因为社会这个话题实在太大,方方面面,根本无法全尽——这对喜欢绘画的我,或者说对于一个典型INTP性格的我,无疑是一个折磨。我喜欢看见所有的事所有的可能性之后再行动,或者说我压根不喜欢行动和成功,我只喜欢观察,只喜欢看见所有的现象,思考背后的原因。 但我不是佛祖,又怎么可能看见众生的每一个因果,怎么可能把整个世界全部画出来。我只能有一些较为深刻的感触和见解罢了。出于自己的性格,这不足以促使我行动,大家可以看一看INTP相关的东西,虽然我不太信mbti,但我真的是典型intp,也许我应该改一改性格,伪装一下intj。 不过,我们今天先不聊这么大,聊的大就容易聊的空。大而空疏,不是好词。我们今天只谈这个单独的话题:互联网科技。) 二、 借着《监视资本主义:智能陷阱》这部纪录片,我们看到主角其实试图做出改革的,并且获得了很多IT同行、公司内部员工的支持。但这个改革方案,几乎是一夜之间就被勒令叫停了。 毕竟,资本家的权利要比改革者的多。 这个纪录片,可以看做是改革失败数年后的一次揭露。 他首先揭露了一个令人震惊现象,我们的生活被互联网影响和控制,而控制互联网的,其实只有寥寥数人。 30个程序员,决定20亿人的态度,这个对比实在令人惊讶。 比较大的社交媒体平台,通过主页影响目标网民。 而要影响网民,首先要做到三件事。 第一,获取吸引力 第二,贩卖确定性 第三,确定性需要大数据支撑 为了更好的达到目的,公司开始监视窃取用户隐私。今年上半年,在公众号,写过《隐私大盗》,聚焦著名的脸书隐私事件罚款问题。 而在国内,其实也闹过这一出戏,关于用户的隐私,使用霸王协议,不同意不给用。 而面对这样不公平的霸王条款,人们就这么用了,根本没有反抗,连抗议都几乎称不上有。 人们,就是这样,迫不及待的要进入互联网,哪怕明知道它的危害,明知道它在侵犯隐私。 像我这样从来不用抖音和快手,以及如果不是为了赚钱,微博和知乎也不会用的人,可能越来越少。相反无数的人,正在毫无意识的进入互联网,社交媒体。 就像石油期货一样,互联网公司卖的是人类期货。用户是一种商品,正在被贩卖。 公司不止监控人们看了什么,而且监控你看了多久,精确到秒。他们知道你抑郁,知道你孤独,知道你的一切秘密。但他们不是为了帮你,而是为了把你卖掉赚钱。上万亿美元。 你内向外向,你的性格,不仅你喜欢看什么类型的电影,甚至你喜欢看什么类型的小电影。他们知道你凌晨几点看了你的前男友/女友,还知道你看了多久。我们说的不是抽象的,而是字面意义上的。真的存在一个电脑以及上面的软件在监控这些数据。而这些数据,我们的私人信息,是真实的、字面意义上的,存在于某个机房的硬盘里。无人看管,只有程序。 很多人误会的以为公司只是在卖我们的数据,其实他们是在存储,然后利用这些数据建立模型。谁建立更好的模型,谁就赢了。 基于这些数据和模型,公司比你更了解你的人格。你点过的每一个赞,认真读过的每一篇文章,都会化身为血肉,通过网线在另一端组成一个你的克隆娃娃人,就好像巫毒扎小人一样。根据你的模型,电脑会决定你身上的针,该扎在哪里。 甚至你阅读到最后会变慢的习惯,都会成为他们眼中放广告的好时机。他们可以通过预判,来预测你的行为,精准,并且反复测试。根据预测,他们可以精准投放你喜欢的视频,什么样的电影可以刺激你的情感,什么东西能击中你,能获取你的注意力,能引导你的思维,导向一种确定的结果。 公司有三个指标 一个是延长你的使用时间 一个是让你不断的拉新人加入 一个是广告目标,确定你的行为符合预期并给你投放有效的广告 也就是前面说的,贩卖确定性。 每一个目标都有一种算法,然后由程序驱动。最可怕的是他们可以调控这些算法,今天想多挣点钱,就把广告算法调一下;今天想多吸引点韩国用户,就把算法调高一点。人是商品,是被调控的数字。我们创立了全球整整一代人,他们的背景,成长环境,社交空间,文化的意义,就是傀儡。我们参与的每件事,背后都有操控和欺骗的影子。 三、行为劝服 要改编一个人的行为,把他塑造成更好的商品,需要修改用户的行为路径。 我们前面提到的社会变换影响人的行为变化,可以说是被动的。 而公司对人的改变,是主动的。 第一个方法,正积极强化 不仅是奖励,更绝的是随机性奖励,像赌博老虎机一样。 赌博为什么让人上瘾? 人类的社交以及虚构的能力,是人类进化最重要的一环。所以就是赌博这种随机性奖励,简直就是针对人类设计的bug。赌瘾是一种精神疾病,人在赌博的时候大脑内会产生一种叫做“内啡肽”的物质,它会让人产生愉悦感,渐渐地人就对赌博产生依赖,这感觉能使人上瘾,一般来说,当一个人嗜赌成性的程度越重,内啡肽的分泌就会处在越高水平,这些病人如吸了毒品一样。 感兴趣的朋友,可以看看关于赌博的论文。而其实上网,很多方面和赌博是一样的。 很多时候,我们打开手机,就是一种赌博。刷社交网络和新闻,其实就是寻找奖励。这也是为什么 ,那些肤浅的科普、简单的方法论、有毒的鸡汤、无聊的爽文等等中低质量的网络内容,极具传播力。反之越有深度,越需要成本的内容,除非有巨大的推力,否则越是难以传播。很简单,因为大多数人不觉得这是奖励,而觉得这是惩罚。 长期上网之后,上网这件事就会在你的大脑根部,植入一个潜意识行为,无意识决策。 形成一个习惯。你甚至没有意识到自己做了什么,你就已经打开手机了。 纪录片在这个地方,提出了一个名词叫:增长量黑客学。 也就是他们就在研究如何黑进你的内心,操控你的行为,甚至发展成一门学问。 你是不是感觉自己像小白鼠? 实际上,你就是一个小白鼠。 他们会做很多小规模实验,然后再把成功的实验扩大化。 而他们的成功,就是把用户变成傀儡,赚钱的机器,用人类的脆弱和缺陷赚钱。 四、科技的进步 没有人会说自行车的发明给我们造成了不好的影响,每个人都喜欢自行车。自行车是工具。而社交媒体并不是。并不全是。 它会对你有所求,会压榨你,会让你成瘾、会有各种各样的反应,而不是一个安静的工具。 自行车没有目标,你的目的地就是自行车的目的地。 但社交媒体,它有自己的目标,而且会利用你的心理去完成自己的目标。 你在玩它的时候也在被它玩,它不是工具,你才是工具。 城市生活其实是一种抽象生活,也是一种隐姓埋名的生活。人们确实保持联系,但不是以一种独立完整的人格出现,而是作为经济消费功能的化身出现。 (此处,必须要提到梭罗的《瓦尔登湖》:人们已经沦为他们工具的工具。这句话写于1847年,那个时候没有互联网,只有早期的资本主义和工业化社会,然而一些有远见有智慧的人,已经提出了人们正在成为金钱和物质的工具的看法。而如今的互联网与资本主义的结合,无疑正在加剧的把人们变成工具。 所以哲学家能领先世界一两百年,并不是一句空话大话。哲学家会通过观察现有的社会,来预测未来的社会。更可怕的是,哲学家们经常会做出正确的观点,预测到悲剧,有时候只要在发展的过程中,把这些可以预料到悲剧加以规范即可改变,但逐利的人们从来不会防范或者改变。功在千秋,利在当下。这也是我前段时间写的那篇文章里,伏尔泰那句名言的由来。推荐大家可以读一读梭罗等人的作品,会收获很多。) 只有两个行业把客人叫做“使用者”,毒品和社交媒体。高管自己造的软件,自己都忍不住刷,自己造了一个把自己当成猎物的机器,后来不得不写程序来让自己戒瘾。 所以,就算知道这些原理,一旦沾染互联网,哪怕是制造者自己,也没办法控制。 人的本能在控制行为,而互联网很多APP瞄准的就是人的本能。社交媒体其实就是毒品,它满足我们的生物学系统,直接影响我们的多巴胺,原理上很多地方就和毒品一样。我们几百万年进化出的缺陷,都被社交媒体拿去设计利用。它只是快感和刺激度没有赌博那么高而已,但原理是互通的——如果你经常上黄色网站,刺激和快感也很高,也很难戒除。 最恐怖的,是它在毁掉我们原本正常生活,本然生活的能力和习惯。拿掉手机,你发现自己已经不会生活了(如果你是2010年前后出生的城市人,那你甚至不知道没有互联网之前的生活应该是什么样的!) 纪录片中,使用了一个上锁的盒子,给手机倒计时上锁。作为一个赌局,看看青春期的孩子能不能一周不使用手机。最终,这个孩子经不起诱惑,把盒子砸烂了,报复性的刷了一整个晚上。所以互联网不仅仅是生活方式,它改变孩子们的习惯和价值观。 我们需要进化到一万个人关注我们,看我们吗?看我们的一举一动? 我们需要每隔几分钟就获得一次社交认可,短期信号吗 我们需要被放进一个陌生的上亿人的网络环境里,接受它的复杂化吗? (关于环境复杂化,关乎到我写的另一个话题,后现代生活态度。《这个世界的bug》《后现代生活态度》《进步方法》分别对应的我的世界观,人生观,价值观,事业观,是我现在正在写的三本书,算是我对社会观察和自我成长的总结。但这些并不是我想做出来表达的作品,只是记录和总结。) 我们的价值观被改造成短期的认可无论多肤浅廉价,只是因为空虚,而被社交媒体趁虚而入。 空虚的时候,手边正好有个手机来填补,于是没有任何余地的,互联网让人越来越空虚肤浅。当然,虽然大部分人原本就空虚肤浅,但这并不是给社交媒体洗地的借口。 美国研究表明,1996年后出生的一整代人更加容易抑郁,更脆弱。新一代人们处理情绪的能力无疑正在退化。 一切都是技术革命,从1960年至今,计算机的能力增长了几亿倍。没有任何东西的增长速度可以与之媲美。其他的一切与之相比都微不足道。人类的大脑?根本没有任何进化,不退化就不错了。人类的生物机制,这一套系统,基本不可能再有变化了。(除了未来的生物和基因工程改造) 所以,人类的大脑如果作为一个计算机硬件,加上一套算法来看,现在手机以及手机背后公司的一套算法,人脑电脑,面对面,谁会赢? 谁在操作谁? 如我开篇所说,科技在极速发展,社会制度在缓慢发展,局势在左右摇摆螺旋上升,没有发展,而人性不仅没有发展,反而在堕落。 你以为人工智能毁灭世界,就是控制核弹,造出终结者或者奥创这样的机器人吗?物理灭绝人类?需要复仇者联盟来战胜? 人工智能实际上已经在操纵世界了。不需要物理灭绝人类。谷歌这样的大公司,有一些超级大的房间,里面放着你一眼看不到边的计算机,互相连接着,然后运算着。基本上网络世界,就是被这些你不知道在哪的超级计算机操纵的。而网络世界在真实世界的占比,已经大到不可想象了。算法其实就是内嵌在代码里的观点,是有目标性的,而不是客观的。算法不是为人类服务的,而是为公司服务的。公司甚至有时候不为了赚钱,也丝毫不顾不良社会影响。 如果你想进入下一个热潮行业,那就是机器学习。给计算机一个目标,它会自动学习如何完成它。无情的,不计代价的,迅速的。它是一台会自动改变的“智能”,哪怕最初它是人写出来的。 很多公司管理者自己都无法预测计算机的行动,他们只知道计算机在帮助自己完成盈利的目标。计算机掌握着人类的信息数据,但却不被人类掌握,而是自主运行着。 计算机和媒体为了拉住用户,会没有下限的发送各种各样的新闻或者消息。譬如一件谋杀案火了,马上就会有十件同类型恶性犯罪被曝光。它们只是不停的,抓住你的注意力。 政治,八卦,恐慌,娱乐,色情,游戏,刺激,视频,你像一个傀儡一样,把自己的时间全部拿去让它操纵。它丝毫不担心这些东西对你造成的影响,对你的身体,行为,习惯和思想。给你灌输的意识形态,人际三观。 (此处很想放一张截图,前段时间在公主号有人评论杭州案之后的恶性案件,我告诉他关于媒体因素,他才恍然大悟自己原来被媒体操控,我们二人的对话。但是我懒得去找截图了) 它,就是操弄你,测试你,用信息流奖励诱惑你,然后赚钱,就这么简单。 甚至它背后都没有一个人来主动针对你,而全部都是有目标的程序而已。这才是最可怕的。 社会变得极端化,激进化,两极分化,愤怒化,急功近利,空虚迷茫。。。而这一切的原因,只是因为技术已经接近了人类的智慧并即将超越。技术何时全面反过来掌管人类还不知道,但是技术已经掌控了人类的弱点和bug,这是确定的。 很多人始终意识不到问题的严重性,没有一个明确的界限。就好像之前我举过一个例子,吸烟的人总说戒烟难,但是一旦你告诉他得了肺癌,十个有九个都会立刻戒烟。好像戒烟一瞬间变得也没那么难了。很多时候人就是这样,没有意识到事情的严重性。 他们喜欢在细枝末节上争吵,喜欢维护看上去有道理的观点,喜欢强调进步和发展的一面。进步和发展当然可喜可贺,但那些阴暗面却不该被忽视。 社会改变对人的改变是巨大的,不可忽视的。不是一两句话就能洗地的。洗地是因为他们原本就不关心这些问题,也没能力关心,也没知识去认识问题。毕竟这是一个全新的而且正在发生的,没有办法以全貌来下定义的问题,它的矛盾也是发展运动中的——所有模糊的没有明确定义的事情,都给人做文章的空间。很多时候我们一次只能讲清事物的一个部分或者一个面。讲科技发展带来的便利,就会忽视科技发展带来的负面。 但记住,无论有多少正面,负面存在就无法抹除。同样,正面也无法抹除。事物的发展就是运动的,需要辩证的去看问题。 社交媒体正在伤害人类的天性,多个角度多个层次的。就好像前几天关于外卖骑手的深层次报道一样,那只是一个角。但这个角,就覆盖了700万骑手。我为什么强烈推荐那篇报道,以及马逆的后续跟进节目,是因为它们真的是难得一见的又好又深刻的揭露了社会正在发生什么的媒体报道。 谷歌公司,会根据不同城市大部分人的观点,推送给他们喜欢看的内容。 比如: 你在某些城市,谷歌气候变化是,谷歌会跳出来,气候变化危机是骗局。 然后你换个城市换个电脑,搜索气候变化的是,第一条结果就变为:气候变化危机正在破坏自然环境。 你得到的结果,你检索的资料信息,取决于你所在的城市大部分人的观点,取决于大部分人想看到什么,而不取决于真相。 你想看到什么,他们就给你看什么。 现在搞市场下沉。什么叫市场下沉?很简单,两句话说清楚: 低素质,低收入,低学历的人,总体来说更多,也更好骗,更好激起他们的喜怒哀乐——更容易操弄他们。 所以,内容要下沉,要肤浅,要满足这一类人群。要给他们想看到的东西。 至于那些高水准的内容,和高水准的需求,以及这背后的一系列人群,你们爱咋咋滴,不爽就滚回家玩泥巴去——因为公司是资本家创立的,所以基本上互联网就是资本家的,而不是在乎好的、深的、对的、有益的,只在乎,赚钱的,比烂的。 市场下沉需要举例子吗?不需要了吧? 最好笑最讽刺的地方是,有很大一部分低素质低认知的人群,也不在乎市场下不下沉。它们反而赞成市场下沉,鼓吹市场变化。它们热衷娱乐,热爱肤浅的虚幻的刺激性的一切内容,并为其合理性找一切道德、政治上的理由。它们不在乎世界危机,不在乎社会癌症病入膏肓饮鸩止渴等等长远的担忧,它们只在乎,今天爽不爽。你说的话有没有让我爽。你有没有哄我开心。它们是市场下沉是算法的理想用户、目标用户。 反过来,一切娱乐社交媒体也是它们的最爱。 深层次的好内容,在原本就自带的距离感、学习成本、舆论的抹黑,人类天性的好逸恶劳、好喜不好忧的特点,在这些因素的合力推动下,这些好内容渐渐都被埋没了,消失于网络中。 人有百样,所以各个领域高水平的人不一定是符合道德标准的人。而高水平的内容,从一开始就不是它们在乎的,能企及的,能理解的东西,所以它们从来就没在乎过。无论这些东西怎么样保护、滋润它们,怎样维系文明,它们也不在乎。网络世界,最终属于数量庞大的乌合之众,这一点毋庸置疑。 我一直觉得【当愚昧是主流,清醒就是犯罪】这句话不够好。 应该把当和就两个字去掉。 俊9.22 市场下沉,内容下滑,平台变水,恶意广告,精准投放,娱乐至死,乌合之众,这些正在发生的现象,需要举例子吗?不需要吧。这些现象并没有全面爆发,但也足够触目惊心。很多人没意识到,是因为除非刀架在脖子上否则他们没能力意识到。 还有一些人意识不到,是因为他们被算法骗了,没有关注到很多触目惊心的东西。没有机会深入观察反思。 如果这些现象的存在都不重视,或者都不承认的话,就没必要和我交流了,那等于假装看不见房间里的大象。首先,不承认问题的人要么是装傻,要么是懦弱而选择自欺欺人的不去面对,也就是所谓的非蠢即坏,这就没有交流的必要了。 不要说独立思考,一千个人里难得有一个具备独立思考的能力。一百个人里甚至都没有几个人具有这种独立思考的机会和潜力。 比楚门的世界更可怕的,是有数不清的人,心甘情愿的活在楚门的世界。而它们的世界并没有一个大棚子和我们隔离开。所以小心,它们会一直来碰撞摩擦。网上对喷根本不算事,不拿刀砍人就不错了。记得之前详细写过《舆论》《社会性动物》,也推荐过这两本书。当事实太多时,人们就失去了客观思考的能力,只是被新闻和信息驱使操控的工具。 我们生活在一个之前从未存在过得世界,历史的新阶段,人性的缺点第一次被这样大规模的利用。人类社会也第一次如此分裂极端。前所未有的新时代。 每一个在网上试图观察,反思的人,一开始都会遇到一个问题,人怎么可以这么蠢?震惊,难以置信,是真的愿意去相信,很多人选择了不相信。 但事实就是,人是有弱点的,天性机制被利用后,就是如此。原本没这么蠢,被互联网和手机驯化后也开始变蠢了。 还有很多人觉得,网上很多人缺少大量的信息就做了判断,它们怎么可以忽视这么多信息? 事实就是,它们真的没看见那些信息。互联网太大了,让人难以看见全貌。 同时太坏了,它简直就是故意激起人们的极端化。 最后,人们原本就喜欢对自己并不了解的事发表观点和评论。 美国自从特朗普以来,政治新闻成为全球热点(全球免费戏院),美国的个人政治观念,分裂程度达到了历史最高。而社交媒体,是主犯之一。 社交媒体可以让美国人相信地球是平的,相信疫苗是有毒的。很多人觉得这么蠢的违反常识的想法,也有人信?事实上算法在变得更聪明,以至于真实数量多到你不敢想象。 很多人觉得,这些人信就信了,和自己无关。其实这就是没搞懂细枝末节和背后大问题的联系。全世界的社交媒体,都在更新算法,而他们是如此成功庞大,就算你不用互联网,你也不摆脱它的影响。它是新时代毒品,而且它的用户已经普及到绝大部分人。 早晚有一天,你也会被劝服,相信一个完全虚假错误的事,而且你还不知道自己错了。这和你够不够有联系? 人类行为都是一样的,上坡很难,下破滑滑梯。 社交媒体就是一个故意把下坡路放在你面前诱惑你,故意把上坡的,学习成本的,对你有益的东西弄得很难。最终你只能选那个下坡路。 不是因为你蠢到无可救药,而是因为你被针对性的利用操纵了。 你以为互联网公司只是做一些常规性的广告赚钱,无害的,你就太天真了。虚假医疗信息,虚假广告,制造焦虑等等这些不提。灰色产业,赌博,菠菜,色情,诈骗,犯罪等等各种东西,数不胜数。 很难想象吧,你的每一次上网,社交媒体互动,不经意间的点赞,其实都害得有人走向极端,有人被诈骗。两者之间居然存在联系? 是的,它们有联系,网络的力量之强,之复杂,超乎人的想象。只能说道可道,非常道。 特朗普说一句喝消毒水可以治新冠肺炎,就有十几个纽约人喝消毒水住院、死亡。美国这半年的花样新闻,丑态毕露的滑稽戏码,已经超出承受能力,甚至超出想象力。多到什么程度?多到网上的段子手都累了,都跟不上了,追不动了。 社交媒体会把人们变得极端化,还会让他们相信阴谋,有些美国人至今觉得新冠是阴谋。新冠病毒再快,也快不过互联网的传播速度。 特朗普为什么要推特治国?是因为好用,方便操控美国人,还是因为特朗普很潮? 在中东一些寡头,利用脸书制造屠杀和战争,造成几百万人流离失所。对你没看错,就是利用社交媒体去影响人。与这比起来,是不是觉得杀猪盘突然变的小儿科了。 再举个敏感的例子,还记得去年美国是怎么利用社交媒体挑逗小渔村废独闹事的吗?闹多大事?闹了多久? 如果还不信,就真的没话可说了。 五、未来 现在有一种新的理论非常流行。人们相信未来,每个人都只是一个单独的体验单元。而计算机会变成一个超级大脑,来分配人类资源,互相分享体验。 我第一次看到这个理论是2018年。 如今的世界,依然还有真相。互联网没有真相,只有观点,极端的愚蠢的,但是最终还是有些人能接触到真相。 然而到了那个新时代,真相不再存在,没有人能接触到真相,没有人能接触到自己生命体验之外的东西,每个人都被按照特定的目标洗脑,然后变成一个信息收集器,收集信息之后上传回主脑。你不重要,主脑才重要。 到了那个时候,人生就是一段被设计好的程序。 如今拿着手机的人,很难想象,我就玩个手机,我还要为世界末日负责? 很多看到社会发展便利的人,觉得技术无罪啊,为什么技术就一定是针对人群弱点的? 技术确实无罪的,只是如今的技术和资本和政治,和林林总总所有的元素互相影响,最终确实引起一些现象,这些现象的背后,是社会最黑暗的一面。而它正在发展壮大。 像开头所说,这个危机,连名字都没有。它是新的,正在发生的。但它确确实实存在。如果任由它发展,最终会酿成悲剧,就好像资本主义的发展引发世界大战一样。而且,最重要的是,现在没有一个好的办法去解决它。孤独,分歧,冷漠,疏离,肤浅,极端,这些难以自愈的社会问题。 如果你不知道你在黑客帝国的矩阵中,你怎么从矩阵中醒来? 现在的技术发展很多方面都是好的,我很感恩便利的技术,不仅好用而且真真实实的给我提供了学习渠道,娱乐交友平台。 如果不是互联网,如果没有社交媒体,我学习进步没有这么快,也会少认识很多朋友。 但现在的商业模式,目标,习惯,市场,是错的。 我并没有觉得技术都是坏的,一切都很悲观--我确实相信未来不会好,我很喜欢赛博朋克。但目前来说,我并不觉得技术进步都是邪恶的,商业资本都是该死的。我只是觉得市场需要管控。 前面说起外卖骑手那篇文章,马逆提出了一个人物的文章没有提出的问题: 是不是一个资本公司亿万富翁的利益,真的大过人民的利益? 我们的环境社会恶化,难道就是为了给资本家积累财富? 无节制的欲望,和无节制的自我认同,无节制的媚俗,和无节制的道德滑坡,最后引发灾难,只看是谁运气不好背黑锅。这就是网络时代在加速的东西。 其实人类社会一直这样,只是网络让其加速一百倍。 如果一些事情不改变,社会会继续恶化下去,互联网会继续下沉,政治会更加极端,恶性事件会越来越多,奇葩新闻会越来越多,自然环境也会越来越恶劣。人类会幡然醒悟吗? 一瞬间变好? 人们上网应该意识到,自己不是客户而是工具,自己的时间和注意力,是宝贵的财富,社交媒体正在利用你的注意力作为一种资源去开采贩卖。 你的注意力原本应该用来让你自己变得更好,更进步,更幸福,真正的幸福,关注你自己真正热爱的事情。你的注意力原本可以用来让世界变得更好。而不是,拿去刷社交媒体网络。短视频。 功在千秋,利在当下,社会能不能改变很难说,但你可以现在就改变。

     8 ) 【汇总】片尾的一些建议

    √ 在手机上关掉/减少各种“通知”,大部分“通知”既不及时也不重要。

    √ 放弃Google搜索系统,改用Qwant( //www.qwant.com/ )。

    Qwant是一家法国的搜索引擎,它承诺执行非常严格的隐私条例,并保证绝不获取使用者的任何信息,也不会在用户浏览网站时,搭载任何可能泄露使用者身份及位置的Cookies文件。Qwant将搜索结果分成 WEB, NEWS, SOCIAL, IMAGES, VIDEOS, SHOPPING 几个部分:
    Qwant官网简介

    补充,类似保护隐私、不会主动泄露cookies的搜索引擎还有 DuckDuckGoSearxStartpage 等。网上有许多这样的介绍和测评,随手搬运一篇《 搜索引擎详细测评(Google, Startpage, Bing, DuckDuckGo, metaGer, Ecosia, Swisscows, Searx, Qwant, Yandex, and Mojeek)》(2020-02-15)

    √ 不看YouTube(此处可以等效替换)推荐的视频,要看什么自己选。

    √ chrome有许多的拓展插件,可以为你屏蔽那些推荐(针对外网的比较多,希望内网也多多开发)

    一些例子

    √ 在分享信息之前,用你的搜索引擎先去核准下事实(fact check)。对于容易激发情感的内容,要高度重视。

    √ 在社交媒体上去关注一些自己不认识、意见相左的人,有意识地去获取和自己不一样的声音。

    √ 可以自发地设立“家规”:孩子不能用社交媒体。(很多业内的技术人员是不让自己的孩子用那些的。)

    √ 可以自发地设立“家规”另三种:

    每天到了固定的时间,手机等电子设备不能带进卧室(例如睡前半小时,把所有设备都请出去);

    高中(或16岁)之前禁用社交媒体;

    提前与孩子商讨出一项“时间预算(time budget),比如:每天你打算在这些设备上花多久?你觉得多长的时间是合理的?正向沟通、相信孩子,往往可以得到一个合理的时长预算。

    √ 下线,多享受线下的现实。

     短评

    聚众吸牍哪家强 网飞找来这群人一个劲戳别人脊梁骨 没种把自己的5秒跳转下一个视频算进去

    7分钟前
    • Robo Captain
    • 推荐

    就提一个capitalism会死吗

    8分钟前
    • soyoungsogone
    • 还行

    中文翻译的标题线路很正确嘛

    10分钟前
    • 里拉
    • 力荐

    能请到离职的脸书 谷歌 twitter高管或功能创始人来搞一部揭露社交APP之罪的纪录片确实牛逼!!看影片开头好多工程师已经在担心律师函了。 我们以为的AI危机(人工智能)是电影中类似机器人入侵的画面,其实,人类早已被AI奴役好几年了,它们以智能手机APP的面貌出现在我们生活中,吃掉我们的时间,夺取我们的注意力,令我轻信、空虚、偏执甚至被利用…… 就连创造出这些APP的工程师们——这个AI统治者的创造者们都承认有手机上瘾症。if you are not paying for the product, you are the product.You would not realize it's a Matrix if you Are in the Matrix.

    14分钟前
    • 七姐Claudia
    • 力荐

    “在整个人类历史中,每次有事情变好,都是因为有人站出来说:“这太蠢了,我们可以做的更好”。是批判者驱动了改进,他们才是真正的乐观主义者。我们正飞速走向毁灭,需要一个奇迹才能让我们回头,这个奇迹就是集体意识,再足够的公众压力出现之前,这台机器是绝对不会回头的。”

    17分钟前
    • 亚比煞
    • 力荐

    “是批判者推动社会变得更好,批判者才是真正的乐观主义者。”

    18分钟前
    • 烟雨如花转
    • 力荐

    在网飞纪录片序列中算不上惊艳,内容都能想得到,有个别地方倒是有启发。其实社交媒体不是重新发明了人性,只是顺应人性被发明出来。

    19分钟前
    • frozenmoon
    • 还行

    一边抗拒一边沉迷,也是无解了。

    22分钟前
    • 桃桃林林
    • 推荐

    通过海量的数据加上对用户个体的行为记录,最终用户个体不再特殊。你的行为可以被预测,你的心理已被掌握,你已经无所遁形。在IT巨头面前,你只是一个可被盈利的工具。 --你以为你想买的东西其实是巨头想卖的东西,你想做的事情是巨头暗示你做的。下篇讲述 在网络环境中,虚假的信息传播的更快,其中人工智能的推荐起到了加速作用。 推荐系统的智能化是的信息发送方变得极化,同时是的接受的信息变得不再全面的。。。。

    27分钟前
    • W.史密斯
    • 力荐

    朋友圈已经关闭了好几年,也不用微博和fb的我感觉自己还是有点觉悟的。

    31分钟前
    • 席德
    • 推荐

    影片翻译成”监视资本主义“太符合中国上层领导了,其实就是讲了社交网络怎样赚钱、怎样改变和监视用户、大数据统治的,其影响会延伸和触及到人性、进化、政治竞选等领域。但人类历史中的谎言、煽动、阴谋、阶级等现象,并不是网络时代就特有的,只是网络时代让这些现象具有更大规模、更快的反应而已,但不能把原罪归于网络。

    32分钟前
    • 炸酱面
    • 还行

    最讽刺的是你之所以能看到这部片子,多半也是因为它被网飞自己的大数据和算法推到了用户主页。这种感觉就像是有天迈克尔·贝跑出来拍了一部【电影艺术是如何被滥用CGI特效的好莱坞大片毁掉的】纪录片一样。

    34分钟前
    • Laplace Demon
    • 推荐

    互联网是人类文明的硕果还是浩劫?这是一个问题。互联网发展太快,而互联网用户运用它的智慧却太慢。它几乎成为现代人剪不断的脐带,每个人都以为这根脐带为我们输送养料,却很少发现它也在吞噬我们的时间,消耗我们的生命。互联网背后是不断将我们异化的数据和图形,是将用户打造成韭菜的智能工具,而你我是它们手中的行货。尼采说,“在自己身上,克服这个时代。”然而,这多么困难。最有意思的是,看完这部纪录片后,我发布的信息也会成为互联网内容的一部分,不小心浪费了别人的时间。

    38分钟前
    • 尘飞扬
    • 推荐

    突然觉得,我如果能活到八十岁,说不定可以亲眼看到这颗星球毁灭……

    41分钟前
    • 西决
    • 力荐

    三星半吧。这个片子一边谴责社交媒体蛊惑人心,一边也通过背景音,模拟场景,动画,拼命传输自己想传达的意思。有点讽刺

    42分钟前
    • C&TUTU
    • 还行

    某种existential crisis的压迫感沉重到可以将其归类恐怖片的程度:迫真humanity的一个至暗时刻。毋庸置疑新自由主义的放任默许了它们的野蛮生长。日渐两极化割裂的民主世界,中产的消亡,功绩社会里的精神暴力,抑郁及自杀率的攀升,ultra-right/left异军突起众多吊诡背后,总能追溯到科技巨头的鬼影。今年的BLM可谓一个高潮,空前的社会撕裂,内战的恐惧开始在北美大陆扩散,然而那种担忧早已经在太平洋对岸成为了现实,诸如废青和武统的呐喊此起彼伏,落入集权独裁手里的社交媒体正上演着数亿人的《楚门的世界》。

    46分钟前
    • 帷野久
    • 力荐

    前半段谈的是个人的成瘾性,后半段谈到了对社会和政治的影响,甚至还提到了香港问题受到了推荐算法的影响,实在是强烈推荐的纪录片。推荐算法让人类看到更多他想看到的信息,而不是正确的信息;当算法没有被操纵的时候,假象会被传播和放大的更快,社会群体的分化会更严重;当被操纵的时候,它会成为比以往更高效的舆论控制工具。

    51分钟前
    • 流浪四方
    • 力荐

    可能是今年 Netflix 最好的一部纪录片,无论是 have no clue 的大众还是互联网业内工作人员,都能从中得到新的启迪。一段虚构故事结合湾区大佬们和学者们的访谈形式也耳目一新。Just fucking watch this right now!另外好多差评真是男言之瘾重灾区…

    54分钟前
    • 椒盐豆豉
    • 力荐

    我一直是更亲近Yuval Noal那种对社交网的防御心,最近他跟唐凤的对话中,唐女士更接近Bill Gates,她们对Code is law的信任是基于他们对科技的掌握,略傲慢的盲目。人类善于发明创造工具,却总是不能智慧的使用好它,socialmedia被创造出时的工具属性越来越模糊,连接一切变成绑定一切,我们都在失去个人专注力的同时被训练的自动贡献出时间来替科技公司创造价值。见惯了友邻放弃包容,讽刺刻薄的针对陌生人,哪怕对方只是没把咖啡馆当图书馆对待产生噪音。我们大部分人,都忘了我们用社交网的初衷了,我们只是停不下来了,这不对,要自省。

    55分钟前
    • 姜小白
    • 力荐

    最后还是把问题还原到商业模式和经济上去了 也就是说 不是简单呼吁大家自己控制社交媒体的使用就可以解决根本问题的 不过很有意思的是… 看完片子之后 大家还是屁颠儿屁颠儿跑到社交媒体上来打分了😂 这和竞争关注的结果其实没有本质上的区别吧 人生而愚蠢...也是没办法的事

    59分钟前
    • ripley
    • 力荐

    Copyright © 2023 All Rights Reserved

    电影

    电视剧

    动漫

    综艺