听新闻
放大镜
【影评】无处藏身
2019-09-06 14:28:00  来源:正义网  作者:序卫

  美剧《疑犯追踪》被称为“神剧”有很多种因素,除了悬疑、刺激的情节,丰富、迷人的角色,还因为其推出之时,“棱镜计划”尚未曝光。“棱镜计划”是一项由美国国家安全局自2007年实施的绝密电子监听计划,按照该计划,美国国家安全局和联邦调查局可以直接进入美国网际网络公司的中心服务器里挖掘数据、收集情报,包括微软、雅虎、谷歌、苹果等在内的9家国际网络巨头皆参与其中。

  在《疑犯追踪》中,美国政府控制下的“TheMachine”(机器)能够实现对视频流、语音、文本等多维度多时空数据做采集、清洗、预处理、分析以及自动决策。运行这套系统的初始目的,是为了实现对犯罪分子的追踪以及对潜在受害者的预先保护。然而在超级计算机时代,这个目的最终扭曲、变形,“机器”最终掌控了对人类的生杀大权。在机器的监控之下,每个人的隐私荡然无存。

  大数据、云计算,并非仅仅意味着便捷、快速。今年3月,有媒体报道一些美食App疑似在“偷听自己说话”。记者耗时三个多月,通过模拟用户使用场景,对外卖App进行多轮测试后发现,用户谈话提及某种食物后,出现相关推荐的概率高达60%至70%。2018年11月28日,中国消费者协会发布了《100款App个人信息收集与隐私政策测评报告》,包括通讯社交、影音播放、网上购物、交易支付、出行导航、金融理财、旅游住宿、新闻阅读、邮箱云盘和拍摄美化等软件,绝大多数都涉及个人隐私。

  “机器”拥有了“上帝”的视角,无所不知,无所不在。《疑犯追踪》中与“机器”战斗的人物不得不每时每刻躲着摄像头,最终隐匿于地下。按照这样的发展速度,相信在不久的将来,无论你走在哪里,“机器”都知道你在做什么。你的手机随时被定位你乘坐飞机的线路,你网上购物的习惯,你跟朋友吃火锅时候的交谈,所有一切都将实现数字化存储,随时可供调用分析。这一天的到来,意味着个人隐私的彻底终结。如果使用“机器”的人以及“机器”本身失控,其结果将是灾难性的。

  《疑犯追踪》设计了两个“机器”的不同,一个是为了保护人类,一个是为了控制人类。简单地说,前者为善,后者为恶,最终善战胜了恶。但是这个结果是由观众观看的快感来决定的——这是东西方文化都喜欢的大团圆结局决定的。在暗黑的风格中实现反转,这更多的是由剧作的商业性决定,而并非完全理想主义的产物。别忘了,科幻电影《终结者》中同样的“机器”反噬人类,其实最初的设定却正是“机器”出于“保护”的目的。在“机器”看来,愚笨的人类已不能理性地思考,那么“机器”也就“义不容辞”替人类思考和选择。“机器”选择的结果是核弹不再受人类的控制,地球上满处发射的核弹犹如节日的焰火,美丽绝伦……然后,这个世界一片死寂。

  控制?还是保护?历史的经验与教训告诉我们:身怀利器,就会有恃无恐。

  人工智能的出现完全改变了我们。“算法”其实已经无处不在。音乐软件或网络会根据你既往听过的歌曲,或者你“加红心”的行为去推测你喜欢的歌曲,搜索会根据你的搜索记录去给你推广相关的产品,购物网站会根据你的浏览和购买推荐你喜欢的商品……这些看似有点笨拙的计算行为,就是“机器”的蹒跚学步,那个“上帝”一般的“机器”的出现可能只是时间问题。

  “人工大脑之父”德加里斯在其专著《智能简史》中设想了一个恐怖的情境:不远的将来,人工智能机器的智能将是人类的万亿倍,它们面对我们,并不像我们面对猫、狗,而是如同我们面对蚊子、跳蚤甚至岩石,当它们消灭我们的时候,如同我们将蚊子拍死,将臭虫冲进下水道——谁会在消灭跳蚤的时候觉得这样太残忍了呢?!这也许是人类逃脱不了的宿命。德加里斯有点危言耸听,不过他真实的目的其实是希望每个人都来关注和思考,希望当灾难到来之前,一切都还来得及……

  编辑:刘璐璐