透明公民:小说与现实

2019-08-09 08

  在我们的博客系列“透明公民:小说与现实”的第一部分中,我们专注于沉默但直接的监控方法,以奥威尔的“1984”为例。这包括所有情况,其中在源处收集用户数据,而不进一步过滤信息。对于第二部分,我们现在关注基于机器的未来事件预测。

  第2部分:美国队长和少数派报告

  首先,我们向您介绍一个相关但却更为广泛的问题:在实际发生之前预防犯罪的方法。这听起来像纯粹的科幻小说,主要的工作室经常以这种方式呈现它。但仔细看,我们可以发现所谓的“预测性警务”在这个背景下,斯蒂芬斯皮尔伯格的“少数派报告”(2002)是一部经常被引用的故事片,是一部相当虚构的 - 但却令人兴奋 - 预测性警务的例子。电影的重点是通过预测(或更好地:预先知道)尚未发生的事件来预防未来的犯罪。这种方法称为“预知”。这个情节基于菲利普·K·迪克(Philip K. Dick)的一个短篇小说,它实际上已经在1956年发布,仅仅是在前面提到的“1984”之后的八年。“少数派报告”系统能够在他们的恶意行为(最好是谋杀或抢劫)之前逮捕潜在的罪犯 - 即使这些人还未意识到他们将来犯下的罪行。

  预测性警务:警察工作的未来?

  更接近现实,但离“少数派报道”的故事还不太远,(令人惊讶的是)第二部关于漫威超级英雄美国队长(美国队长:冬兵)的电影。预测性警务的想法更进了一步:不仅有“帽子”来处理神盾局机构的可疑动机和方法。随着电影的继续,他面临着一个新的,非常激烈的现代犯罪预防世界:项目“洞察力”。Insight分析并扫描数百万的累计数据以查找可疑模式。潜在的恐怖分子概况(按可能性计算)然后被传递到悬停和全副武装的平台,即所谓的“螺旋桨”。然后他们追捕目标并消除“威胁” - 然后才能进化。这可能是给你全面清楚的正确的地方:目前,没有人因为他的浏览器历史而不得不担心自动无法执行。美国队长的螺旋桨仍然只存在于电影院的屏幕上。尽管如此,预测性警务已成为现实,作为领先于犯罪一步的愿望的一部分。特别是在美国,分析软件用于提升可用的警察部队的功效。同样在德国的一些州,包括巴伐利亚州,已经采取了第一种方法来纳入基于评估的犯罪预防。然而,对成功存在合理怀疑:不仅许多当局缺乏充分渗透所收集数据的资源。正确执行行动(例如增加热点地区的巡逻)通常也是不切实际的。此外,即使在一些代理商中,对该模型的成功存在严重担忧 - 尽管如此,数据的收集仍在继续。与情报服务有关的更多相关性似乎由情报部门提供,例如在防止大规模恐怖袭击的努力中。

  日常算法

  尽管如此,对于大多数人来说,自动分析是他们日常生活的一部分。改变您在Facebook上的状态,通过亚马逊订购新的咖啡机或只是浏览下一个假期的目的地:您可以确定所有数据都通过某种方式保存和处理。这种处理大部分时间都是基于计算机的。一方面,这应该改善您对相应服务的使用,以最大限度地提高舒适度。另一方面,您下次返回服务应该会更加舒适。出于这个原因,计算机正在仔细检查您的用户行为,尽可能地将搜索结果和广告调整到您的个人资料。这些例程不会成为问题 - 如果他们只是这样做的话。事实上,用户自愿地提供他们的偏好并且为了获得更好的用户体验。另一方面的公司可能更准确地定位他们的广告。从理论上讲,这种交换 - 服务数据 - 将构成双赢局面。但是,有两种情况,用户信息处理成为一个严重的问题。在这两种情况下,集中分析和关联从其他单独来源收集的数据是第一步,仅此一项就存在数据滥用的高风险。最糟糕的情况是,首先是将这些数据包处理给私营部门,或者第二,政府当局获取这些紧凑信息 - 是第一步的集中分析和与从其他单独来源收集的数据相关联,这一点仅具有数据滥用的高风险。最糟糕的情况是,首先是将这些数据包处理给私营部门,或者第二,政府当局获取这些紧凑信息 - 是第一步的集中分析和与从其他单独来源收集的数据相关联,这一点仅具有数据滥用的高风险。最糟糕的情况是,首先是将这些数据包处理给私营部门,或者第二,政府当局获取这些紧凑信息 - 监督的目的。

  如果算法分析,谁决定?

  回答这个问题显示了反乌托邦电影和现实之间的一个巨大差异:目前人类仍然必须做出最终决定如何继续进行数据分析的结果。这对于执法来说至关重要:决定是否以及如何防止潜在的犯罪最终由人事官员/法官/等决定。尽管这一决定可能是错误的,但在许多情况下,人类同理心可以作为机器制造误判的保障。对于结合自动化处理,市场研究和商业分析变得越来越重要。如果两个世界发生碰撞,可能会出现问题。关于头条新闻最近来自中国,当时该国实施了“社会评分”的首次试验。这个系统的方法正是我们真正害怕的:通过算法评估人类。这与奥威尔监视社会非常接近。