可以自由装配在互联网上生存吗?

当互联网处于一切时,它的问题到处都是。

一世N夏季2020年夏天,Lafayette广场,在华盛顿特区,KY路易斯维尔的杰斐逊广场公园,成为两个纠缠故事实时扑灭的设置。华盛顿的故事是社会正义的体力示范之一。组装反对警察杀害黑人的抗议者是有罪不罚先发制人地包围由坦克,狙击手和警方与军用级武器。执法部门坚持认为其存在是防守的,即使是国家的律师将军积极订购拉斐特广场被清除抗议者,国民警卫队部署监控飞机未经国防部和国土安全部门批准编译“智能报告”关于涵盖故事的记者。

路易斯维尔的故事采用不那么可见和内脏形式,但它并不令人惊叹。动力每个警察行动都是黑色社区,运动组织和个别抗议者收集的数字数据的迹象。数据是收集了社交媒体,搜索引擎,手机GPS,自动牌照读卡器,收费展位标签,面部识别系统,建筑“安全性”摄像机和StingRay设备。通过数据经纪商或直接从技术公司购买,这些数据是结合并分析公共信息,例如投票记录。许多抗议者都知道采取基本的数字安全预防措施来保护他们的手机,但这些策略金额将黄油刀带到战区。每个图形的警察推进抗议者的媒体显示不到一半的故事,因为相机(具有讽刺意味)无法在工作中显示数字系统。

2021年1月6日,美国国会大厦的起义提供了第三次案例研究,可感知数字数据 - 或目的缺乏对其的注意力 - 可以影响大会的材料实践。最白的暴徒不仅仅是规划事件在几个月的社交网络平台上;在叛乱的那一天,其中许多也即将到来的攻击接着租金身体暴力的表现,其中留下了五个人死亡。骚乱者的安全假设在攻击时,在他们的自豪的活跃和温和的治疗中可见,甚至在围攻期间从某些法律执法人员收到的援助。面对这一特殊队列时的白色至上,结构安全的预测(与确定的危险的清晰推定确定了黑色生命物质抗议者在拉斐特广场和路易斯维尔治疗的危险中)强调了执法和数字系统的纠缠性质。根据其数据正在收集其数据,政府行为者如律师将军,联邦调查局和国会大纲警察可以猛烈地扰乱自由汇编或在这里得出“没有危险”,这是1月6日证明致命的选择。

我们的数字踪迹已经关注了现在几年的物理世界。我们依靠蓝线在我们的映射应用程序中获取我们的地方,在与人们通过共享利息应用程序找到的人的地方见面,将我们的家庭电话和地址链接到零售会员卡,以节省一些美元,并购买过境通过信用卡,从而将我们的财务信息与通勤模式联系起来。我们将数字化的物理空间和设备如此之多,即汽车公司通过询问它是“别克或alexa?“现在我们了解到,社交媒体和搜索引擎揭示了在线免费表达的经验,1我们必须问:物理空间的数字化如何改变我们如何组装和联系?

随着我们的物理空间变得数字化,公民自由的赌注只会更高。Laura Denardis's一切的互联网:在一个没有关闭开关的世界中的自由和安全性,Sasha Costanza-chock's设计司法:社区主导的做法,以建立我们需要的世界和Shalini Kantayya的纪录片编码偏见帮助我们了解我们的数字依赖性的深度,以及它们对边缘化社区的不同影响,以及那些社区如何努力抵抗压迫性数字技术并想象替代方案。这些作品占据了这些作品,指出了互联网与民主之间关系的奖学金,从重点关注与大会和联想自由的言论自由,扩展其概念性镜头。我们知道企业互联网塑造在线公共领域有多重要;现在是时候确保我们收集的公共物理空间仍然安全,可访问,并且可以自由装配。


从过去几年中学到的一切都在过去几年中,我们应该为我们不断增长的数字依赖性的程度准备,以更新我们的其他权利经验,例如自由大会和协会。几十年奖学金关于在线演讲的危险,当电力集中在一些大型技术公司中,慢慢得到更多的关注。

但是,对这些问题的公开和政策讨论始息概念“自由市场的想法”的概念,而且太容易地依靠少数男性男性技术工程师的专业知识。讲述,Netflix最近的尝试将社会媒体的社会危害记录在一份呼吁的纪录片中社交困境,将这些相同的技术的内部人员担任能够纠正他们创造的问题的潜在节省者。在这样做,社交困境电影制作人沉默妇女和妇女的众多贡献,致力于推进对这些问题的理解。

如果我们要及时了解互联网的危害,我们的社会需要通过这种心态来解决现在塑造我们的物理空间和互动的危害。在这方面,这是一个好主意,转向我们的数字技术长期以来一直是我们的数字技术的专业知识和许多建议,以释放学者和活动家Danah Boyd,“复杂。”2

数字数据 - 或有目的的缺乏关注它 - 可以影响大会的材料实践。

如果人类明天从地球的脸上消失,劳拉·德​​拉迪斯告诉我们一切都互联网,世界各地的设备将继续运作,嘟嘟声和嗡嗡声。只要电力流动,就是这样。

今天的互联网是一切:从建筑物和能源网格到汽车和医院。它不再是仅仅通信工具。相反,互联网是一种用于教育,健康,制造,政府,社会运动和能源系统的控制交换机。它遍及物质空间到物理空间和数字空间模糊之间的划分的点。

因此,对互联网的控制和设计的辩论应超出主导专注于表达言论自由,以考虑更广泛的公民自由,例如装配自由。Denardis的书提供重要的背景,以帮助我们了解这些辩论的紧迫性,以及如何开始解决这些辩论。

Louisville和DC的公共广场帮助我们“看到”互联网,因为Denardis描述了它。来自蜂窝塔,手机和牌照读者的信号可以三角形,以识别在公园里聚集的所有人,无论是抗议,野餐还是大策略。Stingray设备拦截手机位置信号并将识别信息传输给警方。社交媒体历史可以成为分析和面部识别数据,分析可以确认谁是谁。技术能力,监管松弛和营销修辞的组合使技术的在线跟踪能力转变为我们的公共物理空间。

在人与技术之间的递归关系中,新的协会 - 如监控技术监督项目(停止) - 以争取公众监督警察技术,以保护我们公开组装的能力。作为回应,警察部门使用他们的筹款基础(这不受公众监督的影响)购买他们不希望公众知道他们正在使用的技术。换句话说,数字监测betway体育提现的升级改变了人们如何参与公共抗议,政府和公司如何共同努力,双方用于实现目标的机制机制是什么。

当Denardis声称互联网是“在一切中,”她的意思是一切,包括人体。从生物识别系统到可穿戴技术,所谓的“东西”也是“自我互联网”。她利用Dick Cheney的起搏器 - 一个相当普通的医疗装置的豪华例子 - 植入在人体内的无线能力 - 曾经是石田始体黑客攻击的潜在目标。

但Denardis的榜样也是在书中核心洞察力的核心洞察力设计司法和纪录片编码偏见:即,边缘化的人和社区因“一切互联网”的有害后果而受到不成比例地影响。

打开sasha costanza-chock的故事设计司法明确了。Costanza-chock在机场,一个空间的范式示例,如此过度连接数字和物理之间的界限。

当他们接近毫米波扫描机时,Costanza-chock-a designer和学者识别为非线性反越南的icher * femme queer人 - 知道该设备将身体标记为异常的:“我知道这几乎肯定是最肯定的发生由于性别规范性的特定的社会科技配置......已经内置于扫描仪中,通过用户界面(UI)设计,扫描技术,二进制性体形数据构造以及风险检测算法的组合,以及风险检测算法作为TSA代理商的社会化,培训和经验。“

随之而来的令人心碎的描述。在以这种方式打开书籍时,Constanza-Chock可以致密地阐明设计商业监测技术的那些眩光差距和它使用的人。

物理空间的数字化如何改变我们如何组装和联系?

在鲜明对比社交困境及其悔改技术 - 兄弟救护者的叙述,另一部电影,Shalini Kantayya's编码偏见,提供对数字伤害的强大奖学金介绍。它通过使用故事作为肠道扳手来这样做,这是由Costanza-Chock呈现的故事。

这些故事包括一个14岁的黑色学校男孩,在受面部识别相机误诊后停在伦敦街道上。或者是一位来自休斯顿的多屡获殊荣的拉丁裔学位,从休斯顿进行了一位多屡获殊荣的拉丁裔学校,他在绩效评估算法认为他是一个“坏老师”后面临解雇。我们还符合布鲁克林的黑色租房员Tranae Moran,他们描述了她的建筑物的物业经理如何用面部识别设备取代门键,在社区中创造各种问题。

编码偏见一位麻省理工学院电脑科学家欢乐中心,让我们从计算机愿者学者带来算法 - 司法活动家(和学者)。当Buolamwini意识到她在项目中使用的面部识别软件实际上并没有看到她的黑色脸,除非她放在白色面具上,否则这个故事始于她的黑色脸。此外,她意识到同一软件已经广泛使用。

人民在编码偏见正在由部署在工作场所,住房综合体,法庭和城市街道部署的技术伤害。与信仰相反,最“先进”技术是富人的特权,编码偏见明确说,技术进步最常是目标低收入区域,社区正在尝试并广泛监测。

浏览

世界硅谷制造

由Shannon Markn.

但无论在哪里有力量,还有抵抗力。两个都设计司法编码偏见提供鼓舞人心的见解进入这种阻力可以采取的形式。

Costanza-chock介绍了“设计正义”的理论和历史基础。在这一框架的核心上是一个简单和破坏性的想法:由设计选择和产品影响的社区应该在设计过程的中心,从开始完成。这意味着远离那些建立在建立的人的那些远离那些的力量。

设计司法要求重新考虑哪些设计,谁(和拥有)设计,以及它的使用方式。最重要的是,在一个交叉不平等的世界中,迫切需要根据他们的偏见的生活经历和他们现有的抵抗实践来转向最边缘化的社区。

这些路线不仅仅是防御性。他们是解放的,提供替代数字期货的道路。它们是LED JOY BUOLAMWINI培养和导师新一代的社会意识技术工程师,最终在国会前作证,倡导面部识别技术的监管。


携带Denardis,Costanza-Chock和Kantayya展示了目前互联网的新的和必要概念:具有社区生活的数字系统的纠缠。此外,他们表明,这种纠缠更普遍性和塑造而不是公众话语承认。

很容易看出一个人的“真正的”生活如何在线移动。这只障碍指令仅增加,迫使我们将我们的物理聚会(他们崇拜服务,工作会议,城市议会会议或戏剧表演)转移到数字平台上。我们还需要看到的是逆。我们需要看到我们已经在允许我们的三维生命允许被第三方传感器持续捕获的方式来数字化我们的物理空间。

不再只是确定您在线看到的信息,我们的数字系统正在塑造我们去的地方,我们所看到的,我们聚集在一起,以及我们组装的地方。在一切中看到互联网需要看到从普遍存器系统集中控制所产生的功率不对称。Denardis,Costanza-Chock和Kantayya帮助我们掌握了我们需要做的事情。

我们有几十年来对普遍的追踪和缺乏同意采取监管行动,但我们做得很少。违反政府使用面部认可技术的战斗是解决我们如何将这些挑战移植到公共生活中的最前沿。私人社交媒体平台和虚假信息之间的破坏性动态现在在物理空间中表现出来。

当我们将家庭留在牌照读者观看的街道上,在Cameras监控的公园里,我们演出工作,我们的课堂发行的Chromebook和我们的普遍的手机和社交媒体小径 - 我们会看到我们建造的世界吗?

本文被委托蒙娜斯隆图标

  1. Safiya Umoja贵族,压迫算法:搜索引擎如何强化种族主义(纽约州媒体,2018年);Sarah T. Roberts,屏幕后面社会阴影中的内容泛化媒体(耶鲁大学出版社,2019年);Meredith Broussard,人工唯一理智:计算机如何误解世界(MIT Press,2018);凯茜奥尼尔,数学毁灭武器:大数据如何增加不平等并威胁民主(皇冠,2016)。
  2. 达纳博伊德,这很复杂:网络青少年的社会生活(耶鲁大学出版社,2015年)。
特色图片:大数据正在看你。摄影:EV / OUTLASH