虽然许多新闻媒体 遮盖的 什么 扎克伯格 穿着 对于他上周在国会上的证词,我希望有更多实质性问题得到越来越多的报道,例如Facebook对缅甸在种族灭绝中所起的作用反应冷淡,有什么具体规定可以帮助我们,Facebook游说者继续推动破坏了我们拥有的少数隐私法律,以及Free Basics(又名Internet.org,还记得吗?)在全球仇恨言论和暴力中所扮演的角色。现在让我们讨论一下。

缅甸的种族灭绝与德国的货币罚款

脸书的影响远不只是美国和英国: 缅甸发生种族灭绝,成千上万的少数民族人口被有系统地驱逐出自己的家园,被强奸和/或杀害,整个村庄被烧毁并被推土机化。 脸书是 缅甸新闻的主要来源 (部分归因于Facebook计划“免费基础”,下文有更多解释),并且已被使用 多年 散布有关少数民族的非人道化宣传(以及审查有关针对少数民族的暴力行为的新闻报道)。当地维权人士一直在要求Facebook解决这个问题 自2013年以来 和新闻媒体已经报道 自2014年以来,Facebook在种族灭绝中的作用但是,Facebook的反应迟钝。 (我以前写过关于 脸书在缅甸的角色

即使是现在,扎克伯格仍在国会听证会上承诺要“数十人”解决缅甸的种族灭绝(2018年,种族灭绝开始数年后),这与Facebook迅速形成鲜明对比。 在德国雇用1200人 试图避免根据新的德国法律禁止仇恨言论而付出高昂的罚款。显然,Facebook对罚款的威胁要比对少数族裔的系统破坏更具反应力。

photo of inside of 脸书's Moderation Center in Berlin from //www.thelocal.de/20170711/the-first-beheading-video-made-me-weep-a-day-in-the-life-of-facebook-moderators
photo of inside of 脸书's Moderation Center in Berlin from //www.thelocal.de/20170711/the-first-beheading-video-made-me-weep-a-day-in-the-life-of-facebook-moderators

AI可以解决仇恨言论吗?

脸书在德国雇用1200名人类内容主持人的举动也与之形成鲜明对比 扎克伯格的含糊保证 脸书将使用AI解决仇恨言论。值得一提的是,看看Facebook在面临潜在的经济处罚时的实际行为,而不是向国会做出什么样的含糊承诺。作为康奈尔大学法学院教授 詹姆斯·格里姆梅尔曼说,“ [AI]不能解决Facebook的问题,但可以解决扎克伯格的问题:让其他人承担责任。”

作为两个具体的例子说明技术巨头在解决这些问题上与有效利用AI的距离还有多远,让我们考虑一下Google。 2017年,谷歌与包括《纽约时报》,《经济学人》和维基百科在内的知名发布合作伙伴发布了一个名为Perspective的工具,可自动检测在线骚扰和辱骂性行为。图书管理员Jessamyn West被发现 一些性别歧视,种族歧视能力偏见 (已确认并涵盖在 在这里更多细节)。例如,语句 我是同性恋黑人妇女 毒性评分为87%(满分100),而 我是男人 是测试毒性最低的短语之一(仅为20%)。同样在2017年, 谷歌自夸 他们实施了尖端的机器学习,以识别和删除宣传暴力极端主义或恐怖主义的YouTube视频。的 删除了包含的视频 那些记录叙利亚战争罪行的激进组织,切尔西·曼宁(Chelsea Manning)法院案件的证据以及伊斯兰国对古代文物的破坏的文献记录(许多录像带后来被放回去,谷歌承认犯了错误)。这些示例展示了一些关键点:

你不能仅仅将AI抛在脑后

历史,社会学和心理学方面的专业知识是必要的。 正如我所说 我在麻省理工学院技术评论大会上的演讲,领域专业知识非常重要。 您不能只是让技术人员投掷AI 没有真正理解它或领域的问题。例如,已经成为深度学习从业人员的放射科医生已经能够发现深度学习专家错过的放射学深度学习工作中的一些错误。为此,我认为至关重要的是,Facebook必须与社会学家,历史学家,心理学家和专家就诸如专制政府,宣传等主题进行合作,以更好地了解他们所造成的问题和可行的解决方案。

数据隐私是公共利益

希望以上示例清楚地表明,数据隐私不仅是个人选择,而且具有深远的社会影响。作为UNC教授和技术社会学专家 Zeynep 图费奇写道, 数据隐私并不像消费品,您单击“我接受”就可以了。数据隐私更像是空气质量或安全饮用水,这是无法通过信任数百万个人选择的智慧来有效地调节的公共物品。需要更集体的回应。

图费奇 强调一些政策 她建议(我同意):

  1. 数据收集只能通过清晰,简洁,&透明的加入流程。
  2. 人们应该可以访问收集到的所有数据。
  3. 在指定的时间段内,数据收集应仅限于专门列举的目的。
  4. 数据的总体使用应受到监管。

潜在监管的另一个领域是解决像Facebook这样的技术巨头的垄断地位并加强互操作性。教授 哈佛大学的乔纳森·齐特兰 建议 关键是让公司实际上成为他们声称的“平台”。 脸书应该允许任何人编写算法来填充某人的提要。

教授 图费克奇还提议, 如果有的话,我们所有人都应该考虑将竞争重新引入数字经济的方式。例如,想象一下,要求将您同意共享的任何个人数据以“可互操作”的格式提供给您,以便您可以选择与您认为可以为您提供更好服务的公司合作,而不是被锁定在工作中。只有少数几个

技术游说的力量

虽然对我们认为属于公共物品的物品进行监管是必要的,但在美国,由于科技行业花费在游说上的费用以及公司游说对我们政策的巨大影响,我们面临着一个重大障碍。正如乔治敦(Georgetown)隐私与技术法律中心执行董事,前参议院隐私法工作人员Alvaro Bedoya指出, 最新的主要消费者隐私法 在Google,Facebook和Amazon真正增加游说支出之前,这项法案于2009年通过。 我坐在这里看着马克·扎克伯格(Mark 扎克伯格)说对不起,Facebook会在隐私方面做得更好,但实际上,当他证明由Facebook在伊利诺伊州和加利福尼亚州聘请的游说者正在努力制止或破坏隐私法时, 贝多亚说.

photo from //www.publicintegrity.org/2016/12/13/20538/lobbying-muscle-may-help-tech-titans-trump-trump
photo from //www.publicintegrity.org/2016/12/13/20538/lobbying-muscle-may-help-tech-titans-trump-trump

伊利诺伊州生物识别信息隐私法 是美国最严格的隐私法之一,在公司对自己的身体进行生物特征识别扫描之前,需要征得个人的明确同意。在 扎克伯格告诉国会的同时 如何说服人们的面部图像受到保护,Facebook的游说者一直在努力打破伊利诺伊州的这项法律。

根据他作为参议院隐私法律工作人员的经验, 阿尔瓦罗提出了宝贵意见 而不是通过过于广泛的规定(说客可以更轻松地使之变得毫无意义),我们可能有更好的机会通过 具体 隐私保护,例如试图取缔非法 跟踪应用 滥用者可以用来追踪受害者或规范当前 警察无规使用面部识别程序 错误率和种族偏见未知。

在美国,我们还面临一个问题,即当发现技术巨头违反法律时,我们的法律是否将真正得到执行。例如,Propublica在2016年发现Facebook 允许放置房屋广告 不会向非裔美国人,西班牙裔或亚裔美国人显示,这违反了 公平住房法 1968年。“这太恐怖了。这在很大程度上是非法的。这是公然违反联邦公平住房法的行为,”著名民权律师约翰·雷尔曼(John Relman)说。 脸书道歉(尽管它没有受到任何处罚);但在2017年之后的一年多的时间里,Facebook仍然被人们发现 放置不会显示的广告 某些人群,例如 非裔美国人,对轮椅坡道感兴趣的人,犹太人和讲西班牙语的人。同样,请与 脸书在德国对处罚威胁的反应迅速而强烈。再例如,发现Facebook违反了 就业年龄歧视法 允许Verizon,Amazon,Goldman Sachs,Target和Facebook本身的公司 投放仅针对年轻人的招聘广告.

免费基础知识,也称为Internet.org

回顾Facebook对全球的影响,了解Facebook的Free Basics计划在缅甸的种族灭绝中所扮演的角色非常重要, 在菲律宾选举暴力强人 他因使用法外处决和其他方式而臭名昭著。 Free Basics(以前称为Internet.org)最初被认为是一项慈善活动,其中,在缅甸,索马里,菲律宾等国家,Facebook提供了对Facebook和少数其他网站的免费访问权,但并未提供整个Internet的免费访问权,尼日利亚,伊拉克,巴基斯坦等。对于这些国家/地区的用户,在智能手机上使用Facebook应用程序不收取任何费用,而其他应用程序的数据传输率通常过高。尽管Internet.org原名和善意的描述,但它不是非营利组织,而是 业务发展小组 在Facebook内部旨在增加用户和收入。

免费基础知识导致 大量的Facebook用户 他们说他们不使用互联网,并且永远不会跟踪Facebook外部的链接(印度尼西亚56%的Facebook用户和尼日利亚61%的用户)。在某些国家,人们使用 互联网脸书 可互换,Facebook是人们访问新闻的主要方式。 Free Basics违反了网络中立原则, 在印度被禁止 因此在2016年。尽管Facebook可能对此计划怀有良好的意图,但它应该伴随着巨大的责任感,并且需要根据其在煽动暴力中的作用来对其进行重新评估。 脸书需要投入大量资源来分析Free Basics在提供该服务的国家/地区中所产生的影响,并与这些国家/地区的本地专家紧密合作。

我要感谢 Omoju Miller是Github的机器学习工程师,她从伯克利获得博士学位。她最近想起了我关于Free Basics的问题,并询问为什么越来越多的记者没有写信它在全球活动中扮演的角色。

重新思考网络

法国总统伊曼纽尔·马克龙(Emmanuel Macron) 最近关于AI的采访 说过: 在美国,[AI]完全由私营部门,大公司以及与之打交道的一些初创公司驱动。他们做出的所有选择都是处理集体价值的私人选择。这正是Facebook和Cambridge Analytica或自动驾驶所面临的问题……关键驱动因素不仅应该是技术进步,还应该是人类进步。这是一个巨大的问题。我确实相信,欧洲是我们能够主张集体偏好并以普遍价值表达它们的地方。 也许法国将提供法律模板,在保护人类价值的同时支持技术进步。

最后,网络发明家蒂姆·伯纳斯·李(Tim Berners-Lee)表示了希望, 写了一篇当前有两个神话限制了我们的集体想象力:一个神话是广告是在线公司唯一可能的商业模式,另一个神话是改变平台的运作方式为时已晚。在这两点上,我们都需要更具创造力。尽管网络面临的问题既复杂又庞大,但我认为我们应该将它们视为错误:人们创建的现有代码和软件系统的问题-可以由人们解决。创建一组新的激励措施,然后将更改代码。

得出简单的结论很容易:许多评论者认为,必须始终以技术提供商有能力帮助社会的力量(或无视法规在维护健康市场和健康社会中的作用)为前提,始终为Facebook提供支持;许多人认为Facebook及其所有参与者都必须邪恶,每个人都必须立即停止使用其服务。现实更加复杂。技术可以为社会带来极大的好处,也可能带来灾难性的影响。我们面临的复杂问题需要创造性和细致入微的解决方案。