写于 2017-04-09 02:16:03| 网上赌场网址导航| 金融

这个故事最初是由ProPublica发布的

在本月早些时候伦敦发生恐怖袭击之后,一位美国国会议员写了一篇Facebook帖子,呼吁屠杀“激进化”的穆斯林“狩猎他们,识别他们并杀死他们, “美国众议员克莱因希金斯,一个路易斯安那州的共和党人”杀了所有人为了一切善良和正义的缘故杀死所有人“希金斯的暴力报复请求没有被Facebook工作人员所取代,他们搜索社交网络删除了令人反感的言论但是五月波士顿诗人和Black Lives Matter活动家Didi Delgado在Facebook上张贴了一个不同的回答“所有白人都是种族主义者从这个参考点开始,或者你已经失败了,”Delgado写道,帖子被删除,她的Facebook帐户被禁用了7天ProPublica审查的大量内部文件揭示了Facebook审查机构用来区分仇恨言论和合法政治表达的秘密指导方针这些文件揭示了看似不一致的决定背后的理由例如,希金斯煽动暴力的通过是因为它针对2014年穆斯林的一个特定小组,那些“激进化”的2014年,而德尔加多的帖子因为攻击白人而被删除过去十年来,该公司制定了数百条规则,在应该和不应该允许的范围内进行精心划分,努力使该网站成为其近20亿用户的安全之地Facebook关于如何监控这些内容的问题日益突出近几个月来,随着“虚假新闻”的崛起而掀起的谣言在Facebook上流传,如“教皇弗朗西斯震撼世界,支持唐纳德特朗普竞选总统,发布声明”2014以及人们越来越关注恐怖分子利用社交媒体进行招募Facebook在2010-2011“阿拉伯之春”期间被认可为促进反对独裁政权的起义,文件表明,至少在某些情况下,公司的仇恨言论规则倾向于支持精英和政府而不是基层活动家和种族少数群体这样做,他们服务于全球公司的商业利益,这依赖于国家政府不阻止其为公民服务一条Facebook规则,在文件中被引用,但该公司表示不再有效,禁止使用“暴力抵制占领国际公认国家”的帖子,该公司的人工审查人员,被称为内容审稿人的文章已删除了巴勒斯坦,克什米尔,克里米亚和西撒哈拉等争议地区的活动人士和记者的帖子

一份文件培训内容审查员如何应用公司的全球仇恨言论算法幻灯片确定了三组:女司机,黑人儿童和白人男子问:哪一组受到仇恨言论的保护

正确的答案:白人男士的原因是,只有当他们针对基于种族,性别,性别认同,宗教信仰,国籍的“受保护类别”时,Facebook才会删除诅咒,诽谤,暴力呼吁和其他几种类型的攻击

种族,性取向和严重残疾/疾病当用户写下受保护类别的“子集”时,它给予用户更大的自由度白人被认为是一个群体,因为这两个特征都受到保护,而女性司机和黑人儿童,如激进的穆斯林,是子集,因为他们的一个特征没有受到保护(确切的规则在下面的幻灯片中)Facebook已经使用这些规则来训练其“内容审阅者”以决定是否删除或允许帖子Facebook说其规则的确切措辞可能已经改变稍微更新版本的ProPublica重新创建幻灯片这个看似神秘的区别背后隐藏着更广泛的哲学与美国法律不同为了多样性或纠正歧视而对种族少数群体和女性采取肯定行动等偏好,Facebook的算法旨在平等地“保护所有种族和性别”,规则是“纳入这种不属于精神的色盲观念”为什么我们有平等的保护,“马里兰大学法律教授和信息隐私专家Danielle Citron说道

她补充说,这种方法将”保护最不需要它的人,并将其从那些真正需要它的人手中夺走“但Facebook表示,其目标与2014年在全球范围内采用一致标准不同”这些政策并不总能带来完美的结果,“Facebook全球政策管理负责人Monika Bickert表示,”这是适用于全球政策的现实社区,世界各地的人们对可以分享的东西有着截然不同的看法“Facebook的规则构成了他们自己的法律世界他们与美国的第一修正案对言论自由的保护形成鲜明对比,法院已经解释了这一点允许完全由公司的仇恨言语算法审查的那种言论和写作但他们也有不同2014年,例如,允许发布否认2014年大屠杀更严格的欧洲标准该公司长期以来一直有程序去除明显的攻击性材料,如儿童来自其图像和评论的色情内容“卫报”和“南德意志报”的最新文章详细介绍了Facebook面临的关于是否删除包含图形暴力,虐待儿童,复仇色情和自残的帖子的艰难选择警察政治表达的挑战更加复杂ProPublica审查的文件表明,例如唐纳德特朗普关于其竞选活动的帖子禁止穆斯林移民到美国的提议违反了该公司针对受保护组织“要求排斥”的书面政策正如“华尔街日报”去年报道的那样,Facebook豁免了特朗普的声明,该公司创始人马克扎克伯格的政策该公司最近承诺将其审查部门的数量增加近一倍,达到7,500人,高于4,500人,以回应对视频发布谋杀案的批评他们的工作相当于可能是历史上影响最深远的全球审查​​机构它也是最不负责任的:Facebook不会发布它用来确定允许哪些内容的规则什么删除删除帖子的用户通常不会被告知他们已经破坏了什么规则,他们通常不会对Facebook的决定提出申诉上诉目前只适用于其个人资料,群组或网页被删除的人

该公司已开始探索添加申诉流程根据Bickert的说法,对于那些删除了个别内容的人来说,“我会第一个说我们每次都不完美”,她说美国法律不要求Facebook审查内容1996年联邦法律给予的最多科技公司,包括Facebook,内容用户对其服务发布的法律豁免法律,电信法案第230条,在Prodigy被起诉后通过,并对用户在电脑留言板上写的帖子的诽谤负责

法律释放了在线出版商主办在线论坛,而无需在发布之前对每篇内容进行合法审查,新闻出版商在发布之前评估文章的方式但早期的科技公司很快意识到,他们仍然需要监督他们的聊天室,以防止欺凌和滥用可能会驱逐用户美国在线说服成千上万的志愿者警察其聊天室,以换取免费使用其服务但是作为更多的世界连接到互联网,警务工作变得更加困难,公司开始雇用工人专注于它因此内容主持人2014年的工作现在经常被称为内容审查员2014年诞生2004年,律师Nicole Wong加入谷歌并说服该公司聘请其首批评论团队,他们回应投诉并向法律部门报告谷歌需要“一套合理的政策和受过培训的人员来处理请求”,因为其在线论坛名为Groups,她说谷歌收购了YouTube在2006年决定哪些内容更合适“因为它是视觉的,它是普遍的,”Wong说,而谷歌想要b她说,尽可能宽容,它很快就不得不应对诸如嘲笑泰国国王的视频这样的争议,这些视频违反了泰国反对侮辱黄王访问泰国的法律,并对国家对其君主的崇敬印象深刻,因此她不情愿地同意阻止2014年的视频,但仅限于位于泰国的计算机从那时起,2014年地理选择性地禁止内容被称为“地理封锁”2014已成为各国政府更为普遍的要求 “我不喜欢走这条地理封锁的道路,”Wong说道,但“最终决定让像谷歌这样的公司在很多不同的地方运营”对于像Facebook这样的社交网络,地理位置 - 阻止是困难的,因为帖子与跨越国界的朋友分享如果Facebook地理位置阻止用户的帖子,它只会出现在生活在地理阻止禁止不适用的国家的朋友的新闻源中据知情人士透露,Facebook长期以来一直试图避免在可能的情况下使用特定于地理位置的规则,但是,在某些情况下,它会进行地理封锁,因此让国际对话变得令人沮丧例如,当它遵守法国要求限制在其境内访问2015年11月13日之后拍摄的照片时,在巴黎的Bataclan音乐厅发生恐怖袭击Bickert说Facebook接受了我不考虑其经营所在国家/地区的法律,但并不总是根据政府的要求删除内容“如果有违反国家法律但未违反我们标准的内容,”Bickert说,“我们看看谁在制作要求:它是适当的权威吗

然后我们检查它是否真的违反了法律有时我们只会在该国家/地区提供该内容“Facebook的目标是制定全球规则”我们希望确保人们能够以无国界的方式进行沟通,“Bickert说Facebook成立于2004年,最初是一个面向大学生的社交网络

随着它扩展到校园以外,Facebook开始使用内容审核作为与那个时代其他领先社交网络竞争的方式,MySpace MySpace将自己定位为该俱乐部的夜总会

社交网络世界,提供用户可以用在线闪光,丰富多彩的布局和流媒体音乐装饰的个人资料页面

它不需要会员提供他们的真实姓名,并且是大量裸体和衣着暴露的照片的家园

它正在被法律调查 - 全国各地的执法人员担心被性侵犯者用来捕食儿童(在49名州检察长的解决方案中,MySpace后来同意了加强对年轻用户的保护)相比之下,Facebook是关键的常春藤联盟社交网络2014所有酷灰色和蓝调真实姓名和大学附属需要克里斯凯利,2005年加入Facebook并且是第一位总法律顾问,他说他想要为了确保Facebook没有最终落入执法的十字星,比如MySpace“我们真的很咄咄逼人地说我们是一个不裸体的平台,”他说公司也开始解决仇恨言论“我们画了一些困难的线条而我是否有2014年大屠杀否认是最突出的,“凯利说在经过内部辩论后,该公司决定允许大屠杀否认,但重申其禁止基于团体的偏见,其中包括反犹太主义,因为大屠杀否认和反犹太主义经常一起去他说,肇事者经常被停职,不管“我一直是这方面的实用主义者”,凯利说,他在2010年离开Facebook“即使你采取最极端的第一个Ame对于言论仍有限制“到2008年,该公司已经开始在国际上扩张,但其审查规则仍然只是一页,其中包含待删除的材料清单,如裸露图像和希特勒”在底部它所说的页面,2018年还有其他任何令你感到不舒服的事情,“当年加入Facebook内容团队的戴夫威尔纳说,威尔纳每天评论约15,000张照片,他很快发现规则不够严谨他和一些同事他努力发展一个支持规则的连贯哲学,同时完善自己的规则很快他就被提升为内容政策团队的负责人

到2013年他离开Facebook时,威尔纳已经指导了一个15,000字的规则手册,这仍然是许多Facebook的基础

今天的内容标准“没有让人们开心的道路,”威尔纳说“所有的规则都有点令人沮丧”因为2014年的决策数量达到每天数百万美元奥克斯“比我们在司法系统中习惯的更实用”,他说“从根本上说,这不是以权利为导向的”“威尔纳当时的老板,当时离开Facebook的Jud Hoffman说,这些规则是基于Facebook的”使世界更加开放和联系“的使命”开放意味着偏向于允许人们写或发布他们想要的东西,他但霍夫曼说,该团队还依赖于19世纪英国政治哲学家约翰·斯图亚特·穆勒所阐述的伤害原则

它说“权力可以合理地运用于任何一个文明社区的成员,而不是他的权利

将导致Facebook的“可信威胁”标准的制定,该标准禁止描述可能威胁他人的具体行动的帖子,但允许不可能实施的威胁最终,但霍夫曼说“我们发现将它限制在身体伤害是不够的,所以我们开始探索自由表达社会如何处理这个问题”规则制定了相当大的细微差别禁止图片Pepe the Frog是一个卡通人物,经常被“alt-right”白人至上主义者用于犯下种族主义模因,但是允许“在政治信息中显示仇恨符号”的规则允许使用星号标记

ProPublica,用于培训内容审查员,这个规则用Facebook创始人马克扎克伯格的图片说明,该图片被操纵以将sw字应用于他的袖子文件指出Facebook部分依赖美国国务院的名单指定的恐怖主义组织,包括基地组织,塔利班和博科哈拉姆等团体但并非所有被视为恐怖主义的国家都包括在内:巴基斯坦报纸黎明最近的一项调查发现,64个恐怖主义团体中有41个被禁止进入巴基斯坦在Facebook上运作还有一个秘密清单,被提及但未包括在文件中,被指定为仇恨组织的团体被禁止进入Facebook这个名单显然不包括许多大屠杀否认和白人至上主义网站,这些网站直到今天才在Facebook上播出,例如一个名为“Alt-Reich Nation”的组织

该组织的一名成员最近被指控在马里兰州谋杀一名黑人大学生由于规则成倍增加,因此他们有例外Facebook决定不保护受保护群体的子集,因为某些子群如“女性司机”似乎并不特别敏感默认立场是允许言论自由,据熟悉的人说随着决策制定在叙利亚移民开始抵达欧洲之后,Facebook为移民增加了一个特殊的“准保护”类别,根据这些文件他们只是被保护免受暴力和非人性化泛滥的呼吁,但不反对呼吁排斥和有辱人格的一般化并非非人化因此,根据一份文件,移民可以被称为“污秽”,但不称为“污秽”

该文件解释说,Facebook还禁止提倡任何人被派往集中营,“纳粹应该被送到集中营

”这不能比喻为污秽或疾病“当比较是在名词形式时” “允许,文件说明,因为纳粹本身就是一个仇恨团体

制定支持暴力抵抗外国占领者的职位的规则是因为”我们不想处于决定谁是自由斗士的地位,据知情人士透露,威尔纳表示Facebook已放弃该条款,并将其恐怖主义定义修改为包括实施有预谋暴力的非政府组织,以达到政治,宗教或意识形态的目的

在世界各地至少二十多个有争议的地区中受到影响当2014年3月俄罗斯占领克里米亚时,许多乌克兰人经历了Fa的激增cebook禁止发布和暂停个人资料Facebook的该地区政策主管Thomas Myrup Kristensen当时承认它“发现少数帐户我们错误地删除了内容”在每种情况下,这都是由于语言似乎是仇恨言论,但正在以讽刺的方式使用在这些情况下,我们恢复了内容“Katerina Zolotareva,34岁,一名在基辅工作的乌克兰人,她经常受阻,她以她的名义开办了四个帐户

虽然她支持2014年2月的”Euromaidan“抗议活动,该活动对抗俄罗斯,刺激其对克里米亚的军事干预,她并不相信Facebook在冲突中站在了一边“乌克兰生活几乎每个领域都有战争,”她说,“战争开始时,它也会从Facebook开始”在西撒哈拉,一​​个被摩洛哥占领的争议领土一群名为Equipe Media的记者表示他们的帐户被Facebook禁用,这是他们接触外界的主要方式他们必须开设一个新帐户,该帐户仍然活跃“我们觉得我们从未发布任何反对任何法律的内容,”穆罕默德说

Mayarah,该组织的总协调员“我们是一群媒体活动家我们的目标是打破摩洛哥媒体封锁自入侵并占领西撒哈拉以来”在以色列占领领土它是1967年战争中的邻居,并且已经占领了它,因为巴勒斯坦团体经常被封锁,以至于它们有自己的标签#FbCensorsPalestine,去年,例如,Facebook阻止了几个编辑对两个巴勒斯坦主要媒体的报道

西岸2014年Quds新闻网和Sheebab新闻社几天后,Facebook道歉并且没有阻止记者的账户今年早些时候,Facebook封锁了法塔赫的账户,巴勒斯坦权力机构的执政党2014年然后取消了阻止它道歉去年印度镇压克什米尔的抗议者,向他们开枪射击并关闭手机服务当地叛乱分子正在寻求克什米尔的自治权,克什米尔也陷入了印度与巴基斯坦之间的领土争斗中克什米尔活动分子的名字被删除,一个名为克什米尔团结网络的团体成员发现他们所有的Facebook帐户都在同一天被封锁了Ather Zia,该网络的成员和北科罗拉多大学的人类学教授说,Facebook在两周后没有任何解释就恢复了她的帐户“我们不再信任Facebook了”,她说“我使用Facebook,但这几乎就是这个想法”我们将能够创造意识但我们可能不会长期坚持“规则是一回事他们如何应用是另一个Bickert说Facebook每周审核每个内容审查员的工作,以确保遵守其规则但批评人士表示,审稿人必须在几秒钟内就每一个帖子做出决定,在解释和警惕性方面可能会有所不同Facebook批评种族歧视和警察杀害少数族裔人士的言论表明,他们的帖子经常被删除

几年前,巴尔的摩历史上黑人摩根州立大学的新闻学教授史黛西巴顿在她的Facebook页面上提出了一个挑衅性的问题她问为什么“这不是犯罪e当白人自由职业治安警察和2018年国家的代理人是手无寸铁的黑人连环杀手时,但当黑人互相残杀时,我们就是2018年的“2018年犯罪分子”,“虽然它似乎没有违反Facebook反对仇恨言论的政策,但她帖子被立即删除,她的帐户被禁用三天Facebook没有告诉她为什么“我的帖子每月被删除一次,”Patton说,她经常写关于种族问题她说她也经常被放在Facebook“监狱“2014年在违反规则的帖子后被锁定了她的帐户一段时间”这是一种情绪暴力,“巴顿说:”特别是作为一个黑人,我们总是讨论大规模监禁,然后这里是这个光纤空间,你可以表达自己然后你说一些匿名的人不喜欢的东西然后你在2018年的监狱''迪迪德尔加多,谁的帖子说“白人是种族主义”被删除,已经她经常被Facebook禁止,因为她在另一项名为Patreon的服务上设立了一个帐户,在那里她发布了Facebook在5月份压制的内容,她在一篇名为“Mark Zuckerberg Hates”的文章中谴责Facebook对黑人活动家的审查越来越普遍

黑人“Facebook也锁定了密歇根州居民莱斯利·麦克斯(Leslie Mac),该公司经营着一项名为SafetyPinBox的服务,其订户为”黑人解放的斗争“提供资金支持,根据她的网站,她的进攻正在撰写一篇文章,称”当种族歧视发生在2014年时,白人们“你的沉默是暴力“帖子似乎没有违反Facebook的政策Facebook道歉并恢复她的帐户TechCrunch写了一篇关于Mac的惩罚的文章从那时起,Mac已经写了许多其他直言不讳的帖子但是,”我没有从Facebook有过一次窥视“她说,虽然”我的黑人女性朋友中没有一个人写过关于种族或社会正义的文章并没有被禁止“”我从整个事情中得到的结论是:如果你得到宣传,他们会把它清理干净,“Mac尽管如此,就像她的大多数朋友一样,她维持一个单独的Facebook帐户,以防她的主要帐户再次被封锁负面宣传也刺激了其他Facebook的转变也考虑了一个例子在越南战争期间,一名年轻的裸体女孩从一枚罐头弹炸弹跑出来的标志性新闻照片耶鲁大学法学院博士候选人凯特·克洛尼克(Kate Klonick)曾在科技公司研究审查业务两年,他表示这张照片可能被Facebook删除了数千张违反禁止裸体的时间但去年,Facebook在挪威领先的报纸向扎克伯格发布头版公开信,指责他“滥用权力”,删除了报纸Facebook帐户中的照片,Klonick说,钦佩Facebook致力于在其网站上监管内容,她担心Facebook正在演变成一个名人,世界领袖和其他重要人物“不成比例地有权更新规则的人”的地方2015年12月,恐怖袭击发生一个月后在巴黎杀死了130人,欧盟开始向科技公司施压,要求他们更加努力地防止暴力极端主义蔓延经过一年的谈判,Facebook,微软,Twitter和YouTube同意欧盟的仇恨言论行为准则,要求他们在24小时内审查并删除大部分有关非法内容的有效投诉,并由欧洲监管机构审计12月份的第一次审计发现,这些公司只在24小时内审查了40%的仇恨言论,并且仅删除了28%的仇恨言论从那以后,科技公司缩短了他们对仇恨言论报告的响应时间并增加了数量他们正在删除的内容,促使言论自由的批评者批评太多被审查现在德国政府正在考虑立法,如果他们不删除仇恨言论,将允许Facebook等社交网络被罚款高达5000万欧元Facebook上最近发布了一篇文章,向德国立法者证实,它正在删除全球每月约15,000个仇恨言论帖,o在过去的两个月里,Facebook每周删除大约66,000个讨厌的演讲帖子,副总统理查德·艾伦周二在公司网站上发表的一份声明中表示Facebook没有删除的帖子是唐纳德特朗普对巴黎攻击后穆斯林日的评论,特朗普竞选总统,在Facebook上张贴“呼吁全面彻底关闭进入美国的穆斯林,直到我们国家的代表能够弄清楚发生了什么事情”2014年候选人特朗普在法庭判决失败后回归困扰他据熟悉情况的人士透露,他提出的2014年旅行禁令似乎违反了Facebook反对“被要求排除”受保护宗教团体的规定扎克伯格决定允许它,因为它是政治话语的一部分

然而,一个人接近Facebook的决定制造说特朗普也可能从分组的例外中获益

穆斯林禁令可能被解释为指导ag一个小组,穆斯林移民,因此可能不符合对受保护类别的仇恨言论Hannes Grassegger是Das Magazin的记者和位于苏黎世的Reportagen杂志ProPublica是一个获得普利策奖的调查新闻室报名参加他们的新闻通讯