Reddit如何将数百万用户变成内容审核大军

自称为互联网头版的 Reddit 面临的最困难的问题之一是确定哪些内容应该和不应该出现在其供稿中。在内容审核方面，近年来这已成为一个越来越引人注目的问题，与其他大型社交平台相比，Reddit 选择了一种不同的方法。

例如，与将大部分工作外包给审核农场的 Facebook 不同，Reddit 在很大程度上依赖其社区(或 subreddit)进行自我监管。志愿者版主的工作受每个子Reddit定义的规则的指导，但也受 Reddit 本身创作和执行的一组价值观的指导。

不过，该公司因这种模式而受到批评，有些人将其解释为自由放任且缺乏问责制。但 Reddit 首席技术官 Chris Slowe 表示，这完全是错误的描述。

“今天谈论互联网似乎是一件疯狂的事情，但平均而言，人类实际上相当不错。如果你从规模上看 Reddit，人们是有创造力的、有趣的、协作的和愚蠢的——所有这些都是让文明运作的东西，”他告诉TechRadar Pro。

“我们的基本方法是，我们希望社区制定自己的文化、政策和哲学体系。为了使这个模型发挥作用，我们需要提供工具和能力来处理 [反社会] 少数群体。”

不一样的野兽

Slowe 是 Reddit 的第一位员工，他在向联合创始人 Steve Huffman 和 Alexis Ohanian 出租了两个空余房间后，于 2005 年被聘为工程师。三人在现在臭名昭著的加速器程序 Y Combinator 的第一次运行中相遇，这给斯洛威留下了美好的回忆，但也有失败的启动和时间来填补。

尽管他在 2010 年至 2015 年间从 Reddit 休息了一段时间，但 Slowe 的经历让他对公司的发展以及公司面临的挑战如何随着时间的推移而发生的变化有了独特的看法。

他说，早些年，一切都是为了扩大基础设施以应对流量增长。但在他的第二次工作中，从 2016 年到现在，重点已经转移到信任、安全和用户安全上。

“我们为用户提供了报告违反网站政策或版主设置规则的内容的工具，但并非所有内容都被报告。在某些情况下，该报告表明为时已晚，”他解释说。

“当我 2016 年回来时，我的主要工作之一是准确地弄清楚 Reddit 社区的运作方式并定义使网站健康的因素。一旦我们发现了不健康的症状，我们就会从那里开始工作。”

与其他社交平台不同，Reddit 采用多层次的内容审核方法，旨在尽可能地遵循公司的“社区第一”精神。

最原始的内容审查形式是由用户自己执行的，他们有权对他们喜欢的项目投赞成票，对他们不喜欢的项目投反对票。然而，虽然这个过程增加了受欢迎的帖子并压制了不受欢迎的帖子，但受欢迎并不总是适当的标志。

社区模组充当第二道防线，并有权删除帖子并禁止违反准则或内容政策的用户。根据Slowe 的说法，最常见的subreddit 规则本质上是“不要做混蛋”。

该公司的年度透明度报告分解了每年从 Reddit 中删除的所有内容，表明 mod 负责大约三分之二的帖子删除。

为了捕捉 mod 遗漏的任何有害内容，有 Reddit 管理员，他们直接受雇于公司。这些工作人员执行手动抽查，但也配备了技术工具来帮助识别问题用户和私下进行的一对一互动。

“我们使用许多信号来揭示问题并确定个人用户是否值得信赖并且是否一直在善意行事，”Slowe 说。“棘手的部分是你永远无法抓住一切。这部分是因为它总是会有些灰色和上下文相关。”

当被问及如何改善这种情况时，Slowe 解释说他陷入了困境;在维护公司社区优先政策的愿望和市场上有技术可以帮助捕获更大比例的滥用的知识之间左右为难。

例如，Reddit 已经开始采用高级自然语言处理(NLP) 技术来更准确地评估用户之间交互的情绪。斯洛维还指出了使用人工智能来分析发布到平台上的图像的可能性，并承认随着时间的推移，将在没有人工输入的情况下进行大量的审核操作。

然而，他也警告了这些新系统的易错性，这些系统容易产生偏见并且肯定会出错，以及它们可能对 Reddit 模型构成的挑战。

“实际上，这有点可怕。如果我们将其作为一种执法模式来讨论，这与将摄像头几乎无处不在，并依靠机器的伟大支配者在发生时告诉我们是一样的，”他说。

尽管建立技术全景图可能会限制平台上令人讨厌的材料数量，但这样做最终需要 Reddit 抛弃其核心理念：社区高于内容。

内容审核是一个社交媒体巨头都无法声称已经解决的问题，围绕唐纳德账户的辩论和应用商店禁止 Parler 就证明了这一点。Reddit 也被卷入了这些对话中，最终决定禁止 r/DonaldTrump subreddit。

尽管社区优先模式可能很强大，但 Reddit 方法的核心存在重大冲突。该公司渴望赋予其社区近乎完全的自主权，但最终被迫做出关于在哪里划清界线的编辑决定。

“我不想成为什么内容正确、什么不正确的武断、反复无常的仲裁者，”Slowe 告诉我们。“但与此同时，我们需要能够执行一套 [规则]。这是一条非常适合步行的线路。”

Reddit 试图保持其内容政策尽可能简洁，以消除漏洞并使执法更容易，但修订很常见。例如，2015 年，在前首席执行官 Ellen Pao 的领导下，该平台禁止了复仇色情内容。去年，该公司增加了一项禁止美化暴力的条款。

“忠于我们的价值观也意味着迭代我们的价值观，当我们遇到新的方法来玩弄系统并推动边缘时，重新评估它们，”Slowe 解释道。

“当我们做出改变，涉及将社区从线路的一侧移动到另一侧时，那就是找出我们内容政策中的漏洞并从那里向后工作的漫长过程的结束。”

然而，虽然大多数人会同意，没有复仇色情片是一个不合格的积极因素，并且在 r/The_Donald 上煽动暴力，但这两个例子都证明 Reddit 必须在与 Facebook、Twitter 或任何其他平台。

换句话说，当需要提出棘手的问题时，Reddit 不再相信其社区会给出有利的答案。

这是我们目前最好的网络托管服务列表

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！