YouTube落实审查机制移除10万部违规影片、关闭1.7万

YouTube落实审查机制移除10万部违规影片、关闭1.7万

YouTube 加倍努力审查不当内容,同时致力于保有开放式平台的吸引力,YouTube 近日在官方部落格分享在平台审核机制上的核心与近几个月的执行成果,让更多用户了解每项原则的实际做法,持续着重在「移除」有害内容,过去 18 个月内因违反政策而被移除的影片观看数减少了 80%,而YouTube也将持续努力减少这类影片的观看次数。

YouTube 官方强调主要的任务可以分为以下四大原则:

YouTube落实审查机制移除10万部违规影片、关闭1.7万
YouTube落实审查机制移除10万部违规影片、关闭1.7万
自2016年以来实施的政策历程
拟定适合全球性平台的政策

为了保护 YouTube 社群,YouTube成立了一个专门制定政策的团队,负责逐条审查YouTube 所有的政策,维护社群安全又不损及 YouTube 的开放性。

不过,YouTube 审核完一项政策后现,经常发现:虽然政策本身不需要大幅度变动,却存有模糊空间或是令社群成员感到困惑的地方。因此,许多更新的用意其实是为了釐清现有的规範。

举例来说,YouTube在今年初发表更详细的政策内容,解释在何种情况下,YouTube会认定「挑战」影片的内容会严重危害到 YouTube 社群。自 2018 年以来,YouTube已经多次更新违规处置规範,其中大多都是较小的更新,但也有一些实质变动。

针对特别複杂的问题,有时候YouTube会花费数个月的时间制定新政策。在研拟政策的期间内,YouTube 会徵询外部专家和 YouTube 创作者的意见,藉此了解目前的政策有哪些不足的地方,并将地区间的差异纳入考量,以确保 YouTube 所提出的变动内容能公平适用于全球各地。

新版仇恨言论处理政策可谓 YouTube 政策上的一项重大变革。YouTube花费数个月的时间谨慎拟定政策内容,并与 YouTube 的小组合作打造实施政策所需的培训课程和工具,最后在 6 月初正式实施。

随着小组成员根据新政策审查及移除越来越多不当内容,YouTube 的机器侦测技术也同步改进。虽然新政策从制定到实施需要好几个月的前置作业,但从本季社群规範违规处置报告公布的资料来看,YouTube 针对仇恨言论发布的新版政策显然已带来深远的影响:

YouTube落实审查机制移除10万部违规影片、关闭1.7万

移除数量之所以遽增,某部分是因为 YouTube 移除了先前规範所允许的旧留言、影片和频道。在 2019 年 4 月,YouTube 宣布着手更新骚扰政策,内容涵盖创作者对其他创作者的骚扰行为。YouTube 会在未来几个月公布这项政策的更新进度。

透过机器学习技术检举不当内容

在政策制定完成后,YouTube 必须有效结合人力与技术,帮助 YouTube 审查小组检举不当内容。YouTube有时会使用杂凑法 」) 找出已知的违规的内容,让这些含有违规内容的影片在能够被大众观赏前就被移除。针对例如儿童性虐待图像、恐怖组织招募影片等内容,YouTube也为业界共用的杂凑资料库做出贡献,以增加这类内容在上传期间就遭到YouTube系统拦截的数量。

YouTube在 2017 年扩大机器学习技术的使用规模,协助侦测潜在的违规内容,并将其送交人工审查。机器学习非常适合用来侦测模式,有助于YouTube辨识内容是否与先前移除的其他违规内容相似 ,甚至让这些内容在被任何人看到前就被侦测出来。针对像是垃圾内容、成人内容等经常看起来十分相似的内容,这类系统在标记违规的成效格外显着。机器学习技术也可以协助检举仇恨言论和其他违规内容。然而,由于判断这类内容是否违规时,大多需要将背景资讯纳入考量,因此透过人工审查来辨别其中的细微差异,并做出审慎的决策就显得更为重要。儘管如此,在 2019 年第二季移除的 900 万部影片中,仍有超过 87% 是先由自动化系统优先标记出来的。

YouTube持续在自动化侦测系统投注大量资源,YouTube 工程小组每个月也会更新及改善这些系统。举例来说,垃圾内容侦测系统于 2019 年第二季经过更新后,因违反垃圾内容政策而遭到YouTube停权的频道数量提升了超过 50% 。

在大批观众看见违规影片前先行移除这类内容

YouTube会尽可能确保违反政策的内容在尚未累计大量观看次数的情况下就被移除。如上所述,改进自动检举系统在侦测及审查内容等相关事宜带来助益,让社群无须费心检举违规影片,而成效更是有目共睹:2019 年第二季由系统自动检举的影片中,80% 以上的影片在获得任何观看次数前就已被移除。

YouTube 体认到快速移除不当内容的最佳方式就是防範于未然。2018 年 1 月,YouTube成立了 Intelligence Desk 小组,负责主动监控新闻、社交媒体和使用者检举内容,藉此侦测与不当内容相关的新趋势,并确保 YouTube 小组做好因应的準备,以免演变成更严重的问题。

YouTube 减少违规影片曝光度的决心始终不变,因此YouTube让 Google 10,000 多名员工着手进行侦测、审查及移除违规内容等任务。

举例来说,上个月因仇恨言论而遭移除的近 30,000 部影片中,累积的观看次数只有针织教学影片的 3%。

上週,YouTube更新了《社群规範违规处置报告》,这份季度报告涵盖其他深入分析资料,能帮助读者进一步了解YouTube从 YouTube 移除的内容数量、移除原因,以及该内容首次被侦测的情形。这份报告不仅说明过去几年间部署的技术如何帮助YouTube以前所未有的效率快速移除 YouTube 上的有害内容,也凸显出在YouTube致力于研拟周延的政策、谨慎审查内容,并且尽责地部署机器学习技术时,为何人员的专业知识仍旧是违规处置作业不可或缺的一环。

上一篇: 下一篇: