YouTube透過違規影片收視率數據指標 掌握不當內容

2018 年,Google發布了社群規範違規處置報告以增加保護觀眾措施的相關資訊透明度與問責機制。這份報告以前所未有的方式呈現我們從 YouTube 移除的違規內容,並提供已移除的影片數量、最初如何偵測到違規內容,以及移除原因等多項資訊。過去幾年Google持續新增指標,例如內容申訴數量與經申訴後恢復的影片數量。自推出這份報告以來,已經有 8 千 3 百萬部影片和 70 億則留言因違反《社群規範》而遭到移除。另一個重點是,我們在 2017 年大力投資機器學習技術後,也透過這份報告持續追蹤成效,評估系統偵測違規內容的準確度。舉例來說,Google現在可利用自動檢舉功能偵測出 YouTube 上 94% 的違規內容,而當中有 75% 的影片在觀看次數不到 10 次之前便會遭到移除。今天,我們在報告中推出違規影片收視率 (Violative View Rate) 這項全新的數據指標,以更加透明的方式向使用者呈現系統的成效。

簡單來說,違規影片收視率協助我們判斷 YouTube 上違規內容的觀看次數所佔比例。YouTube 團隊從 2017 年便開始在公司內部追蹤這項數據,這是評估我們是否盡責處理平台內容的重要指標。我們持續投資人力與技術,並發現違規影片收視率逐漸下降。最新的違規影片收視率介於 0.16% 到 0.18%,亦即在 YouTube 上每一萬觀看次數中,有 16 到 18 次觀看了違規內容。與 2017 年同一季相比,違規影片收視率下降了超過 70%,這個成果主要歸功於我們所投資的機器學習技術。今後,我們每季都會更新社群規範違規處置報告的違規影片收視率。

在研擬各種保護 YouTube 社群成員的方法時,違規影片收視率提供重要脈絡參考。雖然其他指標 (如移除違規影片的所需時間) 也同樣重要,但這些標準無法完整反映違規內容對觀眾的實際影響。舉例來說,某部違規影片累積了 100 次觀看次數,但出現在平台上的時間超過 24 小時;另一部影片在發布後數小時就已觸及數千位觀眾,然後才遭到移除。相較之下,哪一部影片的影響範圍更廣?我們相信,違規影片收視率能讓我們精準掌握不當內容對觀眾的影響,以及找出有待改進之處。

Google會對平台上的影片進行抽樣並計算違規影片收視率,再將結果傳送給內容審查專員,他們會判斷哪些影片確實違反政策,哪些則否。藉由抽樣調查,我們可以更全面地瞭解系統無法偵測出的違規內容。不過,違規影片收視率會有上下浮動的情況。舉例來說,如果在政策更新立即檢視這項指標,可能會發現數值暫時上升,這是因為系統正在根據新版政策找出先前遺漏的違規內容。

Google一直以來的目標在於確保 YouTube 社群成長茁壯,並同時善盡我們應負的責任。社群規範違規處置報告明確反映了 YouTube 自 2017 年迄今的進展,但我們明白未來還有很長的路要走。因此,YouTube 團隊會持續檢視及更新政策、與專家攜手合作,並公開說明違規處置的工作進展。我們致力於落實前述改進措施,避免違規內容在 YouTube 上出現,如此對觀眾、對我們的業務都有幫助。我們投入大量資源移除違規影片,違規影片收視率代表Google持續負起平台責任,也讓我們更瞭解 YouTube 一路走來是如何保護使用者不受有害內容的侵擾。
本文作者:YouTube Trust & Safety 總經理 Jennifer Flannery O’Connor

史塔夫短評:不當影片真討厭!

留言