奧推網

選單
科技

UGC資訊稽核——如何降低稽核延時

對於一個成熟產品,我們在網上建立的任何UGC資訊都會被稽核,只是稽核的方式各不相同,對稽核速度的感知也不一樣。本文對“降低稽核延時”方面的內容進行了分析,一起來看一下吧。

18 年畢業,從畢業至今一直從事產品工作,工作的一部分一直和風控相關,只是不全是風控,以及不同時間段工作重點不同,做過包括直播風控、登入註冊風控、稽核體系搭建、生態治理、內容治理、內容安全、反作弊、風控中臺等工作。

想結合著自己做過的、用過的、見過的、蒐集資料研究過的總結成經驗,

在不洩露公司機密的前提下

,儘量詳細的寫成系列文章。不只是覆盤概念和框架,可能會是些具體的策略和直接可用的經驗。

一方面作為自己總結經驗,以後更熟悉的運用。另一方面可以為行業做一些貢獻,畢竟,風控行業容易涉及公司機密、邏輯太隱藏,比較難能從公開資料學習到直接可用的經驗。

打算先圍繞曾經的 OKR 展開,即我做過的事項展開來寫,先以各個小點切入,然後再放入整個風控框架中去,最終會形成下圖的框架(未完全按風控架構的邏輯梳理)。

今天先聊一個問題,降低稽核延時。

一、稽核

非相關專業的人不一定很清楚,對於一個成熟產品,我們在網上建立的任何 UGC 資訊都會被稽核,包括頭像暱稱、簽名,微信釋出音訊/影片/檔案/圖片/文字,微博、小紅書釋出動態,B 站釋出影片等都無一例外。

只是由於機審/人審、先發後審/先審後發、隱性處罰/降低分發等導致我們不知道自己被稽核了。

二、目標:稽核速度滿意度

我們團隊有一個體驗型的指標,稽核速度滿意度,即使用者對所釋出內容被稽核時間長短的滿意度,這個指標會影響生產者生產體驗,進而影響他們留存。

一些人拿到這個指標可能就開始著手思考怎麼降低稽核延時了,但這是一個主觀性的指標,最主要的是讓使用者感覺很快,而不只是在絕對值上做到真的很快。

三、使用者不感覺到慢(感官)

我們產品原來在使用者釋出的內容上有一個狀態,使用者能看到自己的內容處於「稽核中」,所以會覺得慢。權衡利弊後,將稽核狀態去掉,讓使用者對稽核無感知。

注:不一定所有都適合去掉,得根據自己業務決定,例如我前司,是設計師上傳自己的作品,然後被稽核,這個就不適合去掉稽核狀態。

四、縮短稽核延時(絕對值)

在去掉稽核狀態後,開始縮短稽核延時絕對值,但也並不一定是需要針對所有使用者統一縮短。

1. 降低部分使用者延時

可以優先降低有被快速被稽核需求的人的延時。

我們產品雖然不直接展示稽核狀態,但未經稽核的內容依然不支援分享,使用者在分享時依然會提示,當前作品正在稽核中。所以可知,無分享需求的人對稽核是無感知的,需要分享的人才知道稽核的存在。

注:

此為考慮安全原因,若未經稽核的內容被分享出去,依然可能出現安全問題。

例如某紅書就存在這個風險點,不管釋出的任何東西,釋出成功即可立即分享(未過機審,且和賬號無關,我用新註冊的賬號釋出確定違規的文字+違規圖片測試過),可檢視小圖、部分文字,此時存在風險的內容已經被傳播出去(讀者朋友可以自行測試,但溫馨提示,紅線類內容不可隨意亂試)。

但不知道他們是否是為了便於使用者分享,是在考慮了風險和收益後,接受這種低機率風險存在的。下圖內容還處於稽核中,但可分享至微信,依然可看到部分文字和圖片。

所以,我們可以針對不同渠道來源、不同等級、不同信用分、不同標籤等調整稽核優先順序。

例如,有分享需求的使用者,高優先順序稽核(具體判斷有分享需求的使用者,可根據自己產品來判斷,這涉及具體邏輯,不適合展開寫了)。

例如,無延時需求的內容,低優先順序稽核,如運營賬號釋出的內容(即使是公司內部員工,不同人對風險的把控、專業度也是不一樣的,即使是運營人員釋出,也有可能會觸及風險點,也需要被稽核)。

2. 降低全體使用者延時

對於我們,延時長和短,只是相差了大約 10min。對平臺分發幾乎無影響,對使用者消費幾乎無影響,對稽核無感知的使用者也無影響。所以解決其他全體使用者的延時已經相對沒那麼重要了,這裡可簡單提下我們用過的一些策略,對於其他產品可能有幫助。

1)基於資料分析發現當前延時的主要原因

——例如出現生產波峰,導致稽核出現積壓,則可調整人力安排。

——例如稽核人員在稽核列表上看了上百條後,才操作一次透過,導致大量內容已經被稽核人員判斷為透過,只是還未在介面上操作,導致內容一直處於稽核中,則結合稽核效率和稽核延時綜合考慮,將頁面展示內容縮小到一定值。

——例如細化機審策略、最佳化機審的演算法模型,提升召回率、準確率,進而提升機審直接處理率,減少推到人審量級。

——例如待審列表中還包含使用者已刪除內容,則將已刪除內容從待審列表中踢出(使用者釋出成功立馬刪除,所以也不必要再稽核)。

2)設定兜底策略

當延時≥一定值之後,則由先審後發流程,變為機審風險較小但又推到人審的改為先發後審流程。避免一些系統或人為原因,影響線上使用者。

注:這需先評估對於你們平臺先發後審的風險是否可接受。

3)設定對相關指標的監控

當延時≥一定值的待審量也≥一定值之後,可預警,郵件/簡訊或其他方式通知到稽核管理,排查是否哪裡出了問題。

五、對滿意度提升效果

上面的這些策略大致從前到後,帶來的滿意度提升效果也是從強到弱。

還有很多細節、策略,以及如何思考的想詳細寫,但容易違反公司機密,還是不展開寫了。

最後,大家有啥關心的話題可在評論中提出,對於我知道的,且不洩露公司機密的前提下,儘量托盤而出。

本文由 @Aaron 原創釋出於人人都是產品經理。未經許可,禁止轉載

題圖來自Unsplash,基於CC0協議

該文觀點僅代表作者本人,人人都是產品經理平臺僅提供資訊儲存空間服務。