來源:華爾街見聞
GPT-4可以用于制定內容的政策,也可以執行政策,為帖子添加標簽、或者做評判。OpenAI人士稱,不需要雇幾萬審核員,人類可以做顧問,確保AI系統正常運行,判斷不能清晰界定的案例。
OpenAI正在試圖讓先進的人工智能(AI)工具幫忙做內容審核。評論稱,它可能幫助企業提高效率,讓至今尚未給眾多企業創造大量收入的AI工具增添一個有用的功能。
OpenAI稱,一直在基于其最新AI模型GPT-4開發自己的內容審核系統。GPT-4能協助企業進行內容審核,可以用于制定有關何種內容適合的政策,也可以執行相關政策,為帖子添加標簽、或者做出評判。
OpenAI之前就在測試這種技術,也已邀請一些客戶做這種技術的試驗。OpenAI發現,其自有內容審核系統比經過適度培訓的人類審核員表現得更好,但效率沒有最熟練的審核員高。
OpenAI稱,其工具有望幫助企業,在一天左右就完成原本需要六個月才能做完的工作。
OpenAI的安全系統負責人Lilian Weng稱,不需要雇用幾萬名審核員,人類可以充當顧問,確保AI系統正常運行,并且對不能清晰界定的案例做出判斷。
OpenAI的產品政策經理Andrea Vallone稱,OpenAI發現,GPT-4能高效地做審核內容的工作。起草內容審核政策和標記內容通常耗時很久,而OpenAI的工具將幫助縮小需求和解決方案之間的差距。
目前Meta等大公司已經在用AI幫助員工做審核。但OpenAI同時強調,審核的過程不應該完全自動化。
Vallone表示,理想的情況下,員工可以運用AI將他們解放出來,更側重在對可能有內容違規的極端案例如何做評判,以及怎樣完善內容的政策。OpenAI將繼續進行人工審核,驗證一些AI模型的判斷。Vallone 說:“我認為,人類始終參與其中是很重要的。”
有評論認為,在生成式AI問世以前,內容審核就已經是一大挑戰。這種新技術的面世又帶來了虛假信息等問題內容更容易出現的威脅,加劇了內容審核面臨的挑戰。然而,由于AI的擴展能力,一些技術專家認為,AI是唯一可能解決虛假信息料將增多的手段。
責任編輯:周唯
VIP課程推薦
APP專享直播
熱門推薦
收起24小時滾動播報最新的財經資訊和視頻,更多粉絲福利掃描二維碼關注(sinafinance)