在翻譯、原畫師、客服、編輯等崗位後，又一個職業要或許要遭到AI的“毒手”了。日前人工智能研究公司OpenAI在官網聲稱，其開發了一種使用GPT-4進行內容審核的解決方案，將有望減輕人工審核的負擔。據悉，OpenAI此次是將GPT-4用於內容策略開發和內容審核決策，從而實現更一致的標記、更快的策略優化反饋循環，以及減少人工審核的參與。
根據OpenAI發佈的相關內容顯示，GPT-4可用於制定適當的內容政策，並可以更快的為帖子添加標籤或是作出評判。該公司一直在測試這一技術，並邀請相關客戶也進行試驗，藉助該系統，開發和制定內容策略的過程能夠從幾個月縮短到幾小時，GPT-4還能解釋長內容策略文檔中的規則和細微差別，並立即適應策略更新，從而實現更為一致的標記。
OpenAI方面認為，GPT-4的這一新功能夠為數字平臺的未來提供了更積極的應對方案，AI可以減輕大量人工審核員的精神負擔。簡單來說，OpenAI試圖來用GPT-4代替現在互聯網平臺的審核算法，諸如知乎的“瓦力保鏢”、嗶哩嗶哩的“阿瓦隆”，並進一步在目前主流的“人工+機審”內容審核模型中加重機器審核的比重，將人類從繁重的不良信息處理工作中解脫出來。
不得不說，此次OpenAI為GPT-4準備的內容審核解決方案有很強的現實意義，並且極有可能會成為OpenAI打開企業級市場的先鋒。雖然OpenAI絕對是當下最為熱門的投資標的，甚至微軟投的100億美元使得他們可以不用為錢發愁，但從盈利性質的研究實驗室轉變為營利性組織，就註定了OpenAI需要考慮盈利的問題。然而目前的現實，是OpenAI還沒有足夠的收入來實現收支平衡，這也是近日所謂“OpenAI可能到2024年破產”這一傳言的事實基礎。
ChatGPT的付費訂閱服務和付費API儘管很穩定，但相較於每月維持相關服務需要花費的2100萬美元費用，就顯得有些杯水車薪了。即便人工智能如同互聯網一般可能會改變人類社會的遠景固然美妙，可畢竟一味給投資人畫餅不能解決所有問題，因此如何賺取更多利潤也是OpenAI的近憂。
所以基於GPT-4的內容審核解決方案可能會成為OpenAI的一劑“解藥”，因為內容審核正是當下全球幾乎所有互聯網平臺普遍頭疼的問題。
在互聯網時代早期，內容審核其實根本就不在相關廠商的認知範圍裡，因為《數字千年版權法案》在客觀上使得早期的互聯網廠商規避了內容審核這一義務，從自由到無序也是彼時整個互聯網的特色。但隨著互聯網對於社會生活的影響逐漸擴大，相關監管也走上了正軌，進而使得內容審核變成了互聯網平臺的責任。畢竟除了滿足用戶獵奇的心態外，諸如血腥暴力、宣揚仇恨等內容對於平臺的發展、變現模式，乃至用戶健康是沒有任何幫助的。
不良內容不適合公開展示給大眾，彼時也成為了各大互聯網廠商的共識，但內容審核本身又是一個與互聯網可謂是格格不入的事物，也是互聯網廠商為了合規而設置的崗位。在互聯網廠商的體系中，內容審核更像是一個類似“清潔工”的職位，並且是活躍在虛擬世界裡的保潔人員。由於互聯網平臺無時無刻不在限制、構建和推動在線的言論，因此也導致“商業性內容審核”是互聯網平臺合規的重要環節之一，可它本身又極其枯燥。
在在2018年，聚焦Facebook等海外平臺的內容審核外包服務紀錄片《網絡審核員》上線。鏡頭從Facebook位於菲律賓馬尼拉的內容審核辦公室開始，向外界展示了內容審核人員鮮為人知的日常工作。他們的一天往往就是打開電腦、登陸後臺系統，對著屏幕不停判斷數以億計的圖片、文字、視頻、音頻等各種介質所承載的內容，其中合格的通過、不合格的刪除或是打回。
枯燥乏味且面對的內容可能是負面的，就導致了內容審核人員往往揹負了巨大的精神壓力，所以受到心理創傷的情況也屢見不鮮。而這一點從互聯網廠商招聘內容審核時，介紹該崗位需要具有良好的溝通能力、抗壓能力出色、能夠接受夜班安排等要求，就可見一斑。如果僅從內容審核這個工作本身出發，每天審核成百上千條各類內容的工作，其實與流水線上的計件工作幾乎沒有什麼區別。
無論是從形式上分析，還是來自內容審核從業者的吐槽，都向外界描繪了一個真正意義上的互聯網“打螺絲”工作。對於這一類機械的工作內容，互聯網廠商自然就會想到外包，但外包模式的質量卻難以控制，而且關聯著合規的審核一旦出現意外，往往就不是小問題了。因此在內容審核外包偶爾翻車的情況下，互聯網廠商一直在寄希望於用算法來代替人工。
用算法識別出的風險標籤、進而自動過濾不良信息，這其實是到目前為止全球互聯網廠商的通用策略。目前在大部分AI能力在線的平臺上，算法負責的審核內容已經達到了95%，只有5%左右靠的是人工，但考慮到大平臺的體量，即便僅僅只有5%的內容份額，絕對數量就已經十分誇張了。
此外算法加持下的機器審核最大的問題是“信任”，現階段除了少量特定關鍵詞是被完全禁止外，大量的內容是否合規其實是比較模糊的。而且網友們在經過了這些年與審核的鬥智鬥勇後，也逐漸找到了繞過審核的方式，比如在某平臺上，“秒殺”、“賺錢”、“直播間”就變成了諧音詞“秒秒”、“賺米”、“啵啵間”，這一切就導致了人工審核還肩負著校對的責任。
而OpenAI這一套基於GPT-4內容審核模式的最大優勢，就是進一步減少人工干預。以往由於機器學習相關技術還存在上下文理解能力缺乏的問題，因此也導致相當多本來正常的內容被錯誤的判斷為不良信息，而且內容政策是在不斷變化的，算法的調整跟不上現實變化也是常態。但毫無疑問的是，GPT-4更加與時俱進，也更容易結合上下文來判斷出內容的真實含義。
因此在許多業內人士看來，作為互聯網行業中的“賽博搬磚”工作，內容審核未來會被人工智能代替再正常不過了。
視頻|一加Ace2 Pro評測：突破性能上限，重新定義滿配體驗
不只有頂尖性能，更強調了一加的核心競爭力。