36氪 – 2017年2月25日 上午10:05
Perspective是一個應用程式介面，通過使用機器學習技術來識別網上涉及暴力和性騷擾的資訊。
很多網路紅人都喜歡經營自己的社交媒體，但在很多人發佈的內容下，總會有很多“不堪入目”的評論，嚴重的甚至會引起網路暴力事件。不得已之下，很多人關閉了評論功能，或者直接刪除了所發佈的內容。如果有一種技術可以“清除”這些惱人的評論，是不是就不會再出現這樣的情況？
為了解決這一問題，日前Google旗下的網路安全孵化器Jigsaw 推出了一個新項目Perspective，它可以幫助“清除”那些評論。
Perspective是一個應用程式介面，通過使用機器學習技術來識別網上涉及暴力和性騷擾的資訊。
在今年稍晚的時候，公司將會發佈更多的機器學習模型。但第一次發佈的模型，是通過討論來識別評論是否存在問題。
據介紹，通過識別評論對對話產生的影響，Perspective 來獲得是否“清除”相關言論的回饋。
內容提供者使用這一技術後，可以在第一時間給評論者以回饋，幫助調節不當評論引發的問題，或者也可以幫助讀者識別那些不當的資訊。
Jigsaw的目標是可以讓網友們輕鬆快樂的聊天，但很顯然那些惱人的蘋果會讓很多人敬而遠之。
對此，Jigsaw的總裁Jared Cohen表示，“想像一下，正當你和朋友討論今天早上發生的新聞時。偏偏有人在你說話的時候，屢屢給你潑冷水，或者叫你很難聽的外號，又或指控你莫須有的罪名。這種情況下，你可能想立刻結束這樣的對話。”
他還補充說，不幸的是，當你在經常使用的網站上討論看到的見聞時，這些不合時宜的評論卻經常發生。
應該如何處理這些惱人的言論，其實主要取決於內容提供者以及那些社交媒體。Jigsaw的技術會給這些言論進行評分，然後這些言論會被標記出來或被貼一個警示的標籤，這樣用戶在流覽的時候就會看到。
與此同時，發佈評論的人也會看到這樣的處理結果，以便他們思考這些話是不是他們想說，以及是不是恰當。
除了網路安全平臺，內容提供者也在想各種辦法來解決自己平臺上的評論問題。如全球知名的通訊社——路透社，徹底刪除了他們的評論區；BuzzFeed則正在試驗提供不同管道的聲音和評論。
目前，Jigsaw已經與《紐約時報》建立了合作，通過使用機器學習模型來識別報紙每天產生的11000多條評論。
在識別的過程中，Perspective會標出像性別歧視這樣的關鍵字。同時，該技術也會考慮內容本身或者文章闡釋的主題，是不是也是產生攻擊性言論的原因所在。
像人臉識別一樣，Jigsaw也是通過學習了大量的歧視、騷擾等內容來進行精准的判斷。據報導，Jigsaw在維琪百科上學習了大量關於性騷擾的內容來直到工作。在這之前，公司在維琪百科上抓取了多達幾百萬個語義解釋，並做了深入的分析。
然後，機器根據已經建立的學習模型，來識別評論中帶有個人攻擊的內容，以及這些攻擊的內容是針對那些人的。
經過不斷的測試，已經習得的模型會被用到Perspective中。因為Jigsaw只做了英文狀態下的學習模式，所以目前Perspective也只能識別英文言論。
Jigsaw針對維琪百科評論所做的研究顯示，只有18%的攻擊者收到了警告或者來自調解人的調解。這也意味著，平臺上大部分的騷擾內容並並沒有被識別到。
最早，Jigsaw是與雅虎進行了相關的合作。通過一種評論分析演算法，雅虎的評論調解者會標識不合格的評論。這次合作中，對不合格內容的識別率達到了90%。
除了Perspective工具外，Google旗下的Jigsaw還推出了反駭客攻擊及檢測假新聞的工具。
這樣看來，在媒介形態的發展速度超過媒介素養養成的當下，適當的技術介入和監測尤為必要。
此前，有人稱特朗普競選成功是因為社交媒體裡充斥的假新聞。另外，特朗普發表的涉嫌歧視女性的內容也不在少數。
近來，Facebook等社交網站也曾表示要積極治理假新聞等問題。但對於性騷擾、網路暴力等內容還沒有相應的規定。很顯然，Perspective工具是一次很大的嘗試。
在中國，微博、微信、豆瓣、知乎等熱門應用上的假新聞、性騷擾、網路暴力類留言也不在少數。
Google推出的這項新項目Perspective，也許對上述中國公司同樣有著不低的應用價值。
本文參考了多個資訊來源：techcrunch.com，如若轉載，請注明出處：
http://36kr.com/p/5064931.html
沒有留言:
張貼留言