大公產品

首頁 > 國際 > 正文

谷歌擬用人工智能「消」惡言

時間:2017-02-26 03:15:53來源:大公網

  圖:谷歌研發Perspective人工智能工具識別網絡惡意評論 設計圖片

【大公報訊】綜合法新社、路透社報道:美國搜索引擎巨擘Google旗下子公司Jigsaw周四宣布了新研發計劃,推出一款人工智能(AI)工具,來識別網絡上的惡意言論,簡化新聞媒體與網絡平台對惡意評論的管理。該工具暫時只有英語版本,未來將推出多語言版本。Jigsaw總裁科恩表示,新聞機構其實很鼓勵跟讀者留言互動,但每天要人工篩查大量留言是否存在惡意挑釁或辱罵言論,耗費掉極大的人力物力和時間,結果很多新聞網站選擇關閉留言功能,但這並不是解決之道。

  谷歌推出的這項新的人工智能工具名為「Perspective」,是Jigsaw的最新成果。Perspective的目的在於協助編輯過濾網絡氾濫的辱罵性言論,以緩和討論。美國72%的網絡用戶曾親眼見過騷擾,而有近五成曾親身經歷過。

  Perspective是一種應用程式界面(API),利用人工智能分析人類的自然語言,機器學習分析大量留言內容後,就能分辨留言的意思是正面或負面。有毒的負面留言包括辱罵、騷擾和仇恨言論,即使只是片言隻語也能快速辨認出來,網站管理員再人手核實就能立即處理,減少文字暴力的散播。

  根據「惡意」等級處理

  Perspective的工作原理是,當網絡用戶作出評論後,系統會根據學習信息,對評論的「惡意」程度做出評級並且標註;但系統並不會對用戶評論做出其他任何修改,評論者可以根據「惡意」等級,自行選擇是否需要修改,再次評判評論是否出於自己真正想表達的內容。

  「我們都很熟悉網上評論與日俱增的毒性。」科恩表示,「人們因為這一點而離開對話,我們希望Perspective能有助於改善線上對話,賦予出版商力量,能夠重新贏回這些人。」

  Jigsaw的產品經理CJ.亞當斯表示,「從小開發商到互聯網上的最大平台,我們對與各方合作持開放的態度。我們都有共享利益,並受益於健康的網上討論。」

  多家媒體已測試

  Perspective工具起初用於鑒別評論的語言是英語,但科恩說,「不僅僅限於英語,我們的目標是為其他語言也建立同樣的工具,來識別網絡惡意評論,打擊網絡暴力。」

  Perspective軟件正得到一系列新聞機構的測試。谷歌去年9月起就和《紐約時報》測試這項人工智能工具,希望能找到一種方式,維持讀者評論欄的「禮節和深度」。Perspective系統目前在《經濟學人》、《衛報》、《紐約時報》等測試,也提供給谷歌「數字新聞行動」涵蓋的一系列出版機構使用,包括英國廣播公司(BBC)、《金融時報》和《回聲報》等。未來將會免費提供給媒體機構,也包括YouTube、Twitter和Facebook等第三方社交媒體平台。

最新要聞

最新要聞

最受歡迎