INTERNATIONAL

杜絕網路霸凌 Google AI移除惡意言論
杜絕網路霸凌 Google AI移除惡意言論

匯流新聞網記者/林昀璇綜合報導

隨著網路科技的發達,許多網友都會依賴其便利性、匿名性,躲在螢幕背後,針對議題和人物進行不負責任的言論嘲諷,造成網路霸凌或其他負面影響。對此,Google宣布啟動「Perspective」計畫,透過機器學習技術找出那些散佈在網路上的惡意言論,並且移除。

日前,Google旗下關注社會議題的孵化器Jigsaw宣布一項「Perspective」計畫,透過開放API供新聞媒體與網路平台使用,協助他們找出「有毒」(Toxic)言論,進而採取相關措施,像是移除惡意言論,或是在發表前先提醒使用者該言論內容恐涉及仇恨等。

「Perspective」採人工智慧技術,自動學習分辨言論內容是否涉及仇恨或有害,可協助新聞媒體及網路平台進行篩選。Jigsaw總裁Jared Cohen曾指出,許多新聞媒體飽受不理性、惡意言論的困擾,這也導致新聞公共空間很難進行理性討論,甚至有部分媒體乾脆關閉其留言功能,Jared Cohen希望「Perspective」可以改善這些問題。

「Perspective」並未設限其適用對象,包括新聞媒體與大型網路服務平台皆可使用,目前已有紐約時報等媒體參與測試,未來也將擴大延伸該服務。

面對網路上流竄的各種假新聞以及仇恨言論,各地政府皆呼籲社群媒體、網路平台(如Facebook、Google、Twitter)等應制定更嚴格的規範。

Facebook日前發表全新的網路霸凌防制中心,當用戶看到認為不應該出現濫用或有害內容,可以向Facebook提出「檢舉」,官方將會移除相關內容,若遭遇到不友善的對待,用戶也可以「封鎖」或「移除」朋友關係。此外,Facebook也計畫強制關閉「匿名」粉絲團,粉絲團中若有指名道姓,涉嫌網路霸凌的情況,則會被優先處理。

Twitter則是推出擴大靜音功能,用戶可以將不想看見的推文和通知,以「消音」處理。Twitter表示,近年網路霸凌和騷擾的風氣漸長,影響用戶使用Twitter甚至上網的意願,因此推出「靜音」功能,未來用戶可以封鎖不想聽到的關鍵字詞,甚至整段對話,也能關閉相關通知提醒。

延伸閱讀:
【匯流新聞網】仇恨言論、假新聞流竄!德國或將對社群網站祭出重罰
【匯流新聞網】防範恐怖主義成重要課題 四大社群平台聯手合作

【匯流筆陣】
CNEWS歡迎各界投書,來稿請寄至cnewscom2016@gmail.com,並請附上真實姓名、聯絡方式與職業身份簡介。
CNEWS匯流新聞網:https://cnews.com.tw

新聞照來源:翻拍自網路