匯流新聞網記者王佐銘/綜合報導
近來隨著ChatGPT大爆紅，生成式AI受到各界熱烈關注。不過ChatGPT的推出有利就有弊，近日國外媒體就發現，因為ChatGPT可以生成文字內容，且幾乎沒有任何人檢查和監督，目前已經出現許多內容農場，恐怕訊息真偽需要閱聽人明智地判斷。
根據外媒報導，近日有網站信任評比公司發現，自ChatGPT推出後，已經發現49 個冒充新聞網站的內容農場，當中所有的內容都是由 AI 捏造。據了解，這些網站包括中文、英文、法文、泰文等多種語言，且因為該網站都是以新聞網站形式出現，且藉由AI 語言模型進行編寫文章，因此讓他們相當難以分辨。
不過經過人員們大量檢視AI生成文件發現， ChatGPT在部分文稿會出現，「我的訓練日期到 2021 年 9 月為止……」、「但是我可以為你提供文章摘要」、「我無法完成此提示」等字句，甚至直白地回應出AI模型建構內容，包括倫理道德、沒有科學證據等字眼。
對此，有專家表示，GPT-4在生成文字時可能會編造非事實性的回答，這可能會對使用者造成誤導和負面影響。可以考慮引入更多的事實驗證機制和檢查機制，同時需要給予模型更加高品質的訓練資料。另外，語言模型的訓練資料可能存在一定的模型偏見，例如性別、種族、文化背景等方面的偏見。為了解決這個問題，需要更加細緻的調整和訓練模型，同時更加嚴格的審查和檢查模型的輸出結果。
另外也有專家示警，果我們看到一篇文章，已經註明利用ChatGPT 或人工智慧工具完成或協作，我們就要假設裡面的事實可能有錯、會腦補。但假如沒有註明，那就跟平常看到任何文章一樣，隨時保持注意，保持懷疑，如果對於內容有任何疑慮，就進行事實查證。
《更多CNEWS匯流新聞網報導》
郭台銘提1縣市1核電廠 柯文哲：不是他講錯 太前衛大家追不上
「低薪一原因是教育出問題！」 柯文哲：有些科系教出來學生沒那個價值
【文章轉載請註明出處】
