DIGITAL

震撼教育界!AI演算法評分藏漏洞 「關鍵字」寫滿就能作弊拿高分?
震撼教育界!AI演算法評分藏漏洞 「關鍵字」寫滿就能作弊拿高分?

匯流新聞網記者林欣穎/台北報導

AI(人工智慧)科技過去幾年來發展快速,時常被運用在協助處理人類生活中許多繁雜或是具高度重複性的工作,甚至有不少學校在考試上為減低人力負擔,都改以AI閱券評分來完成。考試中遇到申論類型的題目,有時答案也會因每個老師不同的立場與觀點被給予高低不同的分數,但AI會比人類更客觀嗎?近期就有家長發現AI閱券藏有重大漏洞,學生只要把跟題目對應的關鍵字填上就能拿高分,就算語意不同、沒有邏輯也沒關係。

近期一起事件震撼美國教育界,在美國有不少學校考試都以線上作答評分的方式為主,但替學生的考試評分的並非老師或教授,而是系統的AI演算法,或許你會認為AI演算法比人類更精細、更不受情緒左右,但近日一位家長發現孩子拿到的考試成績與平常表現差距甚大,孩子也向他反映考題作答結束後成績就立刻公布,所以並非是學校老師為自己打分的。

這位家長了解到這個評分系統可能是由AI演算法來給出成績,但他檢閱孩子的作答內容時並沒有發現任何問題,實在不太可能獲得這麼低的分數。於是他站在AI演算法的邏輯上思考後,他猜測演算法應該是透過回答中的不特定關鍵字來作為評分標準,才有辦法迅速給出成績,於是他測試在答題語句後加入數個毫無連貫的關鍵字,沒想到這次這些毫無意義且不經邏輯性排列的關鍵字,讓他在作答中拿到滿分。

這顯示這套AI成績演算系統具有非常大的漏洞,而這款線上平台Edgenuity在美國已經成立20餘年、受2萬多所學校使用,因此很有可能這個系統早已影響到非常多孩子的考試成績與升學規畫、甚至有可能改變了他們的人生,這件事情爆發後也有學生匿名表示,他就曾利用關鍵字通過代數考試,他相信師長也有發現這項漏洞,但卻未對此做出處理。

後來也有人在網路上發現,早就有非常多人發現Edgenuity存在這個「關鍵字沙拉」的漏洞,甚至還在網路上公開詢問要如何利用Edgenuity作弊,底下討論串也有不少學生分享作弊的技巧,成功率幾乎是百分之百,這起事件也讓美國教育界不得不好好重新審視AI演算評分的公正性。

新聞照來源:UNSPLASH

《更多匯流新聞網CNEWS報導》

網路道德底線在哪?退伍軍人自殺直播流傳 臉書、抖音處理龜速挨批

難擋抖音熱!公布8月收入最高App排行榜 Tik Tok仍穩坐全球冠軍

【文章轉載請註明出處】