【大公報訊】據《華盛頓郵報》報道：不少科技公司推出聲稱可以檢測AI文本的軟件，但是教育專家稱，準確檢測其實非常困難，很容易錯誤指控學生「作弊」。
就檢測原理而言，由於聊天機器人通常經過大量文本訓練，通過分析來預測句子中的下一個單詞，從而組成句子和段落以及文章，而這種做法通常會導致寫作風格出奇地一致平均。因此AI生成文本檢測工具主要用於尋找這種「過度」一致性。
聊天機器人ChatGPT母公司OpenAI於2月1日宣布推出AI生成內容識別器「AI Text Classifier」，用於區分人工編寫的文本和AI生成的文本，然而似乎準確度堪憂。OpenAI在博客中指出，該檢測工具分辨AI生成文本的成功率僅為26%。
眾多高校使用的抄襲檢測服務商Turnitin，4月推出了自家的AI檢測工具，通過搜索文本並尋找「（風格）太過平均」的句子，來判定文本內容是否由AI生成。不過，《華盛頓郵報》做的一項測試顯示，該軟件可錯誤地將人類生成的文本標記為AI所寫。
教育專家也表示，使用該檢測工具可能會對那些非英語為母語的學生不公平，因為他們的寫作風格，可能更接近AI生成工具所使用的風格。
有專家表示，AI檢測將很難跟上大型語言模型（LLM）的發展步伐。例如，Turnitin的檢測工具可以標記由ChatGPT前身GPT-3.5所撰寫的AI文本，但不能標記其升級版模型GPT-4，檢測面臨的困難將越來越大。
