我是廣告 請繼續往下閱讀
克里格表示,目前大眾仍普遍無法得知一份內容究竟是人類撰寫的,還是人工智慧生成的,對於各行各業來說,目前生成式人工智慧的產出對誠信問題造成了實際威脅,「若文字只有微小變化,原始模型就能偵測出它來自ChatGPT;但文字若經過混合調整,原始模型就會認定這些文字並不完全來自ChatGPT。」
克里格指出,那些最初由人工智慧生成、但經過人類編輯的文字,就是他附加的偵測模型能夠識別的地方。
另一名史丹福大學電腦科學博士生米契(Eric Mitchell)則表示,他認為ChatGPT在某種程度上可以改變教育領域的遊戲規則,但同時也擔心作弊問題。克里格的「CheckforAi」並非自ChatGPT出現以來第一個推出的人工智慧偵測器,包含米契在內的史丹福大學研究生今年2月也研發出了「DetectGPT」,普林斯頓大學生則在1月時也推出另一個偵測器「GPTZero」。
對於偵測工具是否能解決所謂誠信問題,米契仍採保守態度。他提到,由於人工智慧偵測器是最近才研發出來的,對這些偵測器給予如此高的信任,人們有很多顧慮,究竟偵測器需要具備多高的性能才能讓它們真正有用且利大於弊,「如果偵測模型有誤報率,學生就會無辜被指責抄襲,這將對學生造成非常嚴重的影響。」