| |
| |
| 超89%的學生使用ChatGPT作弊！斯坦福率先打響反擊戰(zhàn) |
| |
編譯 | 卜金婷
在去年的一篇雷帕霉素抗老應用的論文中，ChatGPT被列為改論文的一作，引發(fā)了業(yè)內(nèi)的爭議。
人工智能實驗室OpenAI于去年11月發(fā)布ChatGPT，這種聊天機器人能根據(jù)簡短的提示生成文采斐然的文字。
現(xiàn)在，人們用它來寫情書、詩歌、小說，甚至還有他們的課程作業(yè)。ChatGPT的爆火，顯然已經(jīng)對高校教育工作者帶來了挑戰(zhàn)。
這不，北美密歇根大學哲學系教授Antony Aumann就遇到了這樣的教學問題。
上個月，Aumann在為他的世界宗教課程批改論文時，驚喜地讀到了一篇他所謂的 “全班最好的論文”。
這篇論文以簡潔的段落、恰當?shù)睦雍蛧乐數(shù)恼撟C，探討了罩袍禁令的道德問題。但，Aumann對這篇文章存在質(zhì)疑。隨后，Aumann質(zhì)問學生這篇論文是否他本人所寫。最終，這名學生承認使用了ChatGPT。這令Aumann大為震驚。最終他決定改變他的課程論文寫作方式，他要求學生們使用受訪問限制的瀏覽器，并且在教室里完成初稿。在隨后的草稿中，學生們必須解釋每一次修改的理由。Aumann表示，他可能會在以后的學期中放棄論文的考核方式，他還計劃將ChatGPT納入課程，比如要求學生評估ChatGPT的回答。在全美范圍內(nèi)，很多大學教授、系主任和行政人員正在開始全面改革教案，以應對ChatGPT對教學活動的影響。一些教授正在重新設計他們的課程，更多地采用口試、小組合作和手寫文章作為考核方式，而不是在電腦上撰寫文章。隨著ChatGPT的發(fā)展，學生和教師都開始意識到它在學術界的用途。目前，TikToks推廣其在論文寫作和其他學校作業(yè)中的應用，話題已經(jīng)轉向這種開創(chuàng)性的AI對高等教育造成的影響，導致許多人考慮禁止其使用。近日，Study.com調(diào)查了100多名教育工作者和1000多名學生對使用ChatGPT的看法。調(diào)查顯示，其中超過89%的學生曾使用ChatGPT幫助他們完成家庭作業(yè)。除此之外，48%的學生承認使用ChatGPT來完成家庭測試，53%的學生使用它寫論文，22%的學生使用它寫論文提綱。令人驚訝的是，72%的大學生認為ChatGPT應該在學校中被禁止，表明學生同樣擔心作弊成為常態(tài)。此外，超過三分之一（34%）的教育工作者認為ChatGPT應該在學校中被禁止。教育工作者擔心AI對學生的教育產(chǎn)生重大影響是可以理解的，他們正在求助于AI檢測應用程序，試圖檢測出學生是否使用ChatGPT作弊。為應對大型語言模型（LLMs）生成文本工具的“入侵”，斯坦福大學的一個研究團隊提出了名為DetectGPT的新方法，旨在成為首批打擊高等教育中LLMs生成文本工具之一。
?
研究團隊基于“LLM 生成的文本通常徘徊（hover around）在模型的對數(shù)概率函數(shù)的負曲率區(qū)域的特定區(qū)域周圍”這一發(fā)現(xiàn)，提出了一種用于判別 LLM 生成文本的新指標，這一方法既不需要訓練單獨的分類器，也不需要收集真實或生成的段落的數(shù)據(jù)集。該團隊在假新聞文章的數(shù)據(jù)集上測試了DetectGPT，它在檢測機器生成的文本方面的表現(xiàn)優(yōu)于其他方法。他們發(fā)現(xiàn)DetectGPT 可以將20B參數(shù)GPT-NeoX生成的假新聞文章的檢測從0.81 AUROC提高到0.95 AUROC。研究團隊表示，這一方法在檢測機器生成的文本方面優(yōu)于其他零樣本方法，或在未來的機器生成文本檢查方面非常有前途。另外，他們也將嘗試將這一方法用于 LLM 生成的音頻、視頻和圖像的檢測工作中。隨著LLMs的不斷使用，檢測機器生成文本的相應系統(tǒng)的重要性將變得越來越關鍵。總之，DetectGPT是一種不需要任何額外數(shù)據(jù)或訓練的零散方法，是識別機器生成文本的有效工具。https://www.nytimes.com/2023/01/16/technology/chatgpt-artificial-intelligence-universities.htmlhttps://www.neowin.net/news/stanford-introduces-detectgpt-to-help-educators-fight-back-against-chatgpt-generated-papers/https://arxiv.org/abs/2301.11305
<script src="/html/js/share.js" type="text/javascript"></script>
(資料圖片)
