這款「ChatGPT」在科學寫作中真的可靠嗎？
引言
自 2022 年 11 月 OpenAI 在美國舊金山開發的一款先進語言模型「ChatGPT」推出以來，它立即引起了科學界的關注。隨著關於 ChatGPT 對學術的影響引發了全球性的辯論，德國漢諾威獸醫學大學的團隊與多個國際合作夥伴共同領導了一項研究，探索了 ChatGPT 在科學寫作中的潛在約束和優勢。這項研究名為「ChatGPT 與獸醫神經學科學論文：魔瓶中的神靈？」發表在《Frontiers in Veterinary Science》的獸醫神經學和神經外科專欄中，評估了獸醫神經學領域中三篇不同的原始研究論文和 ChatGPT 生成的論文的摘要和引言部分，包括參考文獻。
研究結果
該研究使用了 AI 輸出檢測器和抄襲檢測器，評估了擁有 13 位認證神經學家的評審團對內容的原創性和可信性。在三項測試中，評審團在識別 ChatGPT 生成的論文方面表現出更好的表現，其中 Test 2（關於對於狗的類固醇反應性腦膜腦炎-脈絡性動脈炎的高度熟悉領域）優於 Test 1（SARS-CoV-2 檢測犬）和 Test 3（犬癲癇中的大麻素受體），而後兩者則被認為是相對較陌生和中等熟悉的主題。在最終評估中，評審團在這三個測試中展示出改善的表現，表明他們能夠透過納入特定訊息和參考文獻來改進自己的評估，並作出更準確的結論。
討論與評論
從這項研究可以看出，ChatGPT 這樣的大型語言模型（LLMs）被訓練成能夠模仿人類的寫作風格，並且能夠生成有連貫性和合理性的文字，有時可以欺騙專家。然而像 ChatGPT 這樣的模型容易出現幻覺，它們可能生成存在偏見的內容。
這引發了對利用這樣的模型進行學術寫作的可靠性的疑慮。我們必須記住，儘管近年來取得了一些進展，但至少當前來說我們應該對完全依賴 ChatGPT 或任何人工智慧工具保持懷疑。即使 ChatGPT 體現出在科學寫作中的潛力，我們也應該謹慎地使用它以確保寫作的真實性和可靠性。
專家建議
這項研究的作者們提出了一些建議，以確保 ChatGPT 和類似 AI 工具在學術領域中可靠地使用：
1. 整合教育
作者 Samira Abani 強烈建議將教育整合到學術界中，包括對 AI 工具的正確使用和潛在濫用進行教育，這是良好科學實踐的基本要素。這樣可以提升學者和研究人員對使用 AI 工具的認識，從而更好地應對科學寫作中的挑戰。
2. 學科交叉合作
透過學科交叉合作，建立明確的指導方針，以確保 AI 工具的負責任使用，確保發表的文獻的真實性和透明度。這樣的合作有助於解決 AI 工具可能帶來的問題，促進學術界對這些工具的健康使用。
3. 懷抱機遇
禁止使用 AI 工具可能並不總是防止濫用的最有效方法；相反，我們應該懷抱這個機會，充分利用人工智慧的潛力，造福社會。然而在使用 AI 工具時要謹慎選擇，並與人類專家的能力相輔相成。
結論
在科學寫作中，ChatGPT 這樣的語言模型體現出了一些潛在的優勢，但也存在一些約束和風險。我們必須謹慎使用這些工具，並繼續研究和發展更優秀的 AI 工具，以提高其準確性和可靠性。同時學術界應該以跨領域的方式合作，建立明確的指導方針，確保 AI 工具的負責任使用，維護學術寫作的真實性和透明度。
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
