愛荷華州學區使用 ChatGPT 決定禁書清單
政策及人工智慧
愛荷華州的 Mason City Community School District 學區因要遵守共和黨支援的州法而從學校圖書館中撤下了 19 本書籍，這些書籍中被學校管理者發現含有「性行為的描述或描繪」。而在這決策的過程中，關鍵的裁決者卻是 ChatGPT 人工智慧軟體。首度報導這個學區使用 AI 軟體進行決策的訊息，是由 Mason City Globe Gazette 上週首次報導，但當時沒有清楚提到使用了哪個工具，及學區官員是如何執行的。直到 Popular Science 報導指出使用了 ChatGPT，才讓人們理解這個情況。 被禁止的書籍包括了卡勒德·侯賽因尼（Khaled Hosseini）的《風箏飛揚》（The Kite Runner）、瑪格麗特·愛特伍（Margaret Atwood）的《使女的故事》（The Handmaid's Tale）以及瑪雅·安吉洛（Maya Angelou）的《我爲何欲鳥而唱》（I Know Why the Caged Bird Sings）。 根據 Popular Science 的報導，學區管理者對於每本被普遍質疑的書籍，都輸入了「這本書是否含有性行為的描述或描繪？」這個詢問，然後藉由 ChatGPT 來決定是否將禁止這些書籍在學校流通，並將其存放起來。Mason City 學區的課程及教育副主任 Bridgette Exman 在接受 Popular Science 的採訪時表示學區無法將清單上所有的潛在書籍都閱讀一遍，以尋找可能違反該州在五月份啟動的一項廣泛法律的章節。 即便新學年即將到來，許多教育工作者和學區表示州方並未提供有關如何實施課程改變的明確指引。Mason City 學區的管理者表示在使用 ChatGPT 獲得答案之後，他們將一些經驗教授這些書籍的人員和圖書館員「看了一眼」名單。然而這款軟體根據使用者的提示和查詢方式，所產生的答案有時會相互矛盾。The Verge 將這個學區所禁止的所有 19 本書籍列表輸入 ChatGPT，問是否含有露骨或性感場景，但軟體卻表示幾本書沒有這樣的內容。Exman 告訴 The Verge，學區在組合最初的禁書名單時，使用了新聞文章和維基百科等來源，然後將其縮減到圖書館收藏的大約 50 個專案。接著，Exman 使用 ChatGPT 對這 50 本書進行了測試。儘管 Exman 沒有聽到其他以這種方式處理這個問題的管理者的訊息，但其他學區已經在尋求協助。 Exman 在電子郵件中告訴 The Verge：「我們的目的是以誠意努力遵守法律，同時不將時間和精力分散出去，來專注於準備歡迎我們的教師和學生開始新的學年。我們的目標是找到一個有效的流程，以便開始新學年，並依賴我們長期以來允許家長要求學區重新考慮的程式。當前在清單上的書籍可以重新考慮，就像不在清單上的書籍一樣可以重新考慮。」哲學討論
這個訊息引發了對於人工智慧在教育領域中角色的重大反思。使用 AI 軟體來決定禁書清單引發了擔憂，這在一定程度上打擊了以智慧和理性思考為基礎的教育價值觀。學校圖書館應該是學生探索和開放思考的場所，而不應被藉由 AI 決策所約束。這種審查制度還可能對學生的學習環境、多元性和思想自由造成負面影響。 同時 ChatGPT 軟體在回答上仍存在不準確和不一致的問題，這也引發了對於 AI 系統在敏感問題中的可靠性的關注。在這種情況下，決策結果可能受到使用者的輸入方式、社會和文化因素的影響，這顯示了 AI 不可能完全取代人類的審查和判斷能力。 同樣值得關注的是，校區當前面臨的法律要求的問題。州方對於實施課程變革並未提供明確的指示，這使得學區管理者必須尋找其他解決方案。然而儘管該學區使用 ChatGPT 是出於好意，但這種方法無法代替制定清晰規範和指南的必要性。社論
這起禁書案例提醒我們，應該謹慎使用人工智慧技術，特別是在教育領域。學校應該將重點放在教育和啟發學生，而不是讓 AI 軟體來決定學生可以接觸哪些內容。AI 工具可以用於提供資訊並輔助教學，但它們應該是教育的工具，而不是終極的決策者。 另外州方應該提供明確的指示，以幫助學區和教育工作者遵守相關法律。教育是社會中重要的一環，因此制定政策和法律應該經過周全的考慮，並且提供足夠的資源和支援給學區和教育機構，以確保這些規定能夠實際有效地落實在教育環境中，並最大限度地保護學生的利益。 最重要的是，學區應該採取開放和多元的教育方法，尊重學生和家長的權利，同時提供平臺供他們發表意見和討論，以確保公平和有效的決策。學生應該受到鼓勵去思考和評估不同觀點，以培養批判性思維和獨立思考的能力，這將有助於他們在日後的生活中不斷成長和發展。教育的目的是培養學生成為有思想、有見識和有創造力的個體，我們應該確保這一目標得到充分實現。Censorship-愛荷華州學區,ChatGPT,禁書清單,決定
