OpenAI 無法判斷內容是否由人工智慧生成
OpenAI 因辨識準確度低關閉 AI 生成文字工具
根據《The Verge》的 AI 記者 Emilia David 報導，OpenAI 因辨識 AI 生成文字的準確度低而關閉了相應的工具。OpenAI 在部落格中表示他們決定於 7 月 20 日結束 AI 分類器的使用，並稱當前正在研究更有效的文字來源追溯技術。OpenAI 表示雖然他們關閉了該工具以擒捕 AI 生成文字，但他們計劃“開發和部署機制，讓使用者能夠判斷音訊或視覺內容是否由人工智慧生成”。至於這些機制會是什麼，當前尚不清楚。
OpenAI 承認該分類器在擒捕 AI 生成文字方面從來都不太夠好，並提醒可能會出現誤判的情況，即將人工書寫的文字標記為 AI 生成。此外 OpenAI 在關閉該工具之前表示該分類器在擁有更多資料的情況下可能會變得更好。
AI 生成文字帶來的擔憂
在 OpenAI 的 ChatGPT 機器人機器人快速崛起並成為有史以來增長最快應用程式之一之後，人們紛紛試圖理解這項技術。特別是教育界，他們擔心學生將不再學習，只會讓 ChatGPT 為他們寫作業。紐約的學校甚至在擔心準確性、安全性和作弊問題的情況下，禁止在學校內使用 ChatGPT。此外有關 AI 生成文字的錯誤訊息也是一個問題，研究顯示 AI 生成的文字（例如推文）可能比人類寫的更具說服力。
迄今為止，政府尚未找到如何遏制 AI 的方法，他們將這個問題交給個別團體和組織，讓他們制定自己的規則並發展自己的保護措施來應對這些由電腦生成的文字。
AI 和人類作品區分的難度增加
儘管有些人被識破，但要在 AI 和人類的作品之間進行區分將變得更加困難。最近，OpenAI 的信任和安全領導者離職，正值聯邦貿易委員會正在調查 OpenAI 的情況，以理解他們如何審查訊息和資料。
至於 OpenAI 對於此事的評論，他們沒有在部落格文章之外作出任何評論。
ArtificialIntelligence-開放原始碼模型、人工智慧、識別內容
延伸閱讀
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 未來科技：研究人員揭示如何打造變形機器人，猶如 T-1000 般神奇！
- ElevenLabs 推出全新語音轉文字模型，引領 AI 語音技術的新潮流！
