美國國家標準技術研究所推出新平臺評估生成式人工智慧

美國國家標準技術研究所啟動新平臺評估生成式人工智慧

作者：

發表於紐約時報

技術評估的重要性

美國國家標準技術研究所（NIST）最近宣布啟動了一個旨在評估生成式人工智慧（AI）的新計畫 NIST GenAI。這個計畫的目標是透過發布基準測試、打擊虛假資訊以及鼓勵開發能夠辨識假資訊來源的軟體，來評估和量化生成式 AI 技術的能力和約束。

生成式 AI 技術的挑戰

這個舉措的背後是生成式 AI 技術的快速發展，尤其是在製作深偽影片方面。據 Clarity 透露，今年製作的深偽影片數量比去年同期增長了 900%，這引起了廣泛的關注。YouGov 最近的一項民意調查發現，85%的美國人對線上誤導性深偽影片的傳播感到擔憂。

NIST GenAI 的重要性

NIST GenAI 的推出是對拜登總統關於人工智慧的行政命令的回應，旨在要求 AI 公司更加透明地公開其模型執行方式，並建立一系列新的標準。NIST GenAI 還將為 NIST AI 安全研究所的工作提供重要訊息。

AI 安全研究所的爭議

然而 NIST AI 安全研究所的任命引起了爭議。前 OpenAI 研究員 Paul Christiano 被指派到該機構，而他之前對 AI 發展悲觀的看法引起了一些批評。一些批評人士擔心，NIST AI 安全研究所可能會過度關注「幻想情境」，而忽視了 AI 帶來的現實和更直接的風險。然而 NIST 表示 NIST GenAI 的結果將對 AI 安全研究所的工作產生影響。

結論

NIST GenAI 的推出標誌著一個重要的裏程碑，該機構開始關注並回應生成式 AI 技術的快速發展。這不僅僅是一個技術平臺的推出，更是對於虛假資訊和 AI 安全的關注，這對當今社會具有重要意義。

延伸閱讀

• 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
• 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
• 臺積電豪擲千億美金布局美國晶片產業！
• Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
• 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
• 美國停止對俄羅斯的進攻性網路行動，背後原因是什麼？
• OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
• 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
• OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
• 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！