美國國家標準技術研究所啟動新平臺評估生成式人工智慧
作者：
發表於紐約時報
技術評估的重要性
美國國家標準技術研究所（NIST）最近宣布啟動了一個旨在評估生成式人工智慧（AI）的新計畫 NIST GenAI。這個計畫的目標是透過發布基準測試、打擊虛假資訊以及鼓勵開發能夠辨識假資訊來源的軟體，來評估和量化生成式 AI 技術的能力和約束。
生成式 AI 技術的挑戰
這個舉措的背後是生成式 AI 技術的快速發展，尤其是在製作深偽影片方面。據 Clarity 透露，今年製作的深偽影片數量比去年同期增長了 900%，這引起了廣泛的關注。YouGov 最近的一項民意調查發現，85%的美國人對線上誤導性深偽影片的傳播感到擔憂。
NIST GenAI 的重要性
NIST GenAI 的推出是對拜登總統關於人工智慧的行政命令的回應，旨在要求 AI 公司更加透明地公開其模型執行方式，並建立一系列新的標準。NIST GenAI 還將為 NIST AI 安全研究所的工作提供重要訊息。
AI 安全研究所的爭議
然而 NIST AI 安全研究所的任命引起了爭議。前 OpenAI 研究員 Paul Christiano 被指派到該機構，而他之前對 AI 發展悲觀的看法引起了一些批評。一些批評人士擔心，NIST AI 安全研究所可能會過度關注「幻想情境」，而忽視了 AI 帶來的現實和更直接的風險。然而 NIST 表示 NIST GenAI 的結果將對 AI 安全研究所的工作產生影響。
結論
NIST GenAI 的推出標誌著一個重要的裏程碑，該機構開始關注並回應生成式 AI 技術的快速發展。這不僅僅是一個技術平臺的推出，更是對於虛假資訊和 AI 安全的關注，這對當今社會具有重要意義。
Technology-人工智慧,美國,技術研究所,平臺,評估
