SEC 擔心聊天機器人可能引發市場恐慌
美國證券交易委員會(SEC)表示擔心生成式人工智慧(generative AI)對金融市場的影響。SEC 主席加裏·根斯勒(Gary Gensler)在週一向國家新聞俱樂部發表演講時表示最近生成式人工智慧的發展增加了機構依賴相同訊息子集來做出決策的可能性。根斯勒指出，對資料和計算能力的巨大需求可能意味著只有少數科技平臺可能主導這一領域，約束了企業使用的人工智慧模型的範圍。如果一個模型提供不準確或無關的訊息，金融機構可能會使用相同的錯誤資料做出相同的錯誤決策，從而產生類似 2008 年金融危機的風險，當時的銀行基於信用評級機構的訊息玩"仿效領導者"的遊戲，或者是由 Twitter 引發的對矽谷銀行的搶購。
根斯勒將可能引發的後果與 2008 年的危機相比，他表示這顯示了金融中管理的“中心化資料集合或模型”的風險。“人工智慧可能加劇金融的脆弱性，因為它可能促成個體行為者基於從基本模型或資料聚合器獲得的相同訊號做出相似的決策，”根斯勒表示。他還指出，生成式人工智慧和其他深度學習模型的崛起“可能加劇全球金融體系的固有網路相互聯絡性。”
金融部門長期以來一直在使用人工智慧系統
金融部門長期以來一直在使用人工智慧系統。一些保險公司和貸款機構使用算法和自然語言處理來解析金融資料，然後決定貸款金額。交易公司依靠人工智慧更快地檢查欺詐和市場訊號，比起人類只能盯著電腦螢幕。
在這裡根斯勒專注於大型語言模型(Large Language Models，LLMs)，稱生成式人工智慧和 LLMs 為“我們這個時代最具變革性的技術”。他的演講有時將之與更廣泛的人工智慧技術混淆，儘管這些系統並不都存在相同的風險和問題。根斯勒還指出，生成式人工智慧在金融領域尚未被廣泛應用。
這不是根斯勒第一次對人工智慧影響金融市場發出警報。在還在麻省理工學院工作時，根斯勒和合著者莉莉·貝利(Lily Bailey)撰寫了一篇探討現行監管結構無法解決使用人工智慧在金融領域出現的問題的論文。此外對於人工智慧監管，SEC 並不陌生。該機構在 2018 年建立了 FinHub，一個資源中心，旨在回答有關人工智慧、加密貨幣和其他金融技術相關問題。SEC 還積極對在新興技術領域違法的企業提起訴訟，特別是在加密貨幣領域。SEC 本身也使用機器學習來進行市場監控，以執行其政策。
需要關於風險管理的新指南
根斯勒表示需要更新當前的風險管理指南以跟上新的強大技術，但他指出，可能需要金融行業整體重新考慮如何使用這些技術。當然其他政府機構也已開始調查人工智慧公司。聯邦貿易委員會(FTC)上週宣布對 OpenAI 展開調查。
延伸閱讀
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- Grok 聊天機器人現已開放給高級訂閱使用者
- 羅斯頓汽車前 CEO 落馬！涉嫌誤導投資人，與 SEC 和解
- OpenAI 的聊天機器人商店充斥垃圾訊息
- 伊隆·馬斯克的 Grok 聊天機器人是什麼以及它是如何執行的？
- SEC 透過氣候披露規則，助力碳減排新創公司站穩腳跟
- 亞馬遜的新 Rufus 聊天機器人表現一般: 良莠不齊
- 善待聊天機器人：提升效能的祕密
- Google 的 Gemini 聊天機器人測試報告 - 表現如何？
- AI 驅動的 ChatGPT：一切你需要知道的事情
