生成式模型的進步:從模仿到創造
最近,多家科技公司的研究者觀察到生成式模型已經開始向人工通用智慧(AGI)的方向進化。也就是說,生成式模型正在逐步從模仿到創造。火焰可以成為很好的比喻,人們在更好地利用火的同時也發現了與火有關的危害和風險。正確地引導人工智慧技術,掌握它的利弊,需要合理的法規和常識。
生成式模型的進步
生成式模型如今已被廣泛應用於語言生成、對話系統、機器翻譯和影象生成等領域。近期,OpenAI 推出的聊天機器人 ChatGPT 引起了許多關注。微軟最近發表的一份研究報告指出,該機器人的回答和想法顯示出了一些“人類智慧”的火花。這可能是生成式模型發展史上的重要階段,也可能預示著 AGI 的興起。不過生成式模型仍存在一些缺陷,偶爾會出現所謂的“幻像”回答,還需要進一步的發展和改進。
技術發展所帶來的風險
隨著生成式模型的日益發展,有很多人開始擔心 AI 給人類帶來的潛在危險,可能會破壞民主或人類。一些研究者認為,因為缺乏正確的法規和常識,人類可能無法掌握這種強大的技術,從而導致災難性的後果。
找尋平衡點
AI 的發展是人類應對全球複雜性的必然走向,合理的法規和常識可以最小化其存在的負面影響。因此 AI 的研究和應用必須得到適當的引導和約束。研究者應該集中精力開發出更好、更可靠的 AI 技術。同時人們也應該思考 AI 如何改變了人類的價值和意識形態。人類需要思考如何在 AI 的火花中找到一種平衡點,使其盡可能地利大於弊,從而控制和規避現有的和潛在的風險。
延伸閱讀
- Web3 投資公司 Borderless Capital 收購 CTF Capital,引進人工智慧和量化專業技術
- 0G Labs 以驚人的 3,500 萬美元預種子輪啟動,致力於打造模組化人工智慧區塊鏈
- Cyera 將籌集最高 3 億美元,估值達到 15 億美元,AI 正是資料問題
- 人工智慧與資料基礎設施推動開源新創公司需求
- Profluent 利用人工智慧發現藥物,得到 Salesforce 研究支援,Jeff Dean 提供後盾
- 大型語言模型可幫助家庭機器人在無需人類幫助的情況下恢復錯誤
- 聽得見嗎?AI 音效技術對抗嘈雜音訊
- 為何無法評論人工智慧以及為何 TechCrunch 還是這樣做?
- 穩定 AI 執行長辭職,因為你無法用更集中的 AI 來擊敗中央集權的 AI
- 為什麼人工智慧在拼字上如此不靈光?