生成式模型的進步:從模仿到創造
最近,多家科技公司的研究者觀察到生成式模型已經開始向人工通用智慧(AGI)的方向進化。也就是說,生成式模型正在逐步從模仿到創造。火焰可以成為很好的比喻,人們在更好地利用火的同時也發現了與火有關的危害和風險。正確地引導人工智慧技術,掌握它的利弊,需要合理的法規和常識。
生成式模型的進步
生成式模型如今已被廣泛應用於語言生成、對話系統、機器翻譯和影象生成等領域。近期,OpenAI 推出的聊天機器人 ChatGPT 引起了許多關注。微軟最近發表的一份研究報告指出,該機器人的回答和想法顯示出了一些“人類智慧”的火花。這可能是生成式模型發展史上的重要階段,也可能預示著 AGI 的興起。不過生成式模型仍存在一些缺陷,偶爾會出現所謂的“幻像”回答,還需要進一步的發展和改進。
技術發展所帶來的風險
隨著生成式模型的日益發展,有很多人開始擔心 AI 給人類帶來的潛在危險,可能會破壞民主或人類。一些研究者認為,因為缺乏正確的法規和常識,人類可能無法掌握這種強大的技術,從而導致災難性的後果。
找尋平衡點
AI 的發展是人類應對全球複雜性的必然走向,合理的法規和常識可以最小化其存在的負面影響。因此 AI 的研究和應用必須得到適當的引導和約束。研究者應該集中精力開發出更好、更可靠的 AI 技術。同時人們也應該思考 AI 如何改變了人類的價值和意識形態。人類需要思考如何在 AI 的火花中找到一種平衡點,使其盡可能地利大於弊,從而控制和規避現有的和潛在的風險。
延伸閱讀
- 本週人工智慧大事記:OpenAI 轉向非安全應用
- AI 蓬勃發展,馬斯克對抗機械革命
- OpenAI 成立團隊控制「超智慧」AI,卻任憑其枯萎——訊息來源指出
- 開放 AI 與 Reddit 資料簽署合約,訓練人工智慧
- 智慧錢包 Kudos 獲得 1000 萬美元投資,研發 AI 功能挑選最佳信用卡
- 索尼音樂警告科技公司避免未經授權使用其內容訓練人工智慧
- Strava 啟用人工智慧防篡改排行榜,推出「家庭」計畫、深色模式等
- 參議院研究建議:每年至少撥款 320 億美元用於人工智慧計劃
- Google I/O 盛會 AI 領域的重大訊息
- Google 掃描通話的人工智慧或增加預設審查,隱私專家發出警告