OpenAI 計畫推出 GPT-5 仍未啟動,Sam Altman 表示
OpenAI 是由一群科技巨頭創立的人工智慧公司,旨在研發出對話式人工智慧以及其他相關領域的技術,而其中最為著名的技術之一,就是 GPT-4。不過根據印度報導,該公司計畫推出 GPT-5 的計畫,仍未正式啟動。公眾對於 OpenAI 發展的擔憂仍未消散,公司 CEO Sam Altman 表示他們必須先有新的想法,才能開始訓練該模型。
擔憂
如同許多 AI 領域的科學家所說,大型語言模型的發展速度令人印象深刻。然而這引起了許多人的擔憂。像是 AI 系統會不會帶來自我進化的問題?它會不會變得強大到我們無法控制?如果我們不能控制人工智慧,它又會對人類產生怎樣的影響?這些問題都需要得到嚴肅的思考。
安全問題
對於 OpenAI 所面臨的安全問題,Altman 表示外部審計和紅隊測試是評估潛在危險的更有意義的方式,而非快速發展技術本身。他指出,當 GPT-4 完成時,他們花了六個月的時間才準備好發布。
建立信任
Altman 想藉由前往印度會議,與全球政策制定者和產業參與者會面,並建立對 OpenAI 意願與政策的信任。他經常提到,OpenAI 欲與監管機構合作,並主動督促其開始思考 AI 擴散的潛在濫用和其他負面方面。
結論
我們必須認真面對 AI 的發展和進步,並透過多方面進行審核和監管,嚴格控制 AI 技術的實際應用,以確保其良性發展,避免對社會造成負面和危險的影響。
延伸閱讀
- OpenAI 計劃在東京設立新辦事處、特斯拉裁員數千人
- OpenAI 宣布東京辦公室成立,並推出日文最佳化的 GPT-4 模型
- 瓦納計劃讓使用者出租 Reddit 資料以訓練人工智慧【AI】
- OpenAI 擴大自定義模型訓練計劃
- 前 Snap AI 主席推出 Higgsfield,挑戰 OpenAI 的 Sora 影片生成器
- Modal 籌集 2500 萬美元,為企業員工提供資料與人工智慧訓練
- OpenAI 的創辦人 Sam Altman 放棄對於 Startup Fund 的控制權,解決不尋常的企業投資結構
- OpenAI 的聊天機器人商店充斥垃圾訊息
- OpenAI 的與出版商的交易可能對競爭對手構成麻煩
- OpenAI 副總裁拒絕透露藝術家是否該拿到訓練資料費用