AIGC

OpenAI 推出 ChatGPT 外掛:解鎖更多可能性和挑戰

OpenAI 在 ChatGPT 中實現了對 plugin 的支援,逐步推出 ChatGPT 中的 plugin,以便研究它們在現實世界中的使用,第一批 plugin 是由多家公司建立的,包括 Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier. .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

OpenAI 推出 ChatGPT 外掛:解鎖更多可能性和挑戰

千呼萬喚始出來的 ChatGPT plugin 

正如我前些日子的文章(PM LIFE DAY 產品經理的日常 | 你該懼怕 chatGPT 嗎? )提到 ChatGPT 只要開放控制 API 就可以解決很多問題,這兩天看到了好訊息,果然 OpenAI 在 ChatGPT 中實現了對 plugin 的支援 ( ChatGPT plugins waitlist (openai.com) )。ChatGPT plugin 是專為語言模型設計的工具,安全性是其核心原則是幫助 ChatGPT 獲取最新訊息,執行計算或使用第三方服務。他們正在逐步推出 ChatGPT 中的 plugin ,以便研究它們在現實世界中的使用、影響以及安全和對齊挑戰,我認為在不久後的將來, chatGPT 將成為 app store 。

自從 OpenAI 推出 ChatGPT 以來,使用者一直在要求 plugin (許多開發人員也在嘗試類似的想法),因為它們解鎖了大量可能的用例。 OpenAI 從一小部分使用者開始,並計劃在理解更多資訊後逐步推出更大規模的存取(對於 plugin 開發人員、 ChatGPT 使用者以及 alpha 期後希望將 plugin 整合到其產品中的 API 使用者)。 


已經從 OpenAI 的等待名單中邀請的 plugin 開發人員可以使用 OpenAI 的檔案為 ChatGPT 構建 plugin ,然後在顯示給語言模型的提示中列出已啟用的 plugin 以及檔案以指示模型如何使用每個 plugin 。第一批 plugin 是由 Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier 建立的。


ChatGPT plugin 如何執行 ?


- Expedia 讓旅行計劃成為現實,到達那裡,留在那裡,找到可以看到和做的事情。

- FiscalNote 提供並啟用存取精選的市場領先的實時資料集,用於法律、政治和監管資料和訊息。Instacart 從您喜愛的當地雜貨店訂購。

- KAYAK 搜尋航班、住宿和租車。根據您的預算獲取所有地方的推薦。

- Klarna 購物搜尋並比較成千上萬家網上商店的價格。

- Milo 家庭 AI 給父母超能力,問:嘿,Milo,今天有什麼魔法?

- OpenTable 搜尋可預訂用餐體驗的餐廳。

- Shop 搜尋來自世界上最偉大品牌的數百萬種產品。

- Speak 用 Speak 學會如何用另一種語言說任何話,Speak 是您的 AI 驅動語言導師。

- Wolfram 計算、數學、策劃知識和即時資料。

- Zapier 與超過 5,000+ 個應用程式(如 Google Sheets、Trello、Gmail、HubSpot、Salesforce 等)進行互動。



OpenAI 還託管了兩個 plugin ,一個網頁瀏覽器和一個程式碼直譯器。 OpenAI 還開源了知識庫檢索 plugin 的程式碼,供任何希望使用他們想要增強 ChatGPT 的訊息的開發人員自行託管。


同時你可以在這邊填入表單進行排隊等待 ChatGPT plugins waitlist (openai.com) 


同時也有人釋出了不只上面提到的這些 plugin  在 twitter  (Twitter 上的 𝚛𝚎𝚣𝟶:"This morning I was hacking the new ChatGPT API and found something super interesting: there are over 80 secret plugins that can be revealed by removing a specific parameter from an API call. The secret plugins include a "DAN plugin", "Crypto Prices Plugin", and many more. https://t.co/Q6JO1VLz5x" / Twitter )上公開了這張截圖


展望未來 ChatGPT plugin 帶來無限可能


今天 OpenAI 將開始向來自等待名單的使用者和開發人員擴充套件 plugin alpha 存取許可權,雖然 OpenAI 最初會優先考慮少量開發人員和 ChatGPT Plus 使用者,但 OpenAI 計劃隨著時間的推移推出更大規模的存取。雖然 plugin 提供理解決大型語言模型相關挑戰的潛力。透過整合對外部資料的顯式存取 - 如最新的線上訊息、基於程式碼的計算或自定義 plugin 檢索的訊息 - 語言模型可以透過基於證據的參考來增強其響應。

這些參考不僅增強了模型的實用性,還使使用者能夠評估模型輸出的可信度並仔細檢查其準確性,從而可能減輕與過度依賴相關的風險,如 OpenAI 最近的 GPT-4 系統卡中所述。最後 plugin 的價值可能遠遠超出解決現有約束,幫助使用者解決各種新用例,從瀏覽產品目錄到預訂航班或訂購食物。

同時 plugin 可能增加安全挑戰的風險,透過採取有害或意外行動、增加不良行為者欺騙、誤導或虐待他人能力。透過增加可能的應用範圍,plugin 可能會提高模型在新領域中採取錯誤或不一致行動所帶來的負面後果風險。從第一天開始,這些因素指導了 OpenAI plugin 平臺的發展,OpenAI 實施了幾項安全措施。

OpenAI 進行了紅隊演習,包括內部和外部合作者,揭示了許多可能令人擔憂的情景。例如 OpenAI 的紅隊人員發現了一些方法,如果沒有安全措施發布 plugin ,則可以執行精密的提示注入、傳送欺詐和垃圾郵件、繞過安全約束或濫用傳送到 plugin 的訊息。 OpenAI 正在使用這些發現來指導安全設計緩解措施,約束危險 plugin 行為並改善它們在使用者體驗中執行的方式和時間的透明度。 OpenAI 還使用這些發現來指導 OpenAI 決定逐步部署存取 plugin ,如果您是一名研究人員,並且對研究該領域的安全風險或緩解措施感興趣,OpenAI 鼓勵您利用 OpenAI 的研究人員存取計劃。 OpenAI 還邀請開發人員和研究人員提交 plugin 相關的安全和能力評估作為 OpenAI 最近開源的 Evals 框架的一部分。

plugin 可能會產生廣泛的社會影響。例如,OpenAI 最近發布了一份工作論文,其中發現具有工具存取許可權的語言模型可能比沒有工具存取許可權的語言模型具有更大的經濟影響,更普遍地說,與其他研究人員的發現一致,OpenAI 預計當前的 AI 技術浪潮將對工作轉型。

最終如我前面提到,將會有一個基於 chatGPT 的 App store 生態系出現,這將是繼 apple 發表 iphone 及 app store 以來人類又一次爆炸性的發展,然而這一次的主角是 OpenAI。

Danny H.

Danny H.

Sr. Product Manager

我是 PM LIFE DAY 產品經理的日常 的站長丹叔Danny,我是一名創業者出身,現在是軟體業跨國團隊 PM。我在職業生涯中經歷過各種挑戰,並在不斷在學習和成長過程中累積了豐富的經驗。我希望能分享我的故事和經驗,幫助其他有相同問題的人,我相信只要不斷學習及嘗試,每一個人都能在自己的領域中達到更高的成就,同時我也一直在追求工作和生活的平衡,我期待與大家一起追尋成功與平衡之路!