為何元正讓使用者理解其新 AI 聊天機器人的內部執行方式

為何 Meta 允許使用者瞭解其新 AI 聊天機器人的內部執行方式

引言

Mark Zuckerberg 的 Meta 公司的 AI 部門最近推出了 Llama 2 聊天機器人。微軟被任命為 Meta 在 Llama 2 上的首選合作夥伴，而 Llama 2 將透過 Windows 作業系統提供。Meta 針對 Llama 2 的方法與 OpenAI 公司的 AI 聊天機器人 ChatGPT 截然不同，因為 Meta 將其產品開放源程式碼，意味著原始程式碼是免費提供的，允許進行研究和修改。這一策略引發了廣泛的討論。它是否會促使大型語言模型（LLM）的更加公開的審查和監管？它是否會無意中使罪犯利用這項技術，從事釣魚攻擊或開發惡意軟體？這一舉措是否能幫助 Meta 在這個快速發展的領域中取得優勢？無論發生什麼事情，這一戰略舉措似乎都將重塑生成性人工智慧的現有格局。

Meta 的開放源程式碼策略

2023 年 2 月，Meta 發布了其第一版生成性語言模型（LLM）Llama，但僅限於學術用途。其更新版本 Llama 2 在效能上有所改進，更適合商業用途。與其他 AI 聊天機器人一樣，Llama 2 必須使用線上資料進行訓練。接觸這一豐富的訊息資源有助於它提高效能，為使用者提供有用的回答。最初的 Llama 2 版本是透過“監督微調”建立的一種技術，該技術使用高質量的問答資料對其進行校準，以供公眾使用。然後，它透過人類反饋增強學習進行了進一步的改進，這意味著將人們對 AI 效能的評估納入其中以使其與人類的偏好保持一致。

Meta 採納開源原則的方法使其能夠充分利用過去已經為該公司帶來成功的方法。Meta 的工程師以發展幫助開發者的產品而聞名，例如 React 和 PyTorch。這兩款產品都是開放源程式碼，已成為該行業的標準。透過這兩款產品，Meta 建立了透過協作創新的先例。Llama 2 的推出有望實現更安全的生成性人工智慧。透過共享智慧和集體探索，使用者可以發現生成性語言模型中的錯誤訊息以及犯罪分子可能利用的潛在漏洞。已經出現了一些意想不到的應用，例如使用者建立的可在 iPhone 上安裝的 Llama 2 版本，凸顯了這個社區中創意的潛力。但 Meta 對於 Llama 2 使用者商業化的約束是存在的。如果有任何一方的基於 Llama 2 的產品在前一個月內擁有超過 7 億活躍使用者，則該方必須向 Meta 申請許可證。對 Meta 而言，這為基於 Llama 2 的成功產品開啟了盈利共享的潛力。Meta 的策略與其主要競爭對手 OpenAI 公司的謹慎方法截然不同。雖然一些人對 Meta 在這一領域的競爭能力和像 OpenAI 對 ChatGPT 那樣將產品商業化的能力表示懷疑，Meta 邀請全球開發者參與其中的決定顯示了更廣泛的視野。這一舉措將使 Zuckerberg 的公司不僅僅成為一個參與者，而更是一個促成者，利用全球人才來為 Llama 2 的不斷發展的生態系統做出貢獻。這一策略也可以作為對類似 Google 等科技巨頭可能構成競爭的聰明對策。隨著大量使用者探索 Llama 2 的潛力，任何成功的進展都可以迅速融入 Meta 的其他產品。只有時間才能揭示這一決策的全部影響，但對整個行業的立即影響已經廣為傳播。

使用者的優勢和陷阱

開源技術的公開實驗方面為更深入的審查提供了機會，使社區使用者能夠評估 Llama 2 的優點和缺點，包括其易受攻擊性。公眾的警覺可能揭示出 LLM 的缺陷，從而促進對其的防禦開發。然而也出現了一些擔憂，認為這類似於“將刀子交給罪犯”，因為它也可能使惡意使用者利用這項技術。例如，其強大的功能可以幫助欺詐者建立一個能生成可信自動對話的對話系統，用於電話詐騙。這種潛在的濫用可能引發對這項技術的監管呼聲。但是就究竟制定了什麼規則，誰擁有監管這個過程的權力以及什麼需要更多或更少的審查，所有這些都需要仔細計劃，以確保監管不僅僅支援大型科技公司的壟斷地位。

結論

在 AI 發展的不斷演進中，關於開源的辯論提醒我們，技術進步很少是簡單或單一維度的。Meta 的這一決策的影響可能會在科技領域中持續影響多年。儘管 Llama 2 可能還不足以與 ChatGPT 的能力媲美，但它為開發一系列創新產品開闢了大門。同時 Google 也將面臨審查，人們對其如何回應產生越來越多的猜測。在開源文化蓬勃發展的時代，如果看到 Google 也效仿，推出自己的產品，那將不足為奇。"利用科技造福"這個詞語已經成為一種常見的口號，用於描述科技公司利用部分資源對我們所有人的生活產生積極影響的做法。然而這一目標始終是一種共同的責任，不僅僅是少數幾家公司應該參與的事情。這也是一個需要在學術界、行業和其他領域進行合作和共同努力的目標。隨著生成性語言模型的不斷發展，利害關係重大，前方的道路充滿了機遇和挑戰。

Transparency-元正,AI 聊天機器人,內部執行方式,使用者理解

延伸閱讀

• Snapchat 的新功能：AI 聊天機器人能幫你設定應用內提醒和倒數計時
• 蘋果 App Store 現允許串流遊戲商店，新增迷你應用程式、遊戲和 AI 聊天機器人的應用內購買
• OpenAI 推出客製化 AI 聊天機器人商店
• Quora 籌集了 7500 萬美元的資金，來發展其 AI 聊天機器人平臺 Poe
• 謊言終結者！Fakespot Chat x Mozilla LLM：讓網購族透過 AI 聊天機器人研究產品
• Snap 的 AI 聊天機器人引起英國關注，涉及兒童隱私問題
• 使用者可以被潛移默化地相信 AI 聊天機器人的動機，從而影響互動：研究揭示真相
• 前 Tinder CEO 的創業公司利用 AI 聊天機器人對抗孤獨獲得紅杉的支援
• Meta 推出的 AI 聊天機器人計畫中包含一個針對年輕使用者的「時髦搞怪機器人」
• 未來 AI 聊天機器人即將變得更加專業化，而非像 ChatGPT 那樣普適。