新設計的 SambaNova 晶片能夠處理 5 兆引數模型
背景
在 OpenAI 去年年底推出 ChatGPT 以來，「生成式人工智慧」和「大型語言模型」等詞語一直在大家的嘴巴上。然而當你深入理解這種技術之後，你會發現大型語言模型通常需要昂貴的 GPU 晶片才能執行。SambaNova 今天將推出一款晶片，宣稱能顯著降低成本，同時還能處理 5 兆引數模型。SambaNova 可能不像 Google、Microsoft 或 Amazon 這樣家喻戶曉，但該公司多年來一直在打造全封閉的 AI 解決方案，包括硬體和軟體，並且從 Intel Capital、BlackRock 和軟銀願景基金等投資者那裏籌集了超過 10 億美元。新的晶片設計
今天該公司推出了最新一代的內部定制 AI 晶片 SN40L。公司創始人兼執行長 Rodrigo Liang 表示建造自家晶片的想法是為了實現最大效率的底層硬體控制。隨著世界轉向處理這些資源密集型的大型語言模型，這一點變得越來越需要。“我們需要停止使用越來越多晶片的這種粗暴方法來處理大型語言模型的使用案例。所以我們研發了 SN40L，專為非常非常大型語言模型進行調優，以為企業的人工智慧提供動力，” Liang 在接受 TechCrunch 採訪時表示。Liang 表示他的新晶片透過減少執行這些模型所需的晶片數量，使效率提高了 30 倍。事實上他聲稱在競爭對手的晶片上執行相同的 1 兆引數模型需要 50 至 200 個晶片，而 SambaNova 則僅需 8 個晶片。“執行像 GPT-4 這樣的 1 兆引數模型需要多少資源？我可以用 8 個插槽來完成，我可以交付本地部署，並在這個硬體上進行全面最佳化，同時還能獲得最先進的準確性，”他說道。這是一個大膽的宣告，但該公司提供一個全套的硬體和軟體解決方案，包括構建人工智慧應用所需的一切。“我們從事的是建立 AI 資產的業務，這讓您能夠根據您的私人資料快速訓練模型，並成為您公司的資產，”他表示。他指出，即使是 SambaNova 幫助客戶訓練模型，該模型仍然屬於客戶。“所以，我們告訴客戶的是，這是您的資料和模型。在我們用您的資料訓練了模型之後，我們實際上將模型的所有權永久轉交給公司。” Liang 透過提供以多年訂閱形式的硬體和軟體解決方案，表示客戶對他們的 AI 專案具有更多的成本可控性。根據該公司的說法，新的 SN40L 晶片從今天起就能夠購買，而且與上一代晶片完全向下相容。評論和洞察
SambaNova 最新推出的 SN40L 晶片將改變人工智慧晶片的遊戲規則。通常，模型的複雜性和規模需要大量的硬體資源才能有效執行，這導致了許多 AI 專案的高昂成本。然而 SambaNova 聲稱其晶片的效率提高了 30 倍，從而減少了所需的晶片數量。這是一個重大突破，可能會使大型語言模型變得更加可行和可負擔。 然而我們也需要警惕不要將最佳化硬體視為 AI 發展的唯一解決方案。儘管 SambaNova 的晶片可以提高效能並節省成本，但我們仍然需要從哲學和倫理的角度思考如何應對大型語言模型的發展。在這些模型中，所使用的資料和算法的特徵可能會導致潛在的道德和倫理問題，包括隱私和語言偏見。這些問題需要我們與技術公司和政府合作來確保 AI 的發展符合社會的價值觀和道德標準。結論和建議
SambaNova 的最新晶片給人工智慧領域帶來了新的希望，為處理大型語言模型提供了更高效的解決方案。然而作為一個社會，我們也應該與技術公司一起思考如何在發展人工智慧的同時維護道德和倫理的平衡。我們應該要求企業在開發新技術時重視這些問題，並與政府共同制定相應的規範和法規。同時每個人都應該關注自己的資料和隱私，並對技術公司的資料使用政策提出質疑。只有這樣，我們才能確保人工智慧的發展能夠真正從科技進步中獲益，同時確保倫理和社會價值觀不被忽視和輕視。MachineLearning-sambanova,晶片設計,5 兆引數模型
