亞馬遜牀巖：擁抱企業用例的生成 AI 關鍵工具
亞馬遜網路服務（AWS）日前正式宣布，其 Amazon Bedrock 服務已正式上線，成為應對企業生成 AI 需求的關鍵工具。Amazon Bedrock 是一項基礎模型服務，提供多種模型，其中包括亞馬遜自家的 Titan Embeddings 模型。該服務自去年 4 月進行了預覽服務後，進一步在 7 月擴充套件了更多模型。
走向企業通用：安全合規、成本控制、增強部門 models
將服務正式上線意味著該服務經過嚴格測試、進一步增強並根據初期使用者反饋進行了改進。其中亞馬遜牀巖主動配合了企業合規要求，例如遵從歐洲聯盟的《一般資料保護法規》（GDPR）。此外為實現合規，企業通常需要相關的觀察和稽核功能。亞馬遜牀巖作為通用服務，現已與亞馬遜的 CloudWatch 服務整合，以便進行日誌記錄。
成本控制是使服務適合廣泛企業使用的關鍵。為了尊重組織的財務預算，AWS 推出了亞馬遜牀巖的系統吞吐量功能。其允許客戶按需付費，確保成本控制和效能水平。透過系統吞吐量功能，客戶可以指定所需的“模型單位”或令牌數量，避免需求激增時出現限流情況。
Amazon Titan Embeddings 模型作為亞馬遜牀巖通用服務的一部分，將為生成 AI 的準確性帶來新的提升。Titan Embeddings 模型可應用於檢索增強生成（RAG）用例，有助於提高生成 AI 的準確性。該模型透過將單詞轉化為數學向量表示（即嵌入向量），能夠將檔案和查詢拆分為嵌入向量空間，從而提高檢索相關檔案片段的準確性，供作為答案使用。
企業使用案例：Chatbot 和 CodeWhisperer
亞馬遜牀巖中的 Titan Embeddings 模型還與其他大型語言模型結合使用，包括 Anthropic 的 Claude2 模型。其中 Titan Embeddings 模型將檔案嵌入到向量空間中，而 Claude2 模型則用於會話能力。這使得 Chatbot 能夠從嵌入的檔案中檢索相應的知識片段來回答問題，而不需要對語言模型進行重新訓練。
除了 Amazon Bedrock 的正式上線，AWS 還推出了新功能的預覽版本，提供 Amazon CodeWhisperer 生成 AI 服務。新功能使企業使用者能夠以安全的方式獲取組織內部的程式碼庫，從而提高開發人員的生產力。
總結
亞馬遜牀巖的正式上線為企業生成 AI 使用案例提供了重要的支援工具。透過支援合規要求、提供成本控制功能以及增強準確性的嵌入模型，亞馬遜牀巖提供了一個可靠、可擴充套件的平臺，使企業能夠更好地利用生成 AI 技術在業務中創造價值。
同時新功能的推出也進一步豐富了 AWS 的生成 AI 服務組合，使企業能夠更好地利用內部程式碼庫來提高開發效率。這使得 AWS 成為企業生成 AI 領域的領導者之一，並為企業開展生成 AI 的應用提供了有力的支援。
延伸閱讀
- 歐盟警告微軟 或因未提供 GenAI 風險訊息而可能被處以數十億歐元的罰款
- Garena 暗中開發以印度為主題的遊戲，Free Fire 的重新上線仍存疑
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- 歐盟加固對大型平臺在選舉前的 GenAI 風險審查
- Adobe 發布音樂創作的 GenAI 工具
- FlowGPT：GenAI 應用程式的新世界
- Nvidia 最新工具讓你可以在電腦上執行 GenAI 模型
- Crux 正在開發由 GenAI 驅動的商業智慧工具
- 5 個步驟，董事會成員和新創企業領袖可採取的措施，以應對 GenAI 塑造的未來
- 這週人工智慧大事：消費者真的想要亞馬遜的 GenAI 嗎？
