OctoML 推出 OctoAI：自我最佳化的人工智慧計算服務
背景簡介
OctoML 公司於 2019 年成立時，主要專注於最佳化機器學習（ML）模型。自那時以來，該公司已經新增了一些功能，使得部署 ML 模型更加容易（並且籌集了 1.32 億美元）。今天該公司推出了其服務的最新版本，這並不完全是一個轉型，但它確實將公司的重點從最佳化模型轉移到幫助企業使用現有的開源模型並用自己的資料對其進行微調，或者使用該服務來託管自定義模型。這個新的 OctoML 平臺，被稱為 OctoAI，是一個自我最佳化的人工智慧計算服務，特別強調生成式人工智慧，幫助企業構建基於機器學習的應用並將其投入生產，而不需要擔心底層基礎設施。
向業界提供的服務
OctoAI 讓使用者只需決定他們想要優先考慮的因素（例如延遲與成本），而 OctoAI 會自動為他們選擇合適的硬體。該服務還將自動最佳化這些模型（從而實現額外的成本節省和效能提升），並決定最佳是在 Nvidia 的 GPU 還是亞馬遜 AWS 的 Inferentia 機器上執行這些模型。這消除了將模型投入生產時的很多複雜性，這對於許多 ML 專案來說仍然是一個阻礙。當然希望對他們模型的執行方式具有完全控制的使用者也可以自行設定引數，並決定他們應該在哪些硬體上執行。然而 Ceze 認為，大多數使用者將選擇讓 OctoAI 為他們管理所有這些事務。
已提供的服務
OctoML 還提供了一些經過加速的流行基礎模型，如 Dolly 2, Whisper, FILM, FLAN-UL2 和 Stable Diffusion，並且還會提供更多模型。相比於執行原始模型，OctoML 成功將 Stable Diffusion 的執行速度提升了三倍，成本削減了五倍。值得注意的是，儘管 OctoML 將繼續與希望僅使用該服務最佳化模型的現有客戶合作，但該公司未來的重點將放在這個新的計算平臺上。
評論與建議
OctoML 的 OctoAI 平臺為企業在人工智慧領域中建立應用提供了更加簡單和高效的解決方案。該平臺自動最佳化模型，提供了選擇合適硬體的能力，這對於那些對底層基礎設施理解有限的企業來說非常有價值。對於人工智慧的運用，底層基礎設施往往是一個巨大的挑戰，因為它需要專業的知識和大量的時間和資源來建立和維護。OctoAI 提供了一種抽象底層設施的方式，使企業能夠更快速地將他們的機器學習應用帶入實際生產環境中。這為企業節省了大量的時間和成本，同時提高了效率和可靠性。
然而隨着人工智慧的發展，我們也要注意維護倫理和負責任的人工智慧應用。當企業使用 OctoAI 平臺來部署和執行機器學習模型時，他們應該保持對模型的透明度和解釋性。透明度意味著企業應該知道模型的工作原理以及它如何做出特定的預測。解釋性則意味著企業應該能夠解釋模型的預測結果並提供相應的理由。這樣可以避免因為模型結果的一致性或不公平性而引發的問題。
對於那些計劃使用 OctoAI 平臺的企業來說我建議他們在開始使用之前深入理解該平臺提供的功能和優勢。並且，在進行機器學習應用的開發和部署時，他們應該遵循優秀的實踐和倫理指南，確保他們的應用是負責任和可信賴的。
