最新的新玩意？持續回饋平臺防止不良 AI 程式進入正式產品
作者：康妮·洛伊索斯（Connie Loizos）
釋出於：8 小時前
如果你沒有注意到，如今生成的程式碼越來越多是由「AI 輔助」的。事實上微軟的旗下企業執行副總裁斯科特·古瑟裏（Scott Guthrie）在今年 3 月估計，開發人員上傳到 AI 開發者工具 GitHub Copilot 的程式碼中，將有多達 40%的程式碼是「由 AI 生成且未修改過的」。現在這一趨勢正在催生一些致力於防止 AI 輔助程式碼造成問題的新創公司，而投資者們也開始注意到了這一點。
本週早些時候，一家位於以色列的新創公司 Digma 宣布獲得 600 萬美元的種子融資，用於開發一個在開發人員本地機器上執行的持續回饋平臺，幫助他們分析程式碼（包括由生成式 AI 建立的程式碼），以發現問題。昨天，一家名為 Kolena 的旅遊平臺宣布獲得 1500 萬美元的融資，用於建立測試、基準和取證 AI 模型效能的工具。今天一家成立數月、總部位於舊金山灣區的新創公司 Braintrust 公布了 300 萬美元的新一輪融資。根據該公司的聯合創始人兼執行長安庫爾·高亞爾（Ankur Goyal）的說法，Braintrust 就像是一個「為建立 AI 軟體的工程師而設的作業系統」，它可以幫助他們避免 AI 模型產生不良結果。舉例來說開發客戶支援聊天機器人的開發人員可以使用 Braintrust 的技術來確保聊天機器人準確回答問題，而不會虛構虛假訊息。
像許多承諾能夠建立更可靠 AI 軟體的新創公司一樣，Braintrust 擁有經驗豐富的支援者。知名天使投資人埃拉德·吉爾（Elad Gil）是其中的投資者之一，他還協助孵化了 Braintrust 的初創產品。該公司的其他顯著投資者還包括 Quora 的亞當·丹吉洛（Adam D'Angelo）、時下熱門的 AI 公司 HuggingFace 的克萊姆·德蘭格（Clem Delangue）以及 OpenAI 的聯合創始人格雷格·布羅克曼（Greg Brockman）。然而能否透過一個令人印象深刻的投資聯盟將 Braintrust 推到行業前端仍然是個未知數。
在此期間，確保 AI 程式碼不會破壞公司的工作流程是高亞爾表示他幾乎天生要解決的問題。高亞爾是醫生的孩子，從小在匹茲堡長大，本來以為自己也會成為一名醫生。他說，作為一個「超級書呆子」的少年時期，高中時的線性代數課程讓他理解到 Google 的 PageRank 算法，這改變了他的一生（他說:「只要一談到這個，我就不禁起雞皮疙瘩。」）。他從生物學轉讀於卡內基梅隆大學的電腦科學專業，然後在大三時因為「極度無聊」而退學，加入了早期的 Y Combinator 孵化專案 MemSQL，開始建立一個聯動式資料庫系統。五年多後，高亞爾共同創立了自己的公司 Impira，當去年底 Figma 收購了該公司後，高亞爾成為了其機器學習平臺的負責人。這是一份很好的工作，它也讓高亞爾更深入地理解到在這個全面 AI 時代中建立高品質軟體產品的日益挑戰的問題。因此他在今年夏末離職，開始創立 Braintrust。
他說:「我花了很多時間來開發傳統軟體。而 AI 與傳統軟體的區別在於它的非確保性，這意味著如果你寫了一段程式碼，你不能保證它一定會執行。你必須對實際情況進行測試。」這個過程被稱為評估或「evals」，而並非所有公司都擁有高質量的資料進行足夠的測試。這就是為什麼 Braintrust 與那些有高質量資料的公司合作，其中包括工作流自動化公司 Zapier 和試算表工具公司 Coda，這些公司當前正在對 Braintrust 所建立的產品進行測試。高亞爾說:「他們面臨的挑戰是：‘好的，我們確實有大量的資料，有很多使用者使用我們的產品。但是我們很難將這些資料縮小到一個代表性的範例集中，以用於測試我們的軟體。’」他說，透過使用 Braintrust，他們可以將任意量的資料輸入產品中，對其進行評估，而 Braintrust 將協助他們逐步累積並使用「黃金資料集」，作為衡量他們的軟體是否常規執行的標準。高亞爾還表示:「我們實際上是在他們的雲環境中執行，」這使得 Braintrust 能夠解決複雜的合規問題，否則這可能會減慢企業的採用速度。
當然現在還只是初步階段，競爭在未來幾個月和年份內只會變得更加激烈。一家以色列新創公司 Deepchecks 最近也獲得了種子融資，其標語是「為 AI 提供持續取證」。然而高亞爾將 Braintrust 描述為他在 Figma 所需要的完美產品，而且直到最近，這樣的產品仍不存在於世。「在過去十年中，關於持續整合的所有科學已經發展出來了，使軟體交付成為一項科學。但在 AI 領域，那種方法論和工作流程在我們的產品之前根本不存在。」
圖片上自左至右：創始設計師 Coleen Baik，執行長 Ankur Goyal，創始工程師 Manu Goyal 和產品經理 David Song（埃拉德·吉爾的團隊成員）。
關鍵詞：人工智慧，最新科技，新玩意，持續回饋平臺，AI 程式產品化，技術趨勢
