AI 生成革命：“公平世代人智慧”的建立
引言
今年由 Capital One 贊助的 Women in AI 早餐會迎來了 VB Transform 活動的開幕。會議現場有超過百位與會者，並透過網路直播吸引了 4,000 多人線上觀看。VentureBeat 的高級作家 Sharon Goldman 主持了討論，並邀請到了 Capital One 首席企業客戶產品副總裁 Emily Roberts，萬事達卡資料與 AI 研究員 JoAnn Stonier 以及 eBay 賣家體驗副總裁 Xiaodi Zhang。去年的開放式早餐討論涉及到了預測性人工智慧、治理、降低偏見和防止模型漂移等話題。而今年，生成性人工智慧成爲了熱門話題，佔據了各行各業的討論，並成爲早餐活動中的主題。
建立公平生成式 AI 的基礎
Capital One 的首席企業客戶產品副總裁 Emily Roberts 表示現在很多公司對生成性人工智慧仍處於充滿希望但尚未完全確保的階段。她說：“我們一直在思考的問題是，如何構建不斷學習的組織？如何思考實際應用人工智慧的結構以及日常工作中。”她補充道，構建多樣的思考方式和代表性是這個問題的重要一環。在建立這些專案並將其推向成功完成的過程中，參與者衆多，涵蓋了產品經理、工程師、資料科學家以及企業領導層，這爲確保公平性提供了更多機會。“我想我們要着重思考的一個重要問題是，如何在對話中納入正確的人士，如何保持極度好奇，並確保正確的人參與到對話中去。” Roberts 說道。 資料一直都是問題之一，特別是公共大型語言模型（LLMs）中。單指示出：“現在我們面臨的挑戰之一是，公共大型語言模型使用的資料實際上是歷史上真的很糟糕的資料。我們並沒有爲了使用 LLMs 而生成這些資料；這些資料實際上就是從我們一直以來的社會問題中產生的。這些基礎模型會繼續學習並隨着時間的推移得到改進。” 業界作爲一個整體需要確保正確的對話正在進行，明確建立正在構建什麼、預期的結果以及如何評估這些結果，在構建自己的產品時注意可能出現的問題，以便不會在金融服務領域，尤其是在防範欺詐方面毫無準備。“如果我們的資料集存在偏見，那麼我們在將這些資料集應用到新的工具上時，就必須理解這些偏見。” Stonier 說道，“所以，以結果爲基礎的使用比以目的驅動的使用更加重要。” 此外 Zhang 強調了從一開始就投資這些保護措施的重要性。當前這意味着要弄清楚這些保護措施是什麼樣的以及如何整合它們。“我們如何設定一些提示和約束條件，以確保結果是公平和無偏的？” 她說：“與我們之前所熟悉的領域相比，這肯定是一個完全不同的領域，所以我們都必須不斷學習、靈活變通、並持開放心態進行嘗試。”
精心管理和治理創新
雖然仍然存在一些風險，但公司們對於推出新的應用案例持謹慎態度；相反，他們正在投入時間進行內部創新，以更好地理解可能性。例如，eBay 最近的駭客馬拉松活動完全專注於生成式 AI。“我們真的很相信我們的團隊的能量，我想看看我們的員工可以借助所有能力以及他們的想象力取得什麼樣的創意。” Zhang 說道。“員工們產生了想不到的點子。每家公司都應該考慮利用駭客馬拉松、創新周等活動，重點關注生成式 AI，並看看團隊成員能做出什麼樣的貢獻。但我們一定要謹慎對待此類實驗。” Mastercard 正在鼓勵內部創新，但也認識到需要爲實驗和應用案例的提交設定保護措施。他們已經發現了如知識管理、客戶服務和聊天機器人、廣告和媒體以及市場服務的應用案例，同時還在完善面向客戶的互動工具，但在消除可能存在的偏見之前，他們還不準備將這些案例公之於衆。“這個工具可以做很多強大的事情，但我們發現我們需要將其輸出和應用之間增加距離。” Stonier 說道。“對於醫療方面，我們不希望醫生的決策錯誤，也不希望法律決策出錯。” 法規已經做出了修改，現在包括生成式 AI，但當前公司們仍在努力理解未來將需要哪些檔案資料，監管者將會尋找什麼以及在實驗過程中他們將需要如何解釋他們的專案。“我認爲你在推出專案時需要爲這些時刻做好準備。你是否能夠在那個時刻證實你對案例的深思熟慮以及如何進行完善？” Stonier 問道。“所以，這是我們所面臨的問題。”“我認爲技術已經超前於現有的法規，所以我們需要靈活設計，以便我們能夠及時應對監管決定。” Zhang 說道。“這是一件需要謹慎對待的事情，而且還會繼續如此。法律對我們當前來說是最好的保障。” Roberts 指出，Capital One 從頭開始重建了其詐騙平臺，利用雲端計算、資料和機器學習的力量。如今更重要的是考慮如何構建正確的實驗，並逐步轉向正確的應用。“我們在這個領域有很多機會可以開展活動，但我們必須以一種我們能夠進行實驗、測試和學習，並有以人爲中心的保障措施來確保我們以一種良好管理、良好治理的方式進行。”她解釋說。“任何新興趨勢都會引發相關法規或標準的演進，所以我更加關注如何以透明的方式、以一種良好管理、良好控制的方式進行構建。”
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
