The Rise of Generative AI: Building a Foundation for Equity and Ethical Considerations
An Introduction to the Women in AI Breakfast
今年，Capital One 贊助的第三場「AI 女性早餐」在 VB Transform 活動中揭開了帷幕，活動吸引了超過 100 名與會者以及超過 4,000 名線上觀眾。VentureBeat 的高級作家 Sharon Goldman 熱情地迎接了世界知名企業 Capital One 的企業消費產品負責人 Emily Roberts、萬事達卡的資料與人工智慧專家 JoAnn Stonier 以及 eBay 的賣家體驗副總裁 Xiaodi Zhang。去年開放式早餐討論圍繞預測式人工智慧、治理、減少偏見和避免模型偏移展開。今年，生成式人工智慧站在門口，主導著跨行業的對話，也成為早餐活動的核心話題。
建立公平的人工生成智慧 AI 基礎
資本壹（Capital One）企業消費產品負責人 Emily Roberts 表示很多公司對於生成式人工智慧仍然尚未形成明確的概念，客戶和企業高管都對其表現出濃厚的興趣。她說：“我們一直在思考如何建立不斷學習的組織，我們要思考我們將如何在日常工作中應用這一結構以及思維方式。”她還補充說，重要的一點是確保在產品開發中融入多元思考和代表性的觀點。這些專案涉及眾多專家的參與，包括產品經理、工程師、資料科學家以及組織各層級的業務領導者，這也為建立公平性提供了更多機會。Roberts 說：“我希望大家真正思考的一個重要問題是，我們如何讓合適的人參與這個對話。我們要抱持著極度好奇的心態，確保適當的人在場，提出適當的問題，以確保我們將合適的人納入對話中。”
不可忽視的問題在於資料，Stonier 指出，對於公共大型語言模型（LLMs）來說尤其如此。“我認為我們現在面臨的挑戰之一是，這些公共大型語言模型使用的資料實在是糟糕透頂，”她解釋道，“我們並不是在設計這些資料供 LLMs 使用，這些資料僅僅是歷史資料。這些模型正在從我們社會的種種失誤和不公正中學習。這些基本模型將不斷學習並得到改進。”作為行業的一部分，我們需要確保進行正確的對話，明確界定正在建立的內容、期望的結果以及在公司建立自己產品的過程中可能出現的問題，尤其是在金融服務領域，特別是在詐騙問題上。Stonier 表示：“如果資料集中存在偏見，那麼當我們將此資料集應用到新工具上時，我們必須理解這些偏見。因此基於結果的使用比目的驅動的使用更加重要。”Zhang 補充說當前從一開始就需要投資相關的約束措施，也就是要弄清楚這些措施看起來是什麼樣子以及如何將其整合進來。她說：“我們如何設定某些提示和約束，以確保產生公平和無偏見的結果？這絕對是一個與我們過去截然不同的領域，它要求我們不斷學習，保持靈活並持開放的實驗態度。”
精心管理、良好治理的創新
儘管風險仍然存在，但各公司對於推出新的使用案例十分謹慎，他們更願意在內部進行創新實驗，以更好地理解可能的發展。例如，在 eBay，他們最近的駭客松完全以生成式人工智慧為焦點。Zhang 表示：“我們真的相信團隊的力量，我想看看我們的員工可以利用所有能力和想象力創造出什麼。結果我們發現他們的想法超出了我們領導團隊能夠想像的範圍。每家公司都應該考慮利用駭客松、創新週等活動，專注於生成式人工智慧，看看團隊成員能夠產生什麼新意。但我們肯定要在實驗中謹慎行事。”在萬事達卡，他們鼓勵內部創新，但也明白在實驗和提交使用案例時需要設立一些約束措施。他們的應用案例包括知識管理、客戶服務和聊天機器人、廣告和媒體市場服務以及為客戶打造更互動式工具。然而在消除偏見之前，這些應用還不準備向公眾推出。
Stonier 說：“這種工具具有很多強大的功能，但我們發現存在一種所謂的距離概念，我們試圖應用，越是重要的結果，輸出與應用之間的距離就越大。對於醫療保健，我們希望醫生的決策結果是正確的，或者對於法律決策，也希望結果是正確的。”已經修改了規定，現在包括生成式人工智慧，但在這一點上，公司仍然在努力理解未來需要哪些檔案，實驗時監管機構將會審查什麼以及他們在專案進展中必須如何解釋自己的計劃。“當你推出產品的時候，你需要準備好應對這些時刻。你能否在當下展示你的方案意識以及你將如何更進一步改進它？” Stonier 表示。“這是我們面臨的挑戰。”Zhang 表示：“我認為技術已經超越了常規監管，所以我們需要靈活應對以及以某種方式設計，以應對將來可能出臺的監管決策。還有一點要注意，法律是我們當前最好的朋友。”Roberts 表示 Capital One 從頭開始重新構建了欺詐防範平臺，以利用雲端、資料和機器學習的威力。現在越來越重要的是要考慮如何進行正確的實驗，並漸漸適配到正確的應用上。她解釋：“我們在這個領域有很多機會，但我們要確保以一種良好管理、良好管控、透明的方式進行實驗、測試和學習。”她還強調對於任何新興趨勢，我們可能會看到監管或標準的改變，所以更注重的是如何以一種透明的方式、以良好管理、良好管控的方式建立。
評論和建議
生成式人工智慧的興起為各行各業帶來了巨大的潛力和挑戰。在這一領域的發展中，公平、透明和道德問題是必須重視的議題。盡管生成式人工智慧技術的突飛猛進可能會超出現有的法律和規定，我們必須始終保持靈活，以應對未來可能出臺的監管政策。同時企業也應該主動擔負起責任，確保在使用生成式人工智慧技術時不會導致偏見和不公平。
不僅如此，企業在進行生成式人工智慧創新時，必須建立精心管理和良好治理的機制。這包括制定內部規範和約束，確保實驗和應用案例的合理性，並在確保負責任的創新的同時以透明的方式向外界解釋和溝通。對於金融服務業來說確保生成式人工智慧技術的運用不會產生詐騙風險是至關重要的。
最後企業需要建立多元化的參與方式，將更多的利害相關者、專家和各界人士納入生成式人工智慧討論。這樣的多元參與可以確保更全面和全面的思考，也可以在更早的階段發現可能的偏見和問題。同時必須尋求和建立一個平衡，以便在技術發展和創新的同時尊重和保護個人隱私和資料安全。
