雖然企業越來越普遍地將大型語言模型（LLM）納入工作流程中以提高效率和提供更好的客戶體驗，但 Salesforce 的一項新調查發現，這種所謂的「競爭」趕在 AI 出現之前建立起生成 AI（gen AI）可能會造成與客戶之間的「信任鴻溝」。這份全球資料來自 2023 年 5 月 3 日至 7 月 14 日期間對超過 14,000 名消費者和商業買家進行的調查，顯示儘管客戶和買家普遍支援使用 AI 提供更好的體驗，但仍有許多人不相信企業能夠在道德上使用 AI。這些發現突顯了實施生成 AI 的企業需要解決的主要問題，以確保向客戶提供最佳的 AI 體驗並保持業務增長。
什麼是對 AI 的信任？
雖然「信任」的概念起初看似簡單，但實際上卻很複雜且多面化。例如，一個人可能對一家公司的產品質量表示信任，但對其可持續性努力不感信任。同樣地，他們可能不相信這家公司能夠保護他們的資料。對於 AI 來說信任的基礎在於倫理原則，即系統遵守針對個人權利、隱私和非歧視等基本價值的明確指南。根據 Salesforce 的調查，這就是問題出現的地方。在接受調查的 14,000 名受訪者中，76%的人表示他們相信企業對產品和服務的守信承諾，但近 50%的人聲稱他們不相信企業能夠在道德上使用 AI。儘管他們提出了多個擔憂，但最突出的挑戰是缺乏透明度和缺乏人的參與以取證 AI 的輸出結果，這超過 80%的人都要求。只有 37%的受訪者表示他們實際上相信 AI 能夠提供與人類同等準確的回答。他們還提到的其他問題包括資料安全風險、系統可能存在偏見（例如，可能對某一性別進行歧視）以及對社會產生的意想不到的影響。
商業買家的信心更高
在調查受訪者中，商業買家對 AI 的態度比消費者更樂觀，有 73%的商業買家表示他們支援企業使用這項技術以提供更好的體驗，而只有 51%的消費者持相同觀點。有意思的是，自從 2022 年生成 AI（能夠在幾秒鐘內產生新內容）出現以來，整體情緒似乎有所下降。去年 82%的商業買家和 65%的消費者表示他們支援使用 AI 以提供更好的體驗。Salesforce 表示值得注意的是，在供應商方面，樂觀情緒仍然極高，大多數處於客戶參與的前沿（從 IT 和銷售到銷售和服務團隊）的專業人員表示生成 AI 將有助於他們的公司更好地服務客戶。
企業應該怎麼做？
儘管企業無法停止實施 AI — 畢竟，它們必須在當今的動態環境中保持競爭力 — 但該調查發現幾個關鍵步驟可以幫助企業贏得客戶的信任，確保他們支援這一轉變。首先如上所述，應確保更高程度的透明度和人工取證 AI 的輸出結果。超過一半的受訪客戶表示這將增加他們的信任。除此之外，49%的受訪者表示企業應該讓他們更多地控制 AI 在參與中的應用，例如提供選擇退出的機會；39%的人呼籲進行第三方倫理審查；36%的人希望政府進行監督。其他建議措施包括為 AI 實施行業標準、徵求客戶對如何改進 AI 使用的意見、對多樣化資料集進行培訓以及公開基礎算法。Salesforce Commerce Cloud 的 SVP 兼 GM Michael Affronti 在新聞稿中表示：“隨著品牌尋找新的方法來滿足不斷提高的客戶期望，他們必須考慮到（目標）客戶群中的多樣觀點。”他補充說：“以強大的價值觀和倫理使用生成 AI 等新興技術，在未來將成為成功的關鍵指標。”
