DoorDash 推出全新的 AI 動力“SafeChat+”工具,自動偵測口頭虐待
作者:羅倫·福裏斯塔爾(Lauren Forristal)
發布時間:8 小時前
新功能介紹
DoorDash 希望藉助全新的 AI 動力功能“SafeChat+”,減少使用者與送餐員之間的口頭虐待和不當互動。該功能利用人工智慧技術自動檢測冒犯性言語。當系統判斷客戶或送餐員遭受騷擾時,將提供舉報事件選項,讓客戶與 DoorDash 支援團隊聯絡,或讓送餐員快速取消訂單。如果司機遭受虐待,他們可以取消派送而不會影響其評價。DoorDash 還將向使用者傳送警告,要求他們避免使用不當語言。據公司表示這項 AI 功能每分鐘分析超過 1,400 條訊息,包括英語、法語、西班牙語、葡萄牙語和普通話等“數十種”語言。團隊成員將調查 AI 識別的所有事件。此功能是 SafeChat 的升級版本,DoorDash 的信任與安全團隊以前需要手動篩選言語虐待內容。
技術升級
DoorDash 表示 SafeChat+與 SafeChat 的概念相同,但擁有更優秀、更精密的技術。它可以理解微妙的細微區別和與任何特定關鍵詞無法匹配的威脅。
公司宣告
DoorDash 表示:“我們知道口頭虐待或騷擾在我們平臺上佔據最大的安全事件。我們相信,引入這項功能有可能顯著降低我們平臺上的總事件數量。” DoorDash 聲稱,其平臺上 99.99%以上的派送完成時都沒有安全相關事件。該平臺還設有“SafeDash”,一個應用內工具包,將派送員與 ADT 代理存取,在緊急情況下可與 911 服務共享位置和其他訊息。DoorDash 還為其送餐員增加了新的安全工具,包括“駕駛見解”。
探討與建議
這項新功能引發了關於自動化監控和保護平臺參與者的許多哲學問題。一方面,這種 AI 技術能夠有效檢測和應對口頭虐待,有助於保護送餐員和使用者免受侮辱和威脅。然而也引發了隱私保護和言論自由的問題。有人擔心這種技術是否會誤判無辜的言論,或者濫用於約束言論自由。此外也需要關注這種人工智慧技術的透明度和公平性。
社論
DoorDash 推出的 SafeChat+功能是一個值得關注的舉措,顯示了他們致力於維護使用者和送餐員的安全和尊嚴。儘管 AI 技術的應用引發了一些合理的疑慮,但將這種技術應用於減少言語虐待是一個積極的舉措。然而 DoorDash 應該積極解決人們對隱私和言論自由方面的擔憂,並確保技術的透明和公平。
建議
對於 DoorDash 平臺的使用者和送餐員來說應該充分理解和適當使用 SafeChat+功能。送餐員可以利用這一功能來保護自己免受虐待,同時使用者應該避免使用不當語言,並充分理解 AI 技術的應用範圍和局限。同時 DoorDash 應該與相關利益相關者進行溝通,解決可能出現的問題,確保這一功能的合理應用。
延伸閱讀
- OpenAI 表示正在建立一個工具,以讓內容創作者選擇退出 AI 訓練
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Microsoft 禁止美國警察局使用企業人工智慧工具
- Snapchat 推出全新的品牌和廣告主 AR 和 ML 工具
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- Atlassian 結合 Jira 軟體和工作管理工具
- 三星的營運利潤飆升 930%,AI 動能帶動記憶晶片需求