DoorDash 推出全新的 AI 動力“SafeChat+”工具，自動偵測口頭虐待
作者：羅倫·福裏斯塔爾（Lauren Forristal）
發布時間：8 小時前
新功能介紹
DoorDash 希望藉助全新的 AI 動力功能“SafeChat+”，減少使用者與送餐員之間的口頭虐待和不當互動。該功能利用人工智慧技術自動檢測冒犯性言語。當系統判斷客戶或送餐員遭受騷擾時，將提供舉報事件選項，讓客戶與 DoorDash 支援團隊聯絡，或讓送餐員快速取消訂單。如果司機遭受虐待，他們可以取消派送而不會影響其評價。DoorDash 還將向使用者傳送警告，要求他們避免使用不當語言。據公司表示這項 AI 功能每分鐘分析超過 1,400 條訊息，包括英語、法語、西班牙語、葡萄牙語和普通話等“數十種”語言。團隊成員將調查 AI 識別的所有事件。此功能是 SafeChat 的升級版本，DoorDash 的信任與安全團隊以前需要手動篩選言語虐待內容。
技術升級
DoorDash 表示 SafeChat+與 SafeChat 的概念相同，但擁有更優秀、更精密的技術。它可以理解微妙的細微區別和與任何特定關鍵詞無法匹配的威脅。
公司宣告
DoorDash 表示：“我們知道口頭虐待或騷擾在我們平臺上佔據最大的安全事件。我們相信，引入這項功能有可能顯著降低我們平臺上的總事件數量。” DoorDash 聲稱，其平臺上 99.99%以上的派送完成時都沒有安全相關事件。該平臺還設有“SafeDash”，一個應用內工具包，將派送員與 ADT 代理存取，在緊急情況下可與 911 服務共享位置和其他訊息。DoorDash 還為其送餐員增加了新的安全工具，包括“駕駛見解”。
探討與建議
這項新功能引發了關於自動化監控和保護平臺參與者的許多哲學問題。一方面，這種 AI 技術能夠有效檢測和應對口頭虐待，有助於保護送餐員和使用者免受侮辱和威脅。然而也引發了隱私保護和言論自由的問題。有人擔心這種技術是否會誤判無辜的言論，或者濫用於約束言論自由。此外也需要關注這種人工智慧技術的透明度和公平性。
社論
DoorDash 推出的 SafeChat+功能是一個值得關注的舉措，顯示了他們致力於維護使用者和送餐員的安全和尊嚴。儘管 AI 技術的應用引發了一些合理的疑慮，但將這種技術應用於減少言語虐待是一個積極的舉措。然而 DoorDash 應該積極解決人們對隱私和言論自由方面的擔憂，並確保技術的透明和公平。
建議
對於 DoorDash 平臺的使用者和送餐員來說應該充分理解和適當使用 SafeChat+功能。送餐員可以利用這一功能來保護自己免受虐待，同時使用者應該避免使用不當語言，並充分理解 AI 技術的應用範圍和局限。同時 DoorDash 應該與相關利益相關者進行溝通，解決可能出現的問題，確保這一功能的合理應用。
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- BigPanda 釋出針對 IT 運維的生成式人工智慧工具
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- 英特爾等公司承諾為企業打造開放生成式人工智慧工具
- Amazon Music 跟隨 Spotify 推出自己的 AI 播放清單生成器 Maestro
- 「Facebook 與 Instagram AI 生成的裸照遭調查」
