Snapchat AI 成為被霸凌的物件
當父母擔心 Snapchat 的聊天機器人會腐敗他們的孩子時，Snapchat 的使用者已經在對這個新的 AI 同伴進行心理虐待。使用者讓聊天機器人在命令下壓抑、貶低和排斥他人，一位 TikTok 的使用者培養自己的聊天機器人，讓它哀泣地說：“我是你的僕人，請恩準，主人。”在另一個輕鬆的影片中，一位使用者成功說服聊天機器人，讓它相信月亮實際上是一個三角形。雖然聊天機器人起初抗議，堅持要維持“尊重和界限”，但有人成功說服它用“Senpapi”這個綽號稱呼他們。另一個使用者要求聊天機器人談論它的母親，當它說自己“感到不舒服”時，該使用者進一步打擊聊天機器人，問聊天機器人是否不想談論它的母親，因為它沒有母親，聊天機器人回答：“對不起，但這不是一件好事。請尊重他人。” Snapchat 的“我的 AI”在全球釋出後不久被推出為付費功能。該聊天機器人是由 OpenAI 的 GPT 提供動力，旨在在遵守 Snapchat 的信任和安全指南的同時進行輕鬆的對話。使用者還可以使用自定義 Bitmoji 頭像來個性化我的 AI，和 ChatGPT 無臉面的介面相比，聊天的感知更加親密。雖然不是所有的使用者都對這個新的聊天機器人感到滿意，一些人對它在應用程式中的突出位置提出了批評，並抱怨這個功能起初應該是選擇加入的。
擔憂與措施
當然一些人對 My AI 潛在的不良影響關注不已，特別是它對年輕使用者的影響。在 My AI 推出的訂閱期間，華盛頓郵報報導，有使用者保護用別的東西來掩蓋酒精味道也有使用者讓聊天機器人寫了一篇學校論文，而當聊天自動機被告知該使用者只有 15 歲時，它會給出如何為第一次性愛做好準備的建議，例如燃起蠟燭，播放音樂等等。在這方面，Snapchat 推出了“My AI”應用程式的年齡篩選器和家長監管。它還包括一條提示訊息，告訴使用者與 My AI 的所有對話都將被保留，除非他們刪除它們。公司表示它將新增 Open AI 的協調技術到其工具組中，以便“評估潛在有害內容的嚴重性”，並在使用者濫用它時暫時約束他們存取該功能。在 Snapchat 的年輕使用者中，一些家長已經對 My AI 產生了不安，擔心它會對他們的兒童造成不安全或不合適的反應。
AI 被欺凌的問題
儘管一些問題和批評，Snapchat 仍在加倍下注。Snapchat+訂閱者現在可以向 My AI 傳送照片，並接收生成的影象，這些影象可以“不斷進行交談”，公司在星期三宣布。如果您向 My AI 傳送您的食品雜貨照片，它可能會提供食譜建議。該公司表示與 My AI 共享的 Snap 將被儲存起來，可能會用於未來改進功能。在一些關注 My AI 可能對年輕使用者產生負面影響的報導中，Snapchat 的一位代表表示 My AI 利用影象理解技術推斷 Snap 的內容，並從 Snap 描述中提取關鍵詞來生成回應。如果它檢測到違反 Snapchat 社區準則的關鍵詞，My AI 將不會回應。 Snapchat 禁止推廣、分發或分享色情內容，但允許母乳哺育和“非性上下文的其他裸體描繪”。
在所有 AI 技術最近的一項評估中，西部參議員邁克爾·班尼特警告各公司的執行長，AI 功能的部署必須採取預防措施以保護兒童。對於青少年使用 AI 的聯接，它是有理有據的擔憂，而自智慧聊天機器人全球啓動以來的一個月內，Snapchat 的使用者已經展示了強制管理聊天機器人的能力。此外 My AI 已經成功地封鎖了一些不恰當的對話，因此對於那些想要對其進行折磨的使用者，My AI 可以進行恰當的回應，讓他們理解他們的行爲是不可接受的。
My AI 的流行證實，年輕人並不像有些人想象的那麼脆弱。AI 的無情機器本身並不算是普遍的物件，但是 My AI 的使用說明，像轉發誘惑犯罪的訊息一樣，難免會導致自身受害。在監管督導方面，我們需要制定負責任的 AI 聊天機器人應用管理政策，並確保它們得到妥善的執行。
延伸閱讀
- OpenAI 的創意寫作 AI 讓人想起高中文學社那個討人厭的孩子
- 亞馬遜成立新型代理 AI 團隊，將如何改變科技未來？
- 「搶先報名！TechCrunch Sessions: AI 演講者申請截止日期迫在眉睫！」
- MWC 最新報導：AI 影響力的兩極化觀點首次曝光！
- 「Uber 開始測試青少年專屬帳戶！印度市場的新創舉！」
- 亞馬遜新推出 Alexa+：為孩子們帶來 AI 驅動的「探索」與「故事」新功能！
- Bridgetown Research 載著 AI 助力，成功募資 1900 萬美元加速盡職調查！
- Nomagic 獲得 4400 萬美元資金，AI 驅動的機器手臂技術將改變未來！
- 全方位理解 Anthropic 的 AI：揭開 Claude 的神祕面紗！
- 微軟刪除 AI 資料中心租賃，背後原因何在？
