蘋果從排行榜中移除了模仿 Meta Threads 應用程式的 AI 內容生成器
問題
最近，一個名為「Threads for Insta」的應用程式在蘋果的 App Store 社交媒體類別中排名上升迅猛，該應用程式利用 AI 模型讓使用者透過生成的方式發布貼文。然而這款應用程式被資訊安全研究人員發現是 Meta Threads 應用程式的模仿品。在德國、法國、西班牙、瑞典和荷蘭等國家，它曾登上社交媒體類別的排行榜，但如今蘋果已將其從 App Store 中移除。蘋果還暫停了 SocialKit TLD 開發人員帳戶和他們所有的應用程式。
背景
Meta Threads 是 Facebook 旗下的一個與 Twitter 競爭的應用程式，該應用在推出後的五天內就吸引了 1 億名使用者註冊。然而由於在歐盟地區尚未推出，一些利用 AI 生成內容的應用程式試圖利用這個機會獲取優勢。
據分析公司 Sensor Tower 表示這款模仿應用程式在短時間內已經獲得了 30 萬次的下載量，大部分下載來自歐盟的使用者。該公司的高級分析師 Abe Yousouf 表示該應用程式在荷蘭、德國、法國、西班牙和義大利的 iOS App Store 綜合排行榜中名列前 20 位。與 Meta 的 Threads 應用程式推出後，這款模仿應用程式似乎迅速崛起。
問題並不僅僅存在於 App Store 中。在 Instagram 於 7 月 6 日推出 Threads 之前，已有一些冒充應用程式在 Google Play Store 上出現，最終被 Google 移除。
這種模仿熱門應用程式的行為在 App Store 中並不罕見。今年早些時候，有幾款名為「ChatGPT」的應用程式利用了 OpenAI 沒有官方 ChatGPT 應用程式的空缺。當時，這家 AI 公司甚至還沒有官方的 ChatGPT API。
最近，Twitter 威脅要起訴 Meta，指控他們從埃隆·馬斯克擁有的公司挖角人才。作為回應，Meta 發言人 Andy Stone 表示 Threads 工程團隊沒有前 Twitter 員工，這種說法是不正確的。
哲學討論
這起在 App Store 中出現的模仿 Meta Threads 應用程式事件引發了一些重要的哲學問題。首先這件事引起了人們對於偽冒產品的警覺。當一個受歡迎的應用程式推出後，模仿品隨即出現。這種行為可能會誤導使用者，或陷入被詐騙的風險中。這就引發了對於 App Store 是否有足夠濾除偽冒應用程式的機制的擔憂。蘋果和 Google 作為兩大主要的應用程式平臺，有責任保護其使用者免受此類騙局。
其次這起事件也觸發了對於 AI 技術濫用的思考。AI 生成內容的技術在許多方面都具有潛力，但同時也帶來了一些風險。如果不受監管，AI 生成內容的工具可能被用於欺騙和操縱大眾。在這個特定案例中，AI 模型被用來模仿 Meta 的 Threads 應用程式，進一步增加了對 AI 技術適當使用的迫切需求。
社論和建議
這起事件揭示了 App Store 中的一個漏洞，該漏洞可能讓使用者陷入被詐騙的風險中。作為全球最大的應用程式平臺之一，蘋果應該對於在其平臺上出現的模仿應用程式加固監管，以保護使用者的權益和安全。這可以透過更嚴格的審核機制和更頻繁的檢查來實現。
對於使用者來說當下載新的應用程式時，他們應該保持警惕，特別是對於與受歡迎的應用程式相關的偽冒產品。他們應該確保只從官方渠道下載應用程式，避免在不知情的情況下將個人資訊洩露給不良方。
最後這起事件應該引起開發者和 AI 科技公司的關注。開發者應該遵從道德準則，避免開發和推出與其他應用程式相似且具有誤導性的產品。AI 科技公司則需要加固對於其技術濫用的監管，並在產品設計和使用中納入一些道德和法律考量。
延伸閱讀
- Strava 啟用人工智慧防篡改排行榜，推出「家庭」計畫、深色模式等
- Google I/O 盛會 AI 領域的重大訊息
- 蘋果宣布針對 iPhone 和 iPad 使用者推出新的無障礙功能
- Google I/O 2024：AI 與 Android 大揭祕
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- OpenAI 考慮允許 AI 色情內容？
- Google 為 Android 打造了一些最早期的社交應用程式，包括 Twitter 和其他應用
- 蘋果、Proton 和 Wire 加密服務協助西班牙警方辨認活躍份子
- 蘋果在 iPad 活動上預告 AI 改進，包括 M4 的神經引擎
- 蘋果發布全新 iPad 系列
