人工智慧正在摧毀舊網路，新網路陷入困境
評析：人工智慧對網路的經濟模式造成改變，使得生成低質量內容變得更加廉價。我們才剛剛開始看到這些變化的影響。
在近幾個月中，警示和跡象以日益加速的速度不斷累積。Google 試圖消滅那十條藍色連結。推特被機器人和藍勾滿佈。亞馬遜變得充斥著垃圾，TikTok 也越來越糟糕。線上媒體的裁員不斷。招聘職位中的「AI 編輯」期望每週輸出「200 至 250 篇文章」。ChatGPT 被用來生成整個垃圾網站。Etsy 充斥著「由 AI 生成的垃圾」。Chatbot 相互引用，形成了一個謠言迴圈。頑皮漢們發起黑屏抗議。Stack Overflow 社區主管進行罷工。網際網路檔案館與資料爬蟲搏鬥，《維基百科被人工智慧撕裂》……舊的網路正在死亡，而新的網路正苦苦地試圖降臨。當然網路一直都在奄奄一息，多年來被那些轉移流量的應用程式或獎勵縮短了注意力的算法所毀滅。但是在 2023 年，它正在再次瀕臨死亡的邊緣——正如上面的列舉所暗示的，這次有一個新的催化劑：人工智慧。
人工智慧讓網路超負荷運轉
問題在於，非常千裏眼式地解釋，幾年前的網路曾經是個人創作的場所。人們建立自己的主頁、論壇和郵件列表，並從中賺取一點錢。然後企業們決定他們能做得更好。他們創造了光滑功能豐富的平臺，向任何人開放加入。他們把一個個方框放在我們面前，我們用文字和影象填充這些方框，用以呈現內容給他人欣賞。企業追求規模，因為一旦在任何地方聚集足夠多的人，通常就有一種方法可以從中賺錢。但是人工智慧改變了這些假設。給予資金和計算能力，特別是當前流行的生成模型，人工智慧系統輕而易舉地擴充套件。它們大量生成文字與影象，很快還將生成音樂和影片。它們的輸出潛在地可能超過或與我們依賴的用於新聞、訊息和娛樂的平臺競爭。然而這些系統的品質通常很差，並且它們的建立方式攸關當今網路生態的寄生現象。這些模型是在上一個網路時代形成的一層層資料上進行訓練的，它們模仿得並不完美。公司們從開放網路中爬取訊息，將其精煉成成本低廉的機器生成內容，然後這種產品與之前的平臺和人們競爭來吸引注意力。網站和使用者都在應對這些變化，試圖決定如何適應以及他們是否能夠適應。Google 正在改變搜尋方式，把人工智慧生成的答案放在資料來源之前。Reddit 的版主們在公司表示將大幅提高使用其 API 的費用後展開黑屏抗議，公司高管表示這些變化（部分原因）是對 AI 公司爬取其資料的回應。Reddit 的創辦人兼執行長史蒂夫·賀夫曼在接受《紐約時報》採訪時表示:「Reddit 的資料資料庫非常有價值，但我們不需要免費將所有價值付給全球最大的公司。」這不是唯一的因素 – Reddit 正在試圖在今年晚些時候計劃的首次公開募股之前，從該平臺上獲得更多收入 – 但它顯示了這種爬取對當前網路而言既是威脅也是機遇，這使得公司們重新思考他們平臺的開放性。
人工智慧對維基百科、Stack Overflow 和 Google 的影響
近幾個月，一些網路上最流行、最有用的目的地，如 Reddit、維基百科、Stack Overflow 和 Google，的討論和實驗揭示了人工智慧系統的出現所帶來的壓力。Reddit 的版主們在公司表示將大幅提高使用其 API 的費用後展開黑屏抗議，公司高管表示這些變化（部分原因）是對 AI 公司爬取其資料的回應。維基百科早已熟悉這種被爬取的方式。該公司的訊息長期以來一直被 Google 重新利用來提供「知識面板」，而近年來這家搜尋巨頭還開始為這些訊息支付費用。但是維基百科的版主們正在評論如何利用新能力更好地使用 AI 語言模型來為網站本身撰寫文章。他們對這些系統的問題非常清楚，這些系統會以迷惑人的流利性虛構事實和來源，但他們知道這些系統在速度和範圍上具有明確的優勢。「對於維基百科而言，風險在於人們可能透過投入未經檢查的東西降低了質量，」Amy Bruckman 教授是網路社區教授的作者稱，「我認為把它用作初稿沒有問題，但每一個觀點都必須經過取證。」Stack Overflow 提供了一個類似但可能更極端的例子。與 Reddit 一樣，它的主管們也在罷工，像維基百科的編輯們一樣，他們也擔心機器生成的內容的質量。當 ChatGPT 去年推出時，Stack Overflow 是第一個禁止該輸出的主要平臺。正如當時主管們寫到的那樣：「主要問題在於，雖然 ChatGPT 生成的答案往往是錯誤的，但它們看起來可能是好的，而且答案非常容易生成。」花費太多時間對結果進行排序，因此主管們決定禁止該答案。然而該網站的管理層卻有其他計劃。該公司增加了使使用者停止發布 AI 內容所需的證據負擔，並宣布希望利用這項技術。與 Reddit 一樣，Stack Overflow 計劃向爬取其資料的公司收費，同時建立自己的 AI 工具，可能是與它們競爭。與版主的沖突是關於該網站的標準和誰有權將它們強制執行。版主們表示無法相信人工智慧輸出，但高管們卻認為這是冒險的價值。
然而所有這些困難相比於 Google 正在發生的變化顯得微不足道。Google 搜尋支撐著現代網路的經濟，將關注和收入分配給整個網際網路。Google 被必應 AI 和 ChatGPT 作為替代搜尋引擎的普及所刺激，並且正在試驗將其傳統的 10 個藍色連結替換為人工智慧生成的摘要。但是如果該公司繼續推行這一計劃，那麼這些變化將是劇變的。《湯姆硬體》網站主編 Avram Piltch 撰寫的有關 Google 人工智慧搜尋測試版的一篇文章突顯出了一些問題。Piltch 表示 Google 的新系統實際上是一個「抄襲引擎」。它生成的人工智慧摘要經常將文字從網站上逐字逐句地復制，但將這些內容置於來源連結之上，使它們失去了流量。這是 Google 長期以來一直在努力推動的一個變化，但是看一下 Piltch 文章中的截圖，你就會看到平衡已經明顯傾向於節錄的內容。如果這種新的搜尋模式成為常態，它可能會損害整個網路，並讓資金緊缺的網站很可能被排擠出市場，同時 Google 自己也會沒有人工生成的內容可以包裝。同樣，這是人工智慧動力的結果——根據其他人的工作生成廉價內容——如果 Google 繼續進行當前的人工智慧搜尋體驗，其影響則難以預測。潛在地，它會破壞我們大多數人認為有用的整個網路範圍 — 從產品評論到菜譜部落格、業餘網頁、新聞機構和維基。網站可以透過約束進入並收費使用來保護自己，但這也將是網路經濟的一次巨大重組。最終 Google 可能會毀掉創造其價值的生態系統，或者對其進行無可挽回的改變，威脅著其自身的存在。
探討與建議：當人工智慧接管搜尋
評析：推動人工智慧接管訊息流
如果我們讓人工智慧主導訊息流，後果會如何？這是否會有所不同？答案可能是，它會降低整個網路的質量。正如 Piltch 在他的評論中指出的那樣，盡管人工智慧可以將文字重新組合，但最終創造的基礎資料仍然是人創造的，不論是記者撥打電話查證事實，還是 Reddit 使用者告訴你如何修理新的 DeWalt 無線麻花鑽的電池問題。相比之下，由人工智慧語言模型和聊天機器人生成的訊息通常是不正確的。困難在於，當它們是錯誤的時候，這些錯誤很難被發現。這裡有一個例子。今年年初，我正在研究使用語言模型（如 ChatGPT）存取網路服務並代表使用者執行操作（如訂購雜貨或預訂航班）的 AI 代理系統。在一個描述這項技術潛力的 Twitter 熱門帖子中，作者想像了這樣一個場景：一家防水鞋公司想要委託一份有關潛在 competitor 的市場調研報告，並轉而向 AutoGPT（OpenAI 語言模型之上建立的系統）生成一份報告。結果的報告非常基本和可預測（你可以在這裡閱讀）。它列出了五家公司，包括 Columbia、Salomon 和 Merrell，並列舉了它們產品的利弊。我們被告知：“Columbia 是一個眾所周知的品牌，在戶外裝備和鞋類方面有信譽。”“他們的防水鞋有各種款式”，而且“他們的價格在市場上具有競爭力。”你可能會認為這樣的訊息毫無價值（你是對了），但它也在潛移默化之間存在錯誤。人工智慧生成的內容通常是微妙的錯誤。為了檢查報告的內容，我將它交給了一個我認為是可靠的訊息來源：r/hiking Subreddit 的版主 Chris。Chris 告訴我，報告本質上只是填充物，“其中存在許多字詞，但其實內容沒有真正的價值”。它沒有提到男式和女式鞋子之間的重要因素，也沒有提到使用的面料型別。它犯了許多錯誤，評級品牌的大小網路存在程度高的更有價值。總的來說 Chris 認為這份報告中沒有專業知識，只有猜測。“如果有人問我同樣的問題，我會給出不同的答案，”他說。他續稱，“從人工智慧那裏獲取建議很有可能會在落地徒步旅行的時候使你的腳受傷。”這正是 Stack Overflow 的主管們指出的問題：人工智慧生成的錯誤訊息是隱匿性的。它們表述流利，但缺乏現實世界的體驗基礎，因此需要時間和專業知識來解開。如果由機器生成的內容取代了人類創作的內容，很難（甚至不可能）完全估算出損害情況。的確，人類也是許多錯誤訊息的來源，但如果人工智慧系統還壓制了當前人類專業知識的平臺，那麼修正我們集體的錯誤將變得更加困難。越來越多的網站充斥著廉價且有缺陷的人工智慧生成內容。
評論：
評析：人工智慧對網路生態的影響
人工智慧對網路的影響並不簡單，上面只是引用了一些例子，還涉及許多不同的機制。在某些情況下，人工智慧的威脅被用來為其他原因所期望的變革（如 Reddit）提供合理化，而在其他情況下，人工智慧是創造一個網站價值的工人與經營者之間鬥爭的武器（Stack Overflow）。還有其他領域，人工智慧填寫方框的能力的結果是產生了不同的影響，從社交網路試驗人工智慧參與到商城網站上人工智慧生成的低質量內容與其他商品競爭。在每種情況下，與人工智慧的能力與人的書寫能力相比，它的原始豐富程度都改變了一個平臺。許多網路上最成功的網站都是利用規模為自己所用的網站，透過增加社交聯絡或產品選擇，或者透過整理構成網際網路本身的龐大訊息資料庫。但是這種規模以大量的人類建立的價值為基礎，而且在大規模生產方面，人類無法戰勝人工智慧（即使在創造人工智慧所需的許多人工工作背後仍然有大量的人工）。在機器學習領域，有一篇著名的論文，被稱為“痛苦的教訓”，指出幾十年的研究表明，改進人工智慧系統的最佳方法不是試圖設計智慧，而是簡單地投入更多的計算能力和資料來解決問題。這個教訓痛苦，因為它表明機器規模打敗人類管理。網路可能也是如此。
社論：
評析：新網路的艱難誕生
新網路的誕生一直面臨著困難，我們現在所做的決定將塑造它的成長。這不僅僅是一場關於訊息的戰鬥——關於誰創造資訊、如何存取資訊以及誰獲得報酬的戰鬥。然而即使戰鬥是熟悉的，也不意味著它不重要，也不保證後續系統會比現有系統好。新網路的誕生正在艱難地進行中，我們現在作出的決策將決定它的發展方向。
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 藍天公司支援專案，促使 Mastodon 應用程式（如 Ivory）能在其網路上執行
