現代 AI 技術中的生殖問題
在人類繁殖方面，當一群人與基因相似的成員繁殖時，會引起基因資源的腐化，這種情況被稱為近親交配。這樣的交配往往會導致後代出現嚴重的健康問題和其他畸形，因為它加固了隱性基因的表達。當近親交配在廣泛存在時（例如現代畜牧業），整個基因庫可能會隨著時間流逝而退化，這加劇了畸形的發生，因為族群的多樣性越來越低。在生成 AI 領域，也存在類似的問題，這可能威脅到 AI 系統的長期有效性和人類文化的多樣性。從進化的角度來看，第一代大型語言模型（LLM）和其他生成 AI 系統是在相對清潔的人類文化做為基礎上進行訓練的，使用大量的文字、視覺和音訊內容來代表我們文化感知的精髓。
然而隨著網際網路上洪水般湧現的 AI 生成物，存在著新的 AI 系統將訓練於包含大量 AI 生成內容的資料集的重大風險。這些內容並不屬於直接的人類文化，而是以不同程度的扭曲來模擬人類文化，從而透過近親交配來破壞“基因庫”。隨著生成 AI 系統的使用增加，這個問題只會加劇。因為訓練於人類文化的副本的新一代 AI 系統將以日益扭曲的人類文化副本來填充世界，從而使下一代 AI 系統訓練於人類文化的副本的副本，這樣以此類推。
生成交配的兩個問題
我將這個新興問題稱為“生成交配”，並擔心這會帶來兩個令人擔憂的後果。首先這可能導致生成 AI 系統的退化，因為近親交配降低了它們準確地表達人類語言、文化和文物的能力。其次生成交配可能將越來越多的“畸形”引入我們的文化基因庫中，這些畸形實際上並不代表我們的集體感知。
關於第一個問題，最近的研究表明，生成交配可能會導致 AI 系統崩潰，使其所生成的藝術品隨著時間的推移越來越差，就像是一個影印的影印的影印。這有時被稱為“模型崩潰”，是由於“資料毒化”引起的。最近的研究發現，隨著 AI 生成資料在訓練集中的增加，生成模型的質量會越來越“命中注定”變差。
關於第二個問題-對人類文化的扭曲-生成交配可能在我們的藝術品中引入越來越大的“畸形”，直到我們的文化受到生成 AI 系統的影響超過人類創造者。由於最近的一項美國聯邦法院的判決確保 AI 生成的內容無法受版權保護，這為 AI 藝術品比受法律約束的人類內容更廣泛地使用、複製和分享鋪平了道路。這可能意味著人類藝術家、作家、作曲家、攝影師和影片製作人的作品，由於受到版權保護，對我們的集體文化方向的影響可能比 AI 生成的內容更小。
區別 AI 內容和人類內容
解決生成交配問題的一個潛在解決方案是使用能夠區分生成內容和人類內容的 AI 系統。許多研究人員認為這將是一個簡單的解決方案，但事實證實，這比原先看起來要困難得多。例如，今年年初，OpenAI 宣布推出一款“AI 分類器”，旨在區分 AI 生成的文字和人類撰寫的文字。這項技術有望用於檢測假檔案，或在教育環境中用於發現作弊學生。同樣的技術也可以用來從訓練資料集中過濾掉 AI 生成的內容，防止生成交配。然而在 2023 年 7 月，OpenAI 宣布由於其低準確率，他們的 AI 分類器將不再提供，他們聲稱“當前無法可靠地檢測所有由 AI 生成的文字”。
給生成藝術品加水印
另一種潛在的解決方案是要求 AI 公司將“水印”資料嵌入到所有生成藝術品中。這對於許多目的都很有價值，從幫助識別假檔案和錯誤訊息，到防止學生作弊。然而很遺憾，水印技術可能只在某種程度上起到一些效果，特別是對於可編輯的以文字為基礎的檔案，這樣一來，雖然受到水印的侵害，但生成交配問題仍然存在。然而美國政府正在推動採用水印技術的解決方案，上個月宣布，七家最大的 AI 公司已同意“開發強大的技術機制，確保使用者知道內容是由 AI 生成的，例如透過水印技術”。當前還不清楚這些公司是否能夠在技術上實現這一目標以及他們是否以有助於減少生成交配的方式部署解決方案。
眺望未來，而非回顧過去
即使我們解決了生成交配問題，我擔心對 AI 的廣泛依賴可能對人類文化造成壓制。這是因為生成 AI 系統明確地被訓練來模擬過去的風格和內容，這引入了一個強烈的向後看的偏見。我知道有人會論斷人類藝術家也受到先前作品的影響，但人類創作者將自己的感知和經驗帶入到創作過程中，以思考地創造新的文化方向。當前的 AI 系統在生成任何內容時並沒有個人的靈感。再加上生成交配帶來的扭曲效應，我們可能面臨著一個未來，其中我們的文化受到看不見的力量向過去拉扯的束縛，同時又存在著不忠實地代表人類創造思想、情感和洞察力的“基因變形品”。除非我們透過技術和政策保護來解決這些問題，否則我們很快可能會發現，我們的文化受到生成 AI 系統的影響比實際的人類創作者更大。
