AI 作爲煉金術：科學與政治交錯之處
科學性研究與 AI 的關系
一篇《紐約時報》的文章中提到了一個引人注目的觀點——AI 是否具有意識。這篇文章報道了一份新報告，這份報告基於一個全新的意識科學，提出了一系列可衡量的特性，可能表明機器存在一種存在感。這篇文章的發表引起了我的注意，因爲就在幾天前，我與機器倫理學家託馬斯·克倫德爾·吉爾伯特進行了一次長時間的交談。他長期研究科學與政治的交集，最近與 Hugging Face 研究員內森·蘭伯特一起推出了一檔新的播客節目《先發表》，節目上回應了對當今 AI 作爲真正科學努力的質疑。吉爾伯特認爲，當今許多 AI 研究在本質上並不能被稱爲科學，反而可以被看作是一種新型的煉金術——中世紀化學的前身，也可被定義爲一種“似乎神奇的變化過程”。就像煉金術一樣，AI 扎根於“神奇”的隱喻。 對於深度學習和大規模語言模型的許多批評者，包括那些建造它們的人，有時會把 AI 稱爲一種煉金術，吉爾伯特在一次影片通話中告訴我。他解釋說，他們的意思是，它並不是科學的，因爲它不具備嚴謹性或實驗性。但他補充說，當他說 AI 是煉金術時，實際上他的意思更加字面。他說：“建造它的人實際上認爲他們所做的事情是神奇的。這在很大程度上源自一些隱喻和觀念，這些隱喻和觀念現在在過去幾個月的輿論中已經廣泛傳播，比如 AGI 和超級智慧。”他解釋說，主導的想法是智慧本身是標量的——僅取決於模型所使用的資料量和計算約束。但他強調就像煉金術一樣，當今的許多 AI 研究並不一定試圖成爲我們所知道的科學。例如，歷史上的煉金術實踐沒有同行評審或公開分享結果。而當今許多封閉的 AI 研究也是如此。他說：“煉金術是非常祕密的，坦白說，就像現在的 AI 一樣。這在很大程度上是一種對建立在網際網路結構中的智慧數量的神奇屬性的假設，然後透過構建計算和結構使其能夠提取我們幾十年來一直在建立的知識網路，然後觀察結果。”AI 與認知失調
我對吉爾伯特對 AI 作爲煉金術的看法很感興趣，因爲在當前的 AI 討論中，我覺得有一些非常明顯的認知失調：參議院閉門舉行的“AI 洞察論壇”上，埃隆·馬斯克呼籲 AI 監管機構充當“裁判員”，以確保 AI“安全”，同時積極致力於將微晶片植入人腦，並使人類成爲“多星球物種”。歐盟議會表示 AI 的絕滅風險應成爲全球優先事項，與此同時 OpenAI 的執行長薩姆·奧爾特曼表示幻覺可以視爲生成 AI 的“魔力”之一，而“超級智慧”只是一個“工程問題”。DeepMind 的聯合創始人穆斯塔法·莎利曼對《麻省理工科技評論》不願解釋他的公司 Inflection 的 Pi 是如何避免產生有毒產出的——“這是敏感問題，我不打算透露太多細節，”他說——同時呼籲政府對 AI 進行監管，並任命內閣級科技部長。這讓我感到暈頭轉向，但吉爾伯特關於 AI 作爲煉金術的看法讓這些看似相反的觀點變得有了一定的透視。他認爲“魔術”來自於介面，而不是模型。 吉爾伯特澄清說，他並不是在說 AI 作爲煉金術的觀點是錯誤的，而是它的科學嚴謹性需要被稱爲真實情況。他解釋說：“他們正在構建的系統是任意智慧的，而不是像人類一樣聰明——無論這意味着什麼——只是任意智慧。”他繼續說道：“這不是一個明確界定的問題，因爲它對智慧做出了一些我們幾乎沒有或沒有證據支援的假設，這是一種內在的神祕或超自然的主張。”他說，AI 的構建者們“不需要知道技術的機制”，但他們“對此足夠感興趣和動力足夠，而且實際上具備資源來盡情探索”。他還補充說，生成 AI 的魔力並不來源於模型本身。“人們喜歡的魔術是，當我和 ChatGPT 玩耍時，我感知自己在和一臺機器交流。這不是模型的屬性，而是 ChatGPT 的屬性——是介面的屬性。”支援這一觀點的是，Google 旗下的 AI 部門 DeepMind 的研究人員最近發表的工作表明，人工智慧可以最佳化自己的提示，並在被提示“深呼吸，逐步解決這個問題”時執行得更好，盡管研究人員不清楚爲什麼這種咒語能起到如此好的效果（尤其是考慮到 AI 模型根本沒有呼吸）。Alchemy-AI 技術,黃金煉金術,科學,重要性,AI 研究解密
延伸閱讀
- Atlan 籌集了 1.05 億美元，其資料控制平面的重要性得到提升
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 為什麼 RAG 無法解決生成式 AI 的幻覺問題
- CommentSold：AI 技術讓直播賣貨更加方便
- OctoAI 推出 OctoStack，讓私人 AI 模型部署更輕鬆
- 為何伊隆·馬斯克的 AI 公司“開源”Grok 很重要——以及不重要的原因
- AI 動力對話機器人 ChatGPT：一切你需要知道的
- Morph Studio 讓您使用 Stability AI 生成的影片製作電影
- AI 驅動的 ChatGPT：一切你需要知道的事情
- 最新的近室溫超導體真的嗎？不要抱太大期望
