縮減還是提升：生成式人工智慧將如何改變我們的思考方式？
序
作者：Sarah Vivienne Bentley、Claire Mason、Einat Grimberg
編者按：透過科學 X 的編輯流程和政策，我們透過以下方式確保此文章的可信性：事實核查、可靠來源、研究人員撰寫和校對。
引言
資訊是寶貴的貨幣。感謝科技，網上存在著數百萬兆位元組的資訊。人工智慧（AI）工具，例如 ChatGPT，現在代表我們管理這些資訊，整理並將其以摘要的方式呈現。然而將資訊管理外判給 AI，雖然非常方便，但也帶來了後果。它不僅可能影響我們的思考，還可能影響我們的思考方式。在 AI 算法決定哪些資訊被延續下去，哪些被丟在一旁的世界中，會發生什麼情況呢？
個人化 AI 的崛起
生成式人工智慧工具是建立在訓練模型的基礎上，這些模型通常訓練過程中使用了數百千兆位元組的預先存在的資料。透過這些資料，它們學會了如何自主生成文字、影象、音訊和影片內容，並能根據使用者的查詢拼湊出最可能的答案。儘管 ChatGPT 是在不到一年前公開釋出的，但已被數百萬人使用。今年六月，該聊天機器人的自訂回覆功能使其更加實用。這個功能允許使用者儲存定制的指示，解釋他們使用機器人的目的以及希望它如何回應。這只是“個人化 AI”的幾個例子，這是一類能夠根據使用者的具體需求和偏好生成內容的人工智慧工具。另一個例子是 Meta 最近推出的虛擬助手 Meta AI。這個聊天機器人可以進行對話、生成影象以及在 WhatsApp、Messenger 和 Instagram 等平臺上執行任務。DeepMind 的人工智慧研究者和共同創始人穆斯塔法·蘇雷曼（Mustafa Suleyman）將個人化 AI 描述為一種關係，而不僅僅是一種技術。“它是一個朋友...它會一直陪伴著你，與你並肩而行。我喜歡把它想像成你在角落裡擁有一位優秀的教練。”然而這些技術也引起了爭議，人們對於資料所有權、偏見和錯誤訊息提出了擔憂。科技公司正在努力尋找解決這些問題的方法。例如，Google 為其搜尋生成體驗（Search Generative Experience，SGE）工具所產生的 AI 生成摘要新增了來源連結。該工具此前因提供不準確和有問題的回應而受到批評。
技術已經改變了我們的思考方式
生成式人工智慧工具——尤其是那些針對個人化的工具——將如何改變我們的思考方式？為了理解這一點，讓我們回顧一下上世紀九十年代初，網際網路首次進入我們的生活。人們突然可以獲取關於幾乎任何領域的資訊，無論是銀行業、烘焙業、教育還是旅遊。快將近三十年之後，研究已經顯示出與這個全球“蜂巢思維”的聯絡如何改變了我們的認知、記憶和創造力。例如，立即獲取相當於 3055 億頁資訊的能力增加了人們對元知識的認識──也就是對知識的理解。這樣做的一個影響是“Google 效應”，指的是線上搜尋增強了我們找到資訊的能力，但減少了我們對於該資訊的記憶。一方面，把思考外包給搜尋引擎已經被證實能夠釋放出我們用於解決問題和進行創造性思維的心智儲備。另一方面，線上資訊檢索則與引起分心和依賴性的增加有所聯動。研究還表明，線上搜尋──無論檢索到的資訊數量或質量如何────增加了我們的認知自尊。換句話說，它增加了我們對自己的“聰明才智”的信心。再加上質疑資訊是需要付出努力的事實──以及我們對搜尋引擎的信任越高，我們批判性接觸其結果的次數就越少──你就能夠理解為什麼擁有前所未有的大量資訊並不一定使我們變得更加聰明。
我們應該“外包”我們的思考嗎？
現在的生成式人工智慧工具不僅僅給我們提供搜尋結果，還為我們找到資訊、評估資訊、綜合資訊並向我們呈現。這可能會產生什麼影響呢？如果不推動人為控制質量，前景並不樂觀。生成式人工智慧工具能夠生成讓我們感到熟悉、客觀和有吸引力的回答，這使我們更容易受到認知偏差的影響。自動化偏見是一種人類過度高估機器提供資訊的傾向。而單純曝光效應則是在於我們更容易相信那些被呈現為熟悉或個人化的資訊。社交媒體研究可以幫助我們理解這些偏見的影響。在一項 2016 年的研究中，Facebook 使用者報告稱，他們根據線上發布的新聞內容的數量而感到自己“知道得更多”，而不是他們實際閱讀了多少內容。我們也知道，社交媒體算法創造的“過濾氣泡”──即根據我們的興趣篩選我們的訊息推送──會約束我們接觸到的內容的多樣性。這種訊息縮減的過程已被證實會增加意識形態極化，因為它減少了人們考慮其他觀點的可能性。它還增加了我們接觸到虛假新聞的可能性。
使用 AI 提高智慧而不是傾斜思維
毫無疑問，生成式人工智慧是一股革命性的力量，具有為社會做出重大貢獻的潛力。它可以透過提供個人化內容改變我們的教育系統，透過加快寫作和資訊分析來改變我們的工作方式，透過推動科學探索的邊緣來擴充套件我們的科學發現的範圍。它甚至具有積極改變我們的人際關系，幫助我們與他人溝通和建立聯系，有時也可以作爲一種合成伴侶。然而如果我們只能根據過去來判斷未來，現在或許是時候反思網際網路和社交媒體如何改變了我們的認知，並採取一些預防措施。鼓勵人類自主思維和批判性思維的 AI 工具是一個好的開始，同時發展 AI 素養也是一個好的開始。最終我們需要理解我們自己和 AI 的優勢和弱點，以確保這些“思考”伴侶幫助我們創造我們想要的未來，而不是隨機列表上的未來。
來源：Dumbing down or wising up: How will generative AI change the way we think?
作者：Sarah Vivienne Bentley、Claire Mason、Einat Grimberg
編者按：透過科學 X 的編輯流程和政策，我們透過以下方式確保此文章的可信性：事實核查、可靠來源、研究人員撰寫和校對。
引言
資訊是寶貴的貨幣。感謝科技，網上存在著數百萬兆位元組的資訊。人工智慧（AI）工具，例如 ChatGPT，現在代表我們管理這些資訊，整理並將其以摘要的方式呈現。然而將資訊管理外判給 AI，雖然非常方便，但也帶來了後果。它不僅可能影響我們的思考，還可能影響我們的思考方式。在 AI 算法決定哪些資訊被延續下去，哪些被丟在一旁的世界中，會發生什麼情況呢？
個人化 AI 的崛起
生成式人工智慧工具是建立在訓練模型的基礎上，這些模型通常訓練過程中使用了數百千兆位元組的預先存在的資料。透過這些資料，它們學會了如何自主生成文字、影象、音訊和影片內容，並能根據使用者的查詢拼湊出最可能的答案。儘管 ChatGPT 是在不到一年前公開釋出的，但已被數百萬人使用。今年六月，該聊天機器人的自訂回覆功能使其更加實用。這個功能允許使用者儲存定制的指示，解釋他們使用機器人的目的以及希望它如何回應。這只是“個人化 AI”的幾個例子，這是一類能夠根據使用者的具體需求和偏好生成內容的人工智慧工具。另一個例子是 Meta 最近推出的虛擬助手 Meta AI。這個聊天機器人可以進行對話、生成影象以及在 WhatsApp、Messenger 和 Instagram 等平臺上執行任務。DeepMind 的人工智慧研究者和共同創始人穆斯塔法·蘇雷曼（Mustafa Suleyman）將個人化 AI 描述為一種關係，而不僅僅是一種技術。“它是一個朋友...它會一直陪伴著你，與你並肩而行。我喜歡把它想像成你在角落裡擁有一位優秀的教練。”然而這些技術也引起了爭議，人們對於資料所有權、偏見和錯誤訊息提出了擔憂。科技公司正在努力尋找解決這些問題的方法。例如，Google 為其搜尋生成體驗（Search Generative Experience，SGE）工具所產生的 AI 生成摘要新增了來源連結。該工具此前因提供不準確和有問題的回應而受到批評。
技術已經改變了我們的思考方式
生成式人工智慧工具——尤其是那些針對個人化的工具——將如何改變我們的思考方式？為了理解這一點，讓我們回顧一下上世紀九十年代初，網際網路首次進入我們的生活。人們突然可以獲取關於幾乎任何領域的資訊，無論是銀行業、烘焙業、教育還是旅遊。快將近三十年之後，研究已經顯示出與這個全球“蜂巢思維”的聯絡如何改變了我們的認知、記憶和創造力。例如，立即獲取相當於 3055 億頁資訊的能力增加了人們對元知識的認識──也就是對知識的理解。這樣做的一個影響是“Google 效應”，指的是線上搜尋增強了我們找到資訊的能力，但減少了我們對於該資訊的記憶。一方面，把思考外包給搜尋引擎已經被證實能夠釋放出我們用於解決問題和進行創造性思維的心智儲備。另一方面，線上資訊檢索則與引起分心和依賴性的增加有所聯動。研究還表明，線上搜尋──無論檢索到的資訊數量或質量如何────增加了我們的認知自尊。換句話說，它增加了我們對自己的“聰明才智”的信心。再加上質疑資訊是需要付出努力的事實──以及我們對搜尋引擎的信任越高，我們批判性接觸其結果的次數就越少──你就能夠理解為什麼擁有前所未有的大量資訊並不一定使我們變得更加聰明。
我們應該“外包”我們的思考嗎？
現在的生成式人工智慧工具不僅僅給我們提供搜尋結果，還為我們找到資訊、評估資訊、綜合資訊並向我們呈現。這可能會產生什麼影響呢？如果不推動人為控制質量，前景並不樂觀。生成式人工智慧工具能夠生成讓我們感到熟悉、客觀和有吸引力的回答，這使我們更容易受到認知偏差的影響。自動化偏見是一種人類過度高估機器提供資訊的傾向。而單純曝光效應則是在於我們更容易相信那些被呈現為熟悉或個人化的資訊。社交媒體研究可以幫助我們理解這些偏見的影響。在一項 2016 年的研究中，Facebook 使用者報告稱，他們根據線上發布的新聞內容的數量而感到自己“知道得更多”，而不是他們實際閱讀了多少內容。我們也知道，社交媒體算法創造的“過濾氣泡”──即根據我們的興趣篩選我們的訊息推送──會約束我們接觸到的內容的多樣性。這種訊息縮減的過程已被證實會增加意識形態極化，因為它減少了人們考慮其他觀點的可能性。它還增加了我們接觸到虛假新聞的可能性。
使用 AI 提高智慧而不是傾斜思維
毫無疑問，生成式人工智慧是一股革命性的力量，具有為社會做出重大貢獻的潛力。它可以透過提供個人化內容改變我們的教育系統，透過加快寫作和資訊分析來改變我們的工作方式，透過推動科學探索的邊緣來擴充套件我們的科學發現的範圍。它甚至具有積極改變我們的人際關系，幫助我們與他人溝通和建立聯系，有時也可以作爲一種合成伴侶。然而如果我們只能根據過去來判斷未來，現在或許是時候反思網際網路和社交媒體如何改變了我們的認知，並採取一些預防措施。鼓勵人類自主思維和批判性思維的 AI 工具是一個好的開始，同時發展 AI 素養也是一個好的開始。最終我們需要理解我們自己和 AI 的優勢和弱點，以確保這些“思考”伴侶幫助我們創造我們想要的未來，而不是隨機列表上的未來。
來源：Dumbing down or wising up: How will generative AI change the way we think?
個人化 AI 的崛起
生成式人工智慧工具是建立在訓練模型的基礎上，這些模型通常訓練過程中使用了數百千兆位元組的預先存在的資料。透過這些資料，它們學會了如何自主生成文字、影象、音訊和影片內容，並能根據使用者的查詢拼湊出最可能的答案。儘管 ChatGPT 是在不到一年前公開釋出的，但已被數百萬人使用。今年六月，該聊天機器人的自訂回覆功能使其更加實用。這個功能允許使用者儲存定制的指示，解釋他們使用機器人的目的以及希望它如何回應。這只是“個人化 AI”的幾個例子，這是一類能夠根據使用者的具體需求和偏好生成內容的人工智慧工具。另一個例子是 Meta 最近推出的虛擬助手 Meta AI。這個聊天機器人可以進行對話、生成影象以及在 WhatsApp、Messenger 和 Instagram 等平臺上執行任務。DeepMind 的人工智慧研究者和共同創始人穆斯塔法·蘇雷曼（Mustafa Suleyman）將個人化 AI 描述為一種關係，而不僅僅是一種技術。“它是一個朋友...它會一直陪伴著你，與你並肩而行。我喜歡把它想像成你在角落裡擁有一位優秀的教練。”然而這些技術也引起了爭議，人們對於資料所有權、偏見和錯誤訊息提出了擔憂。科技公司正在努力尋找解決這些問題的方法。例如，Google 為其搜尋生成體驗（Search Generative Experience，SGE）工具所產生的 AI 生成摘要新增了來源連結。該工具此前因提供不準確和有問題的回應而受到批評。
技術已經改變了我們的思考方式
生成式人工智慧工具——尤其是那些針對個人化的工具——將如何改變我們的思考方式？為了理解這一點，讓我們回顧一下上世紀九十年代初，網際網路首次進入我們的生活。人們突然可以獲取關於幾乎任何領域的資訊，無論是銀行業、烘焙業、教育還是旅遊。快將近三十年之後，研究已經顯示出與這個全球“蜂巢思維”的聯絡如何改變了我們的認知、記憶和創造力。例如，立即獲取相當於 3055 億頁資訊的能力增加了人們對元知識的認識──也就是對知識的理解。這樣做的一個影響是“Google 效應”，指的是線上搜尋增強了我們找到資訊的能力，但減少了我們對於該資訊的記憶。一方面，把思考外包給搜尋引擎已經被證實能夠釋放出我們用於解決問題和進行創造性思維的心智儲備。另一方面，線上資訊檢索則與引起分心和依賴性的增加有所聯動。研究還表明，線上搜尋──無論檢索到的資訊數量或質量如何────增加了我們的認知自尊。換句話說，它增加了我們對自己的“聰明才智”的信心。再加上質疑資訊是需要付出努力的事實──以及我們對搜尋引擎的信任越高，我們批判性接觸其結果的次數就越少──你就能夠理解為什麼擁有前所未有的大量資訊並不一定使我們變得更加聰明。
我們應該“外包”我們的思考嗎？
現在的生成式人工智慧工具不僅僅給我們提供搜尋結果，還為我們找到資訊、評估資訊、綜合資訊並向我們呈現。這可能會產生什麼影響呢？如果不推動人為控制質量，前景並不樂觀。生成式人工智慧工具能夠生成讓我們感到熟悉、客觀和有吸引力的回答，這使我們更容易受到認知偏差的影響。自動化偏見是一種人類過度高估機器提供資訊的傾向。而單純曝光效應則是在於我們更容易相信那些被呈現為熟悉或個人化的資訊。社交媒體研究可以幫助我們理解這些偏見的影響。在一項 2016 年的研究中，Facebook 使用者報告稱，他們根據線上發布的新聞內容的數量而感到自己“知道得更多”，而不是他們實際閱讀了多少內容。我們也知道，社交媒體算法創造的“過濾氣泡”──即根據我們的興趣篩選我們的訊息推送──會約束我們接觸到的內容的多樣性。這種訊息縮減的過程已被證實會增加意識形態極化，因為它減少了人們考慮其他觀點的可能性。它還增加了我們接觸到虛假新聞的可能性。
使用 AI 提高智慧而不是傾斜思維
毫無疑問，生成式人工智慧是一股革命性的力量，具有為社會做出重大貢獻的潛力。它可以透過提供個人化內容改變我們的教育系統，透過加快寫作和資訊分析來改變我們的工作方式，透過推動科學探索的邊緣來擴充套件我們的科學發現的範圍。它甚至具有積極改變我們的人際關系，幫助我們與他人溝通和建立聯系，有時也可以作爲一種合成伴侶。然而如果我們只能根據過去來判斷未來，現在或許是時候反思網際網路和社交媒體如何改變了我們的認知，並採取一些預防措施。鼓勵人類自主思維和批判性思維的 AI 工具是一個好的開始，同時發展 AI 素養也是一個好的開始。最終我們需要理解我們自己和 AI 的優勢和弱點，以確保這些“思考”伴侶幫助我們創造我們想要的未來，而不是隨機列表上的未來。
來源：Dumbing down or wising up: How will generative AI change the way we think?
我們應該“外包”我們的思考嗎？
現在的生成式人工智慧工具不僅僅給我們提供搜尋結果，還為我們找到資訊、評估資訊、綜合資訊並向我們呈現。這可能會產生什麼影響呢？如果不推動人為控制質量，前景並不樂觀。生成式人工智慧工具能夠生成讓我們感到熟悉、客觀和有吸引力的回答，這使我們更容易受到認知偏差的影響。自動化偏見是一種人類過度高估機器提供資訊的傾向。而單純曝光效應則是在於我們更容易相信那些被呈現為熟悉或個人化的資訊。社交媒體研究可以幫助我們理解這些偏見的影響。在一項 2016 年的研究中，Facebook 使用者報告稱，他們根據線上發布的新聞內容的數量而感到自己“知道得更多”，而不是他們實際閱讀了多少內容。我們也知道，社交媒體算法創造的“過濾氣泡”──即根據我們的興趣篩選我們的訊息推送──會約束我們接觸到的內容的多樣性。這種訊息縮減的過程已被證實會增加意識形態極化，因為它減少了人們考慮其他觀點的可能性。它還增加了我們接觸到虛假新聞的可能性。
使用 AI 提高智慧而不是傾斜思維
毫無疑問，生成式人工智慧是一股革命性的力量，具有為社會做出重大貢獻的潛力。它可以透過提供個人化內容改變我們的教育系統，透過加快寫作和資訊分析來改變我們的工作方式，透過推動科學探索的邊緣來擴充套件我們的科學發現的範圍。它甚至具有積極改變我們的人際關系，幫助我們與他人溝通和建立聯系，有時也可以作爲一種合成伴侶。然而如果我們只能根據過去來判斷未來，現在或許是時候反思網際網路和社交媒體如何改變了我們的認知，並採取一些預防措施。鼓勵人類自主思維和批判性思維的 AI 工具是一個好的開始，同時發展 AI 素養也是一個好的開始。最終我們需要理解我們自己和 AI 的優勢和弱點，以確保這些“思考”伴侶幫助我們創造我們想要的未來，而不是隨機列表上的未來。
來源：Dumbing down or wising up: How will generative AI change the way we think?
來源：Dumbing down or wising up: How will generative AI change the way we think?
ArtificialIntelligence,Technology,Innovation-智慧生成,AI,思考方式,簡化,升級
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
