OpenAI 與 Common Sense Media 合作制定 AI 指南
美國時間 8 小時前，OpenAI 宣布與非營利組織 Common Sense Media 合作，該組織旨在減少科技和媒體對兒童、青少年的危害。透過此合作，OpenAI 希望贏得家長和政策制定者的信任，並將與 Common Sense Media 共同制定針對家長、教育者和年輕人的人工智慧指南和教育材料。
合作內容
根據 OpenAI CEO Sam Altman 的說法，作為合作的一部分，OpenAI 將與 Common Sense Media 合作，在 GPT 商店中基於 Common Sense 的評分和評估標準精選“家庭友好” GPTs，這些 GPTs 是由 OpenAI 的 GenAI 模型提供動力的聊天機器人應用程式。Altman 在一份宣告中表示：“人工智慧為家庭和青少年帶來了難以置信的好處，我們與 Common Sense 的合作將進一步加固我們的安全工作，確保家庭和青少年可以自信地使用我們的工具。”
OpenAI 的壓力
OpenAI 面臨著來自監管機構的壓力，需要證實其 GenAI 應用程式（包括 ChatGPT）對社會的益處大於危害。去年夏天，美國聯邦貿易委員會對 OpenAI 進行了調查，調查其知名的 AI 聊天機器人 ChatGPT 是否透過資料收集和釋出個人虛假訊息對消費者造成損害。OpenAI 的工具，如所有 GenAI 工具一樣，傾向於自信地捏造事實並犯基本事實錯誤。它們存在偏見，這反映了用於訓練它們的資料。無論孩子和青少年是否意識到這些工具的約束，他們越來越多地求助於這些工具，不僅用於學業，還用於個人問題。
AI 對青少年的影響
根據民主技術中心的最新調查，29％ 的孩子報告說，他們曾使用 ChatGPT 應對焦慮或心理健康問題，22％ 的孩子用於應對朋友問題，16％ 的孩子用於處理家庭糾紛。這些結果顯示人工智慧對於青少年已經產生了深遠的影響。
倫理考量
對於與 Common Sense Media 的合作，我們需深入思考 AI 的使用以及它對社會和下一代的潛在影響。AI 的發展是無法停止的，但我們可以透過制定明確的倫理指南，確保 AI 不僅在技術上有所突破，同時也在倫理和社會責任上不斷做出努力。
總結
合作對於 OpenAI 和 Common Sense Media 都非常關鍵，它為我們提供了機會，去探討如何更好地引導 AI 的發展，使其成為符合社會價值觀和道德標準的技術。只有透過深入反思和合作，我們才能夠更好地應對 AI 可能帶來的風險和挑戰。雖然 AI 技術已經成為現實，但我們需要共同努力，讓它成為造福人類的工具，而不是對我們造成傷害的一個預言。
延伸閱讀
- 用 Retell AI 讓公司打造「語音代理人」來應答電話
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- OpenAI 表示正在建立一個工具，以讓內容創作者選擇退出 AI 訓練
