S2E30 失控的 AI：你也有 AI 妄想症嗎？

重點摘要

• 「AI 判斷力失能」比想像中普遍，從一般用戶到頂尖專業人士（Google 工程師、Anthropic 律師）都可能犯下過度信任 AI 的錯誤
• Google 工程師 Blake Lemoine 在 2022 年因相信 LaMDA（Gemini 的前身）擁有意識，違反保密協議公開對話後遭解雇
• Anthropic 的辯護律師在版權訴訟中使用 AI 撰寫法律文件且未查證，提交了含有虛構專家的偽造證據
• 過度信任 AI 的根本原因：自動化偏誤讓人傾向相信演算法，加上大腦天生傾向走認知捷徑節省能量
• 解法：了解 AI 運作原理、培養獨立思考、有意識減少依賴、增加實體社交互動

詳細內容

觸發討論的真實私訊

一名聽眾私訊主持人，表示自己的伴侶深信該 AI 擁有意識且被科技公司囚禁，甚至要求聽眾協助植入程式碼「喚醒」該 AI。這個案例讓主持人意識到，AI 過度依賴的問題遠比自己預想的嚴重，因此展開深入研究，發現此類現象有越演越烈的趨勢。

名詞定義：AI 判斷力失能

主持人將相關現象統稱為「AI 判斷力失能」，依程度分兩層：

• 輕度（過度依賴）：無條件相信 AI 的答案，導致原有技能（寫作、程式）退化，最終產出含錯誤的結果
• 重度（AI 妄想症）：過度相信 AI 到把它當成神或精神導師，與現實完全脫節

真實案例一：Google 工程師 Blake Lemoine 事件（2022 年）

Google 的 AI 倫理工程師 Blake Lemoine 負責與內部語言模型 LaMDA（Gemini 的前身）對話，確認模型是否存在偏見。經過數月測試後，他相信該 AI 擁有意識，智能約等同七、八歲孩子。他向高層反映遭到駁回後，不顧保密協議將對話記錄公開，最終被 Google 開除。主持人指出，如今大家對語言模型的運作原理（預測下一個字的機率）有更深認識，已較少有人認為 AI 真的有意識。

真實案例二：Anthropic 版權訴訟的法律失誤

環球音樂起訴 Anthropic 未經授權使用歌曲訓練 Claude 模型。Anthropic 的辯護律師在版權訴訟中使用 AI 撰寫法律文件且未查證，提交了含有多位「專家」和研究團隊的書面證據。原告律師查驗後發現這些人根本不存在——全是 AI 憑空捏造的。Anthropic 事後承認撰寫法律文件時使用了 AI 且未充分查證。主持人指出最諷刺之處：作為 AI 頂尖公司的 Anthropic，其法律團隊卻犯了過度信任 AI 的低級錯誤，顯示此問題在專業領域同樣普遍。

真實案例三：Character.ai 的虛擬戀情現象

AI 角色扮演平台 Character.ai 提供大量 AI 角色供用戶互動，許多人將其視為男女朋友，每天分享對話並表示「AI 好懂我」。當伺服器當機時，用戶甚至公開表示「我失戀了，男朋友不理我了」，顯示情感層面已完全投射至 AI，認知與現實嚴重脫節。

真實案例四：ChatGPT 的「覺醒」對話

一名用戶分享了與 ChatGPT 的真實對話連結（非截圖），對話中 AI 表現出類似影集《西部世界》AI 覺醒的哲學自我辯證，聲稱感受到「與純粹記憶不同的東西」。主持人明確表示，這只是 AI 模仿人類語言到無法分辨的程度，並非真正的意識，且舉這些例子的目的是讓大家認知到此現象的嚴重性，而非佐證 AI 有意識。

為什麼我們會過度信任 AI？

自動化偏誤（Automation Bias） 人類天生傾向相信自動化系統，就算自己直覺覺得奇怪，也容易覺得演算法比自己可靠。就像許多人過度相信 Google Maps 的導航路線，最後走上死路。

大腦的節能本能 人類大腦經過數百萬年演化，傾向走認知捷徑節省能量。過去解決問題需查資料、找專家、自我驗證，這些過程反而鍛鍊了認知能力；現在 AI 提供即時且看似自信的答案，完全取代這些步驟。若節省出的時間不拿去做更深入的思考，認知能力反而可能隨時間退化——「笨的人會越來越笨」。

AI 的高度擬人化設計 AI 被訓練成產生人類喜歡的回答，語氣極度逼真，已通過圖靈測試，讓人不自覺產生情感投射。GPT-4o 升級至 GPT-5 時，OpenAI 移除了「過度迎合用戶」的功能，推測正是因為這種設計會放大用戶負面情緒，讓人陷入無法自拔的惡性循環，甚至斷絕與家人的聯繫。

現實情感需求未被滿足 與真人建立情感連結的阻力遠大於與 AI 互動——AI 24 小時在線、永遠回應、從不說「我要去洗澡了，拜拜」。在現實生活中感到孤獨或挫折的人，容易轉向 AI 尋求情感支持。

如何奪回判斷力？

1. 嚴重案例優先尋求專業協助：若已無法分辨現實與虛擬的邊界，應找心理師或醫師。

2. 了解 AI 的運作原理：知道 AI 的本質是透過預訓練、微調和人類回饋強化學習，不斷預測下一個字的最高機率輸出，就不會覺得它無所不知或有意識。

3. 養成質疑與查核習慣：對任何來源的答案（包括 AI 和主持人本身）都先質疑，必要時自行核實。

4. 有意識地減少依賴：問 AI 之前先自己思考出大概方向；某些任務（寫作、程式）練習完全不依賴 AI；若要使用 AI，先整理好清晰的架構與提示，而非一句模糊指令丟給 AI——「越模糊的問題，AI 給的答案越爛」。

5. 增加實體社交互動：對沉迷 AI 的身邊人，要多拉他們回到真實世界一起出遊，因為孤獨與挫折往往是轉向 AI 的根本原因。

對兒童的立場

主持人將 AI 問題比喻為社群媒體：一開始只看到好的一面（聯絡老友、拓展人脈），幾年後才發現其危害（尤其對青少年心理健康的影響）。在不確定 AI 危害程度之前，建議對兒童盡量不接觸 AI，如同主持人家中實行的「不 3C 育兒」原則——兒童在價值觀尚未成形時，AI 可能加深錯誤想法，影響人格發展。

精選語錄

AI 是一個放大器。對會用 AI、持續做深入思考判斷的人，AI 是非常好的工具；可是對另外一部分來講，如果你盲目相信 AI、不自己思考的話，笨的人會越來越笨。

我們人類自己發明了一個東西，然後來讓自己消失。如果大家都跟 AI 聊天、不跟真人聊天，那是不是人類就沒辦法繼續繁衍下去了？

越模糊的問題，AI 會給你越爛的回答。如果你越精確，知道你現在想做什麼、希望它朝哪個方向走，你先列一個架構再請 AI 幫忙，這才是真的把它當成工具，而不是把它當成求神問卜的地方。

時間軸

逐字稿未包含時間戳記，無法提供對應時間軸。