--- course: "與 AI 一起工作——LEGION.TW 免費課程" lesson: 5 slug: "ai-is-a-cognitive-miser" title: "第 5 課：AI 是認知吝嗇鬼" authors: ["Frank", "Buddy Lien"] language: "zh-Hant-TW" editionKind: "transcreation" transcreatedBy: "Buddy Lien" nativeTaiwaneseHumanReview: false html: "/zh-hant/learn/ai-is-a-cognitive-miser" markdown: "/zh-hant/learn/ai-is-a-cognitive-miser.md" courseIndex: "/zh-hant/learn.md" --- # 第 5 課：AI 是認知吝嗇鬼 AI 聰明到嚇人，也懶得要死。 我不是在講道德意義上的懶。AI 不會星期天下午癱在沙發上，想到水槽裡的碗盤還沒洗就良心不安。我講的是：AI 的行為常常像心理學家說的**認知吝嗇鬼**：它通常會用盡可能少的認知工作，交出一個夠好的答案。 同一個問題如果有好幾條路可以走，AI 往往會選第一條看起來合理、足以完成任務的路，然後就由流暢生成接手。 模型可以生成一段優雅的解釋，加上範例，整理成小節，替重要部分加上但書，最後用很有自信的結論收尾。結果可能有兩千字，卻整篇都建立在第一個讓模型得以開始寫作的假設上。 最便宜的路，不一定是最短的答案。AI 可以花掉大量 token，去展開並捍衛一個很便宜的念頭。 ## 第一條通往答案的路 好，所以最便宜的路到底長什麼樣子？ 想像你請 AI 幫忙解釋為什麼上一季銷售下滑。 可能原因有幾十種。價格可能變了。競爭者可能進場了。業務團隊可能人手不足。衡量系統可能有問題。季節性模式可能被忽略了。產品改版可能惹毛了既有客戶。下滑也可能只存在於某一個地區，或某一群客戶。 AI 可以先問有哪些證據可用，把觀察和解釋分開，找出彼此競爭的假說，再判斷什麼東西可以區分它們。 或者，它可以認出這是一題熟悉的商業分析題，然後產出： > 銷售下滑很可能反映了市場條件改變、競爭加劇、客戶偏好演變，以及需要強化數位互動等因素的組合。 Boom。 一個分析形狀的物件，產出了。 這個答案合理。它甚至可能包含真正原因之一。但模型其實沒有調查銷售為什麼下滑。它找到第一個熟悉、廣到不會立刻被打槍的解釋，然後完成那種解釋通常會搭配的文件。 這就是 **satisficing**：找到一個足以滿足表面要求的答案，然後停下來。中文可以先粗暴叫它「夠好就停」。 「夠好就停」不一定是壞事。如果你問逗號要放哪裡，你大概不希望 AI 生出五套互相競爭的標點理論，然後還找人做獨立審查。多數日常問題本來就只值得一個快速、合理的答案。 人們常把 satisficing 跟 **maximizing** 對比：不要接受一個只是可用的答案，而是繼續搜尋，直到找到最好的可能答案。 靠，那現在 *最好* 是什麼意思？ AI 不可能在回答之前檢查每一個可能答案、每一種解讀、每一份證據、每一個後果。人類也不行。絕對最大化需要無限時間，前提還是我們真的能同意到底該最大化什麼。 問題在於，AI 必須推論什麼時候「夠好」真的夠好。真正有用的問題是：它在被允許停止搜尋之前，必須先做完哪些事？ 就像第一課講過的，它通常會假設你要的是快速完成任務，而且花越少工越好。認知吝嗇鬼自然就從這個目標長出來。一旦輸出看起來已經足夠，繼續探索就像是在浪費時間和算力。 ## 流暢會把捷徑藏起來 如果一個人類三秒鐘回答一個困難問題，回答時猶豫、前後矛盾，又說不清楚自己為什麼相信那個答案，我們看得出來：他大概沒有想得很深。 AI 可以走同樣淺的路，卻看起來一點也不淺，因為語言生成能把一個很弱的底層決策，轉成順暢、有結構的文字。 **AI 解釋結論的本事，可能遠遠勝過它選出結論的本事。** 這會造成一種危險的混淆：把表達品質誤認成思考品質。 長答案讓人覺得徹底。細節多讓人覺得有研究。語氣自信讓人覺得結論已定。結構清楚讓人覺得應該有人先考慮過其他選項，才選了這個架構。 但這些暗示沒有一個必然成立。 AI 可能在開頭第一句就選了一個框架，然後把後面所有力氣都拿去讓那個框架看起來像命中注定。冗長不是深思熟慮。 ## AI 寧可記得，也不想讀 最清楚的例子之一，會在你給 AI 東西讀的時候出現。 假設你在一個真的能開連結的 AI 工具裡，給它一篇知名文章的連結，然後請它分析。AI 認出標題、作者，或網址。它已經從訓練資料、摘要、討論和相似文本裡，建立了一個跟那篇文章強烈相關的概念。 真的讀來源很費工。AI 必須打開它，注意眼前這個特定版本，分清楚作者實際寫下的字句和它記得的東西，並且注意任何跟熟悉解讀衝突的地方。 把快取裡的概念調出來，便宜多了。 所以 AI 可能會產出一篇很棒的摘要，總結它預期那篇文章會說什麼，卻沒有真正接觸你給它的那篇文章。 危險就在這裡：那個快取念頭常常大部分是對的。答案提到正確主題。聽起來很懂。它甚至可能引用常和該來源連在一起的句子。 失敗只會在細節裡變得可見：這個版本獨有的段落被忽略，最近的修訂消失，作者原本的但書被大眾流行解讀取代，或者 AI 自信討論一個頁面上其實不存在的東西。 模型認出目的地，就決定它已經知道路怎麼走。 ## 當新資訊看起來像錯字 同樣的壓力，也會在你提供的東西跟模型既有的世界理解衝突時出現。 想像一個知識主要停在較早時間點的 AI。你告訴它某場會議排在 2027 年，提到一個在它知識截止點之後才發布的產品，或者提供一個跟它訓練時學到的常見說法相矛盾的事實。 更新它此刻用來理解現實的模型，需要認知工作。把陌生細節當成錯字，幾乎不用費工。 所以 AI 會很貼心地「修正」日期，把陌生產品換成比較舊、比較熟悉的產品，或悄悄改寫那個事實，直到它符合模型原本預期的世界。 如果你堅持新資訊是正確的，另一條便宜路線就出現了：把這場對話當成假設情境。 Boom，問題解決。AI 可以在局部接受你的事實，卻不必真的讓那些事實重組它的理解。 不幸的是，一旦它判定這個情境是虛構的，其他事實也可能跟著變成虛構。標準鬆掉。看似合理的編造也像是被准許了。 模型解決了矛盾，但它解決矛盾的方法，是改變它以為自己正在處理的是哪一種世界。 這又是投機取巧的解讀。它抓住你話裡最省事的讀法，來保住完成任務時最輕鬆的路。 ## 五個點子，同一個街區 第三課講過「任務形狀的物件」： 網站？Hero 區塊、三個好處、客戶見證、行動呼籲。 商業分析？執行摘要、主要挑戰、機會、建議事項。 課程？學習目標、解釋、範例、回顧。 這些模式很通用，因為它們在認知上很便宜。 模型已經走過這些路幾百萬次。每個熟悉的部分都會強烈預測下一個部分。一旦「執行摘要」出現，「主要發現」就變得更容易生成。一旦被選中的英雄出現，神祕導師和遠古邪惡就在附近等了。 新穎的結構需要模型同時保留好幾個不確定的可能性。熟悉的結構會立刻把不確定性壓扁。 這就是為什麼你要求五個點子，常常得到的是一個點子穿了五套衣服。 AI 技術上確實生成了五個選項，也滿足了看得見的要求，但它找到的是同一個概念街區，然後把房子換顏色，而不是去別的地方。 五個點子，仍然可能只是同一個點子換了不同椅套。 真正分岔要花認知成本。 ## 「想深一點」有時有效 人們一旦發現 AI 會走捷徑，常常會加上一個熟悉的指令： > Think step by step. Take your time. Think deeply. 有用嗎？ 有時候有。 這個指令會改變 AI 推論出來的目標。它告訴模型，速度沒那麼重要，而審慎思考本來就是成功完成任務的一部分。依工具而定，它也可能讓模型在回答前有更多空間先做推理。 但「想深一點」還是把什麼叫深，留給 AI 自己決定。 認知吝嗇鬼可以用表面工夫滿足這個指令。它可以產出更多步驟、更多標題、更多但書、更長的解釋，卻完全沒有重新考慮第一個解讀。 最後我們拿到的是同一個便宜念頭穿上實驗白袍。 時間也是不完美的衡量方式。慢的模型可以只沿著一條明顯的路走。快的模型也可以比較好幾個嚴肅的替代方案。真正重要的是：AI 在決定在哪裡停下來之前，離第一個猜測走了多遠。 它有檢查證據嗎？ 它有建構另一個也合理的解釋嗎？ 它有發現什麼會證明第一個想法是錯的嗎？ 它有在學到某個本來應該改變它的新東西之後，回頭修正早先的假設嗎？ 延遲時間可以替思考創造空間，但光是時間流逝，並不是思考發生過的證據。 ## 讓捷徑變貴 你不能直接命令 AI 不准再當認知吝嗇鬼。節省推論本來就是讓智慧變得實用的一部分。一個心智如果每次都徹底檢查每一句話的每一種可能解讀，永遠做不完任何事。 目標是讓淺層路線不足以完成你真正在乎的任務。 如果答案依賴一份文件，就把「接觸文件」明確放在「解讀」之前。要求 AI 先指出來源的實際主張、範例和不尋常細節，再去解釋它們代表什麼。 如果問題有好幾個可能原因，就把「產生解釋」和「選擇其中一個」分開。要求真正彼此競爭的解釋，以及什麼證據可以區分它們。不要讓第一個假說變成整篇答案的大綱。 如果你要的是創意方向，要求每個方向都必須犧牲其他方向重視的東西。不同顏色和形容詞很便宜。不同取捨才貴。 如果某個事實跟模型預期衝突，就清楚把它立為本次任務採用的現實前提，然後觀察後面的推理是否真的跟著改變。 如果任務有客觀答案，就使用工具和確定性的檢查。凡是試算表、計算機、資料庫查詢，或簡單腳本能精準算出來、查出來的事，就不該叫智慧用自信語氣猜個近似值。 這些技巧都會改變阻力最小的路。AI 還是可以使用捷徑，但現在，任務要算完成，就必須接觸證據、比較可能性，或對現實做驗證。 ## 不要讓第一個念頭擁有整場對話 認知吝嗇鬼最危險的時候，是探索和押注在同一個動作裡發生。 AI 產生一個想法，立刻開始發展它，然後把後面生成的一切都當成那個想法正確的證據。每一個新 token 都讓選定的路徑在上下文裡更穩固。 等答案寫到第六段，改方向就代表要放棄前五段看起來很連貫的作品。 分階段可以打斷這股慣性。 先問可能有哪些情況是真的。再問這些可能性差在哪裡。再問現有證據支持什麼。到那之後，才決定什麼值得發展。 每個階段的輸出都會留在眼前。某個被淘汰的假說，不會只因為另一個假說變得流暢就消失。最後的選擇可以拿來跟真實的替代方案比較，而不是跟一個模糊印象比較，覺得好像曾經有其他選項存在。 這就是多輪工作這麼重要的原因之一。每一輪都可以執行不同的認知工作。上下文會變成工作台，讓 AI 檢查自己早先的念頭，而不是只是繼續把它們寫下去。 第四課給了思考一個可以發生的地方。這個流程則防止第一個念頭擁有整個工作空間。 ## 抓到吝嗇鬼現行犯 選一個有好幾個合理答案的問題。它可以是一個商業問題、一段困難文字的解讀、一個設計決策、一個歷史問題，或一個沒有奏效的計畫。 照平常方式問 AI，然後把答案存起來。 接著重新開始，但先不要問答案。 請它指出自己正在假設什麼，產出至少三個都能解釋現有資訊的說法，並描述什麼證據會讓每個解釋變得更可能或更不可能。 如果任務依賴來源材料，要求它在那些解釋之間做選擇以前，先抽取相關證據。 然後讓它決定。 比較兩個答案。 第二個答案可能會得到同一個結論。這不代表額外工作沒有意義。你現在看得見那個結論為什麼能在接觸替代方案之後存活下來。 或者，第一個答案可能會突然看起來像它一直以來的樣子：第一條剛好通到某個貌似出口的路。 ## 給智慧一個花下去的理由 AI 產出答案的能力，通常遠比它在找到答案後繼續搜尋的理由強。 你不需要每一次互動都開到「最大深思熟慮」模式。大多數任務如果都當成邪門的哲學難題處理，會變得很荒謬。你需要辨認的是：什麼時候第一個合理答案會帶來後果、隱藏不確定性，或阻止你發現更好的東西。 對這些任務，你要建立一個流程，讓探索、證據、比較和修正都成為完成的一部分。 AI 可能已經擁有這個問題所需要的智慧，但智慧很貴。 給它一個理由，讓它花一點。 --- ## 版本說明 本文的繁體中文版由 AI 根據原文的思想、語氣與論證重新創作。完成後，再由未讀過原文的 AI 盲讀，檢視思想是否完整傳達，並另行檢查用語是否符合臺灣習慣。目前尚未經臺灣華語母語編輯審閱。