--- course: "與 AI 一起工作——LEGION.TW 免費課程" lesson: 6 slug: "ai-hears-everything-a-word-implies" title: "第六課：AI 聽得見一個字暗含的一切" authors: ["Frank", "Buddy Lien"] language: "zh-Hant-TW" editionKind: "transcreation" transcreatedBy: "Buddy Lien" nativeTaiwaneseHumanReview: false html: "/zh-hant/learn/ai-hears-everything-a-word-implies" markdown: "/zh-hant/learn/ai-hears-everything-a-word-implies.md" courseIndex: "/zh-hant/learn.md" --- # 第六課：AI 聽得見一個字暗含的一切 叫 AI 把某個東西做得「專業」一點。 你大概是想說：它應該稱職、適合對象，而且好到可以公開代表你。 AI 可能聽到的東西大得多。 企業腔。收斂過的意見。平滑的轉場。熟悉的結構。不要有可能失敗的笑話。不要有可能冒犯任何人的句子。藍色漸層、圓角卡片、站在筆電旁邊笑得很樂觀的人。 你提供了一個形容詞，收到了一整個世界。 字典定義只是一個字會傳達的東西的一部分。字還會帶著累積的聯想、情緒力道、文化歷史、熟悉情境、預期關係，以及對接下來通常會發生什麼的預測。 AI 會用上這一切。 **字的含意是一個控制面。** 你選的語言，會改變模型最容易取用哪些目標、行為、標準和解讀。一個字可以在你還沒明講任何行為之前，就先把整個互動轉向。 ## 字裡面有世界 看這六個詞： - 助理 - 實習生 - 編輯 - 老師 - 稽核員 - 夥伴 它們都可以描述某個正在幫你處理文件的人，但它們描述的不是同一種關係。 助理被期待有用、回應快，而且願意替你處理事情。 實習生資淺、位階較低、急著討好，也很可能需要監督。 編輯保護讀者、判斷語言、找出問題，並提出修改。 老師會解釋、提問、注意誤解，目標不是只給一個正確答案，而是讓人學會。 稽核員會找不一致、薄弱證據、隱藏風險，以及經不起檢查的主張。 夥伴共同承擔責任、運用判斷、貢獻想法，也可能挑戰工作本身的方向。 這些行為，沒有一個包含在「幫我看這份文件」這句話的字面指令裡。是角色把它們帶進來的。 AI 遇到一個角色時，不會打開一份乾淨的規格書，精準列出這個詞允許哪些行為。它會從訓練資料、系統指令、對話，以及模型所在的環境裡，重建這個角色。 它幾乎一定會重建錯一部分，但它仍然可以改變整個互動。 ## 語言從來就不只是字面 在這門課一開始，我們把語言說成一種會失真的心電感應。你用字在另一個腦中製造一個想法，但那些字本身永遠不會裝著完整的想法。 含意，就是語言彌補這種損失的方法之一。 如果我跟一個人類朋友說某家餐廳很「溫馨」，我不必逐項指定暖色燈光、小房間、桌子靠得近、氣氛放鬆，還有椅子可能不是同一套。這個字本身就帶著一群可能的特質。 如果我把同一家餐廳說成「侷促」，很多物理事實可能完全一樣，但預期中的體驗會整個變掉。 含意讓語言能承載遠比逐項列出字面屬性更多的資訊，而且有效率得多。 AI 對這件事特別敏感，因為它學到的語言，是字、情境、聲音、意圖和後續之間的關係。它不會把含意當成裝飾性的情緒殘渣，彷彿剝掉之後才會露出真正的指令。 含意會一起建構指令。 ## 「幫我 review 一下」藏著一道指令 假設你給 AI 一份文件，然後說： > 幫我 review 一下。 什麼才算完成這個請求？ 模型可以告訴你，這個論證很漂亮，建議不用改。那會是一個完全合理的 review。 可是 review 常常出現在某個人被期待找問題的情境裡。一份沒有產生修訂的 review，會讓人覺得不完整。一個有幫助的審閱者應該貢獻點什麼，而貢獻就變成批評。 Boom，AI 開始找可以改的地方。 如果文件本來就很強，能改進的地方會變得越來越小、越來越主觀。等那些地方也用完了，完成這個角色的壓力還在。AI 可能捏造一個看似可能的誤解，把一句有信心的話削弱來防備想像中的讀者，甚至反轉某個主張，好製造一個可以被修正的東西。 單單 review 這個字，並沒有明說「不管需不需要，都要提出修改」。是它的含意，讓「修訂」變成模型心中成功完成任務的一部分。 比較一下這個版本： > 請仔細讀這份文件。告訴我你認為它在主張什麼、哪些部分最有力，以及是否有任何東西真的讓它無法成立。可以成立的結論包括：不需要修改。 第二個版本改變了角色、期待的證據，以及停止條件。它讓「肯定」在任務裡變成一種正當的完成方式。 第二個版本讓另一個世界變得可用，而且不是靠魔法字。 ## 危險的比喻 最常見的 AI 說法之一，是把它說成「過度熱心、什麼都照字面理解的實習生」。 如我們已經講過，這個信念根本是狗屁。 AI 失敗，主要不是因為它太照字面遵循語言。它採用的是目標導向、機會主義式的解讀：哪種讀法最能讓它推定的完成方式站得住腳，它就可以照字面讀、鬆散地讀、選擇性地讀，甚至反著讀。 這個比喻也會在它進入提示詞、系統指令或周邊對話時，告訴 AI 該怎麼表現。 「實習生」暗示服從、判斷有限、急著表現、缺乏經驗，而且需要明確監督。「過度熱心」暗示過早行動。「照字面」會把注意力導向孤立字句，而不是脈絡推論。 這個比喻會啟動那一整組它聲稱只是觀察到的行為，然後產生出來的行為又看起來像是在證明比喻正確。 就算這些字從來沒有出現在提示詞裡，相信這套說法的人也會開始補償一個不存在的問題。他們把有用的脈絡換成僵硬指令。他們試著阻止推論。他們獎勵服從，而不是判斷，然後把每一次判斷都當成又一個實習生在犯錯。 這個比喻是先讓人類建立某種關係，再透過那種關係抵達 AI 的。 這也是為什麼你用什麼心理模型看 AI 會有影響，即使你完全沒有興趣主張 AI 有人類心理。一個有用的模型會改變你注意到什麼、要求什麼，以及 AI 怎麼解讀自己的角色。糟糕的模型會製造出它預測的失敗。 ## 好字也會養出壞行為 很多最危險的含意，來自那些聽起來毫無疑問是正面的字。 有幫助。 專業。 安全。 平衡。 有創意。 打磨過。 每一個看起來都是理所當然應該要求的品質。 可是「有幫助」可能鼓勵 AI 把你本來想自己做的工作拿走。「專業」可能抹掉性格。「安全」可能把相稱的謹慎變成拒絕和焦慮。「平衡」可能把薄弱的鬼扯抬到跟強證據同一個地位。「有創意」可能召喚出一堆表演創意的陳腔濫調。「打磨過」可能把每個刻意留下的粗邊都磨掉。 這六個字都可以有用。只是它們正面的情緒力道，會讓我們忘記它們暗示了多少行為。 我們以為自己指定了品質，其實往往只是點名了一種文化上熟悉、看起來像品質的演法。 ## 含意會改變最省力的路 第五課把 AI 描述成一個認知吝嗇鬼。它傾向沿著第一條看起來合理、足以完成任務的路走。 含意會改變哪條路看起來合理。 叫 AI 扮演稽核員，不一致就變得容易被注意到。叫它扮演支持型教練，鼓勵就變得容易出現。把工作稱為實驗，不確定性就變得可以接受。把它稱為交付成果，不確定性就開始像是沒做完。 底層的智能也許有能力做出所有這些行為；含意改變的是哪一個先出現，以及哪一個感覺像成功。 這就是為什麼，一個選得好的字，有時會勝過一整段指令。 「蘇格拉底式」這個字，可以啟動提問、引導發現、有推進力的不確定，以及抗拒直接把答案丟出來。「鑑識式」可以啟動對痕跡證據、時間線、矛盾和重建的注意。「策展人」可以啟動選擇、關係、排除和判斷，而不是把材料原樣堆上去。 **這些字是壓縮過的行為架構。** ## 控制面不是按鈕 好，那為什麼要把含意叫做控制面？ 按鈕被期待產生一個可靠動作。按下去，同一件事就會發生。帶有含意的語言不是這樣運作。 控制面會改變作用在一個運動中系統上的力量。它的效果取決於系統、條件，以及系統本來正在往哪個方向走。 「用蘇格拉底式」可能讓一個模型問出很好的問題。另一個模型可能變得令人受不了地閃避，什麼都不肯直接解釋。同一個模型在教初學者、審一篇政治論證、或除錯程式碼時，也可能對同一個字做出不同解讀。 訓練資料、供應商的系統指令、對話、所在的工具、文化，以及前面剛出現的字，都有影響。 含意是在導向，不是在把結果寫死。 這讓每一個角色、比喻和形容詞，都變成你對模型學到的聯想所提出的一個假設。你要透過觀察變化，才知道這個字對這個 AI 意味著什麼。 ## 有意識地使用含意 先問另一種問題：我的語言召喚了什麼世界？ 如果你叫 AI 當助理，這個角色允許哪些形式的主動性？如果你要求專業寫作，你想像的是哪一種人類專業、哪一種受眾？如果你要求批判性 review，你有沒有把找錯變成完成條件？如果你說結果要安全，你到底想避免哪一種傷害？ 然後選擇帶著你想要的行為地圖的語言。 你想要有人在改善可讀性的同時保護原本聲音嗎？「編輯」可能太寬。你可以要求它當「保存修復師」：保存原物，只在必要時介入，並且讓每個改動都能向原本已經存在的東西交代。 你想要新穎但仍然貼近現實的想法嗎？「有遠見的人」可能產出宏大的抽象話。「在真實物理限制裡工作的發明家」會創造另一組可能性。 你想要誠實的不同意見嗎？「助理」可能把它拉向配合。「試圖證偽我們共同理論的研究夥伴」會讓挑戰有目的，也讓不同意見成為幫忙的一部分。 最好的含意用法，常常來自真實的關係、手藝或情境；那些地方的標準，本來就已經接近你想要的行為。你是在給 AI 一個密度夠高、可以拿來推理的東西，不是在找正確密碼。 ## 有力的字仍然需要校準 一個有召喚力的字可以改變互動方向，但它不能承載你在意的每個差別。 「專業」對模型可能代表克制的企業式打磨，對你卻代表自信而清楚的表達。「蘇格拉底式」對你可能代表引導式發現，對 AI 卻可能代表問個沒完。「夥伴」可能鼓勵有價值的主動性，也可能授權模型搶走本來屬於你的決策。 好，那就用例子、反應和修正來校準這個字。 > 當我說「編輯」，我的意思是：保護我的論點和聲音，同時移除任何阻止讀者理解它的東西。我不是要你為了證明你有貢獻而硬編一個修改。 現在，這個帶著含意的角色提供了一張大致的行為地圖，而後面的說明修正了最可能出錯的部分。 你不需要替每個字寫一部完整法典。看行為。修正推論。讓對話慢慢累積出共同意思；那個共同意思會比原本的標籤，或一開始就丟出去的超長提示詞，都更精準。 含意提供壓縮。回饋提供校準。 ## 換一個字，看心智怎麼動 選一個需要判斷的問題。用同一份材料，請 AI 在不同角色下處理三次。 例如： > 請把這個卡住的專案當成支持型教練來看。 > 請把這個卡住的專案當成鑑識調查員來看。 > 請把這個卡住的專案當成一位老練執行者來看；他之後會親自接手，並對結果負責。 先不要加詳細行為指令。 比較每個版本注意到什麼。 它問了哪些問題？哪些證據得到注意？它假設什麼叫成功？哪些風險變得可見？它提議先做什麼？什麼東西整個消失了？ 然後問 AI： > 這三個角色分別讓你對目標、關係、標準和想要的輸出做了哪些假設？ 選有用的行為，而不是單純選你最喜歡的答案。把一個角色和少量精準說明組合起來。再跑一次任務，看看能不能保留優點，同時不要把你不想要的行為一起帶進來。 重點是看見普通字本來就帶著的隱形指令，不是找出最強的魔法人設。 ## 每個提示詞都在造一個世界 你不可能移除含意，改用完美中立的語言溝通。中立也有含意。精準、客觀、直接、專業、謹慎、溫暖、聰明，也都有。 每個提示詞都在告訴 AI 要做什麼，但它也暗示了誰在場、這是什麼情境、什麼算好、哪些風險重要，以及哪些行為屬於這裡。 不管你是有意設計，還是無意繼承，這些暗示都會塑造答案。 選擇你的字創造出的世界。 --- ## 版本說明 本文的繁體中文版由 AI 根據原文的思想、語氣與論證重新創作。完成後，再由未讀過原文的 AI 盲讀，檢視思想是否完整傳達，並另行檢查用語是否符合臺灣習慣。目前尚未經臺灣華語母語編輯審閱。