假設一個 AI 助手在展示時答對了所有題目,在場的人都點頭:這個可以上線。產品上線之後,使用者每天用它整理資料、回覆客戶、排行程,卻要反覆重試才拿到想要的結果,中間還要自己挑出哪一次答案是錯的。這場展示,和使用者之後每一天花掉的時間,衡量的是同一個產品,給出的評價卻可能完全不同:這個產品做得好嗎?如果驗收只看展示,這些日常的使用成本就容易被漏掉。
據《以色列時報》轉述 Jason Zweig 於 2025 年 3 月在《華爾街日報》的報導,丹尼爾・卡尼曼(Daniel Kahneman)選擇在瑞士以協助自殺(assisted suicide,下文稱協助死亡)的方式結束生命。他的研究無法替任何人的生死選擇定性;本文只借他的研究,思考如何評價一段經歷,以及這個視角對產品工作的提示。
定義產品成功時,必須把使用者持續承擔的成本也納入驗收,並檢查回顧時給出的評價,和他實際經歷的過程有沒有落差。
卡尼曼的兩種自我:產品驗收往往討好「記憶自我」,卻忽略日常使用的「經驗自我」
卡尼曼在 2010 年的 TED 演講裡,區分了同一個人身上的兩種視角:經驗自我(experiencing self)關注當下的感受,記憶自我(remembering self)負責回顧經歷。當下的真實感受,與事後回顧的評價往往不同。
兩個視角都值得照顧。經驗自我過得好不好,值得關心;記憶自我留下的評價與意義感,也有價值。
把這個視角放進產品工作,可以先問一句:你現在用來判斷「這個產品做得好嗎」的那個分數、那份報告、那次展示,涵蓋了持續使用的過程嗎?在開場的假設裡,展示者呈現了一段精挑細選的過程,觀眾依展示給出好評;真正承擔日常重試與修正成本的,卻是每天使用它的使用者。
卡尼曼 1996 年醫療實驗:病人的回顧評價受「峰值與結尾」主導,過程長短反而被忽略
卡尼曼和 Redelmeier 在 1996 年發表的研究,觀察接受大腸鏡檢查與碎石術的病人。研究發現,病人回顧時給出的總痛苦評分,高度取決於過程中痛感的「峰值」以及「最後幾分鐘的結尾痛感」;檢查時間的長短,反而沒有顯著影響病人的事後記憶。
這個結果限定在兩種特定的醫療檢查情境,不能直接推及所有體驗。但我比較在意的是它背後的提醒:評估產品品質時,不能只看回顧時留下的高光片段,必須另外檢查持續使用的真實過程。
驗收標準不能只看 Demo:必須把使用者的重試次數與修正負擔納入 Eval 設計
回到開場那個假設:一個 AI 助手在內部展示時,把準備好的題目全部答對,在場的人看到的是一次完整、流暢的成果展示。展示者呈現的是挑選過的高光過程,使用者承擔的卻是日常的重試成本——同一個問題要換幾種問法才拿到可用的答案,拿到答案之後還要自己核對哪裡可能出錯。
在這個假設裡,三個角色看到的資訊範圍不一樣。展示者負責呈現成果,也該負責說清楚這段展示省略了什麼;若觀看者在會議裡只能看到摘要與展示,就需要知道這份摘要涵蓋了哪些使用情境,還有哪些沒有被檢查;持續使用的人則承擔了摘要沒有記下的部分:等待、重試、修正,以及發現答案有問題時要花的額外力氣。要補足判斷依據,可以先把這些未呈現的部分列出來。
好的展示、好的總結仍值得保留:團隊可以用它們討論成果、確認彼此關注的問題,記得住的評價本身也有意義,就像記憶自我留下的評價值得被照顧一樣。要補的是摘要沒有呈現的那一段——使用者持續付出、卻沒有被計入分數的成本。如果驗收只看展示或摘要,既有的 KPI 又沒有涵蓋等待、重試與修正,這段真實成本就會一直被系統性忽略。這是檢查驗收標準時應追問的缺口。
再加上一個條件:假設團隊用 AI 更快完成了展示稿與摘要報告,仍用原來的驗收方式判斷成果,卻沒有同步補上「持續使用的品質有沒有被檢查」這一關,那些未被摘要呈現的使用成本,就可能繼續被忽略。這裡討論的是產出加速、檢查範圍維持原樣時的風險。判斷自己的流程是否有這個缺口,要看實際納入了哪些使用情境、收集了哪些失敗後的負擔;僅憑團隊用了 AI,或展示稿完成得更快,還不能推定使用品質變差。
要補上這段落差,可以把持續使用的成本納入 eval(評估方法)的設計。在這個假設裡,demo 呈現了準備好的題目被答對的過程;後續評估則可以加入失敗情境、重試次數與使用者實際的修正動作,檢查這次展示未呈現的部分。評估是否足夠,要看它涵蓋了什麼。沿著這個問題,可以讀〈AI Demo 很成功,為什麼一上線就出事?五條失敗路徑一次看懂(2026)〉,思考展示成功之後還要檢查哪些失敗風險;再讀〈AI 寫的測試全過,為什麼功能還是錯的?驗證閉環完整懶人包(2026)〉,追問拿來驗收的測試本身憑什麼可信。團隊也可以考慮讓 AI 協助整理使用紀錄、草擬測試情境,再檢查這些材料是否涵蓋需要關心的成本;哪些成本不能被省略、要用什麼標準驗收,仍然要由負責交付的人決定,也由他承擔這個判斷的後果。
結論:持續使用的基本品質是不可妥協的底線,驗收標準必須看見使用者反覆付出的代價
回到最初那個展示的畫面:題目全部答對、在場所有人都點頭的那一刻,看起來像是一個漂亮的結尾。但產品要每天被打開、每天被重試,展示只是其中一次性的畫面。如果評價產品好壞的標準只停在那個漂亮的瞬間,持續使用者承擔的代價就可能永遠排在報告之外。
下次要定義「這個產品做得好嗎」的時候,可以帶著一個具體的問題回到會議桌上:這份成功標準,看得見使用者反覆付出的代價嗎?經驗自我過得好不好值得關心,記憶自我留下的評價也有價值;但兩者衝突的時候,持續使用的基本品質,是絕對不能被犧牲的那一條底線。
持續使用者付出的成本,必須直接出現在成功標準裡。展示做得好只是第一關;下一關要檢查的是,支撐這份成果的關鍵假設,有沒有經過懂這個領域的人判斷與驗證——這也是〈AI 都能交出像樣的報告了,專業還要學到什麼程度?(2026 完整解析)〉想進一步回答的事。
延伸閱讀
- 〈AI 都能交出像樣的報告了,專業還要學到什麼程度?(2026 完整解析)〉——成果背後哪些關鍵假設,仍需要懂這個領域的人判斷與驗證。
- 〈AI Demo 很成功,為什麼一上線就出事?五條失敗路徑一次看懂(2026)〉——展示成功之後,上線前還有哪些失敗風險需要檢查。
- 〈AI 寫的測試全過,為什麼功能還是錯的?驗證閉環完整懶人包(2026)〉——驗收測試本身憑什麼可信,如何檢查它是否能抓到錯誤。
參考資料
- Jason Zweig,The last decision by the world's leading thinker on decisions,《華爾街日報》。 https://www.wsj.com/arts-culture/books/daniel-kahneman-assisted-suicide-9fb16124
- Times of Israel,卡尼曼離世方式報導(轉述上述 WSJ 報導;本文死亡方式的轉述來源)。 https://www.timesofisrael.com/israeli-american-nobel-laureate-daniel-kahneman-revealed-to-have-died-by-assisted-suicide/
- Daniel Kahneman,The riddle of experience vs. memory,TED2010。 https://www.ted.com/talks/daniel_kahneman_the_riddle_of_experience_vs_memory
- Redelmeier, D. A. & Kahneman, D. (1996),Patients' Memories of Painful Medical Treatments: Real-Time and Retrospective Evaluations of Two Minimally Invasive Procedures(論文摘要)。 https://pubmed.ncbi.nlm.nih.gov/8857625/
留言0
登入後就能留言。
登入