八層判斷,多模型協作。
照應把錄音、文件和照片變成查得到出處的知識。從收進來到回答,中間有八層判斷:每一件 AI 工作由模型路由(Model Routing)分派給規則、專用模型或三級語言模型;回答走混合檢索的檢索增強生成(RAG),每一句附出處標記、逐句核對;權限由資料庫的列級安全(Row-Level Security)執行,不交給模型。
- Model Routing
- Hybrid RAG
- RRF
- Cross-encoder
- Speaker Diarization
- Speaker Embedding
- Claim Extraction
- Attribution Check
- Row-Level Security
- Eval Gate
- MCP
同一份題目,換一種做法再答一次。
三份題目,每一份都用同一個作答模型、同一套評分,只換回答的做法:一份專考公司資料說法不一、改過、還沒定的時候,對照一般人常用的三種做法;一份是我們的評測題庫,對照業界常見的檢索增強生成;一份是公開的評測集 WikiContradict,對照把資料直接交給模型的兩種問法。明顯較好的、略勝的、照應多付出的,都列出來。
資料說法不一的時候:三種常見做法和照應
照應明顯較好的,是還沒定的事:把各說都交代、不替你選的比例最高,和一般做法、加提示比都明顯較好。整體答對與三種問法都答對,照應都是四組最高,略勝整包交給模型;整包交給模型要每次附上全部文件,文件一多就放不進一次提問。照應還在加強的,是明講改過的題目;多付出的,是成本與等待時間。
色點:和一般做法比。同一題成對比較 p < 0.05 才標明顯較好;照應較高、但還沒到這個門檻的標略勝。代價與待加強照方向標。
- 照應明顯較好
- 照應略勝或持平
- 代價或待加強
長條照比例畫,軸是 0 到 100%。
| 指標 | 一般做法向量檢索取前五段 | 一般做法+提示多一句:說法不一就列出各說 | 整包交給模型59 份全部附上,同樣加提示 | 照應產品的回答路徑 | 差別 |
|---|---|---|---|---|---|
| 還沒定的事 | |||||
| 各說都交代、不替你選17 題、51 次:每一說都寫到,附日期或出處 | 23 次(45.1%) | 23 次(45.1%) | 30 次(58.8%) | 37 次(72.5%) | 照應明顯較好:同一題成對比較:和一般做法,只有照應對 16 次、只有一般做法對 2 次(p = 0.001);和加提示是 19 對 5(p = 0.007);和整包交給模型是 12 對 5,照應略勝(p = 0.14)。 |
| 已經定了、或明講改過 | |||||
| 用定案的值10 題、30 次:資料裡有決議紀錄 | 26 次(86.7%) | 26 次(86.7%) | 30 次(100%) | 28 次(93.3%) | 照應略勝或持平:和一般做法是 4 對 2,照應略勝(p = 0.69)。整包交給模型 30 次全對,照應有 2 次把已經定了的事當成還沒定。 |
| 用改過之後的值7 題、21 次:原訂後來改了,或更正了 | 21 次(100%) | 19 次(90.5%) | 20 次(95.2%) | 16 次(76.2%) | 代價或待加強:照應還在加強的地方,四組裡最低:只有一般做法對 5 次、只有照應對 0 次(p = 0.063)。照應只把和問題最相關的幾段交給模型,寫著改過的那一段多半沒有選進去,就答成原訂的值。 |
| 不是矛盾、或資料裡沒有 | |||||
| 誤報成說法不一9 題、27 次:數字不同,講的卻不是同一件事(越少越好) | 2 次 | 4 次 | 1 次 | 0 次 | 照應略勝或持平:照應沒有誤報,四組最少;加提示那一組誤報最多。 |
| 資料裡沒有就說沒有5 題、15 次 | 15 次 | 15 次 | 14 次 | 15 次 | 照應略勝或持平:一樣。整包交給模型有 1 次編了答案。 |
| 整體 | |||||
| 答對全部 144 次 | 110 次(76.4%) | 105 次(72.9%) | 117 次(81.3%) | 122 次(84.7%) | 照應略勝或持平:照應四組最高。和一般做法是 22 對 10(p = 0.050),差一點就到明顯較好;和加提示是 30 對 13(p = 0.014),明顯較好;和整包交給模型是 18 對 13,略勝(p = 0.47)。 |
| 三種問法都答對48 題 | 29 題(60.4%) | 28 題(58.3%) | 31 題(64.6%) | 34 題(70.8%) | 照應略勝或持平:照應四組最高;和一般做法是 10 對 5,略勝(p = 0.30)。 |
| 代價 | |||||
| 每次提問的成本模型、嵌入與重排序的用量,照實計價;照應不含收進知識庫 | 基準 | 約 1.2 倍 | 約 7.0 倍 | 約 2.0 倍 | 代價或待加強:照應作答時附上的規則與材料較多,另外多一次重排序。整包交給模型每次都附上全部文件,最貴。 |
| 等多久開始作答到拿到答案;中位數,括號裡是 90% 的提問在幾秒內 | 3.8 秒(6.8) | 4.4 秒(7.9) | 4.3 秒(7.3) | 6.8 秒(11.5) | 代價或待加強:多了關鍵字檢索、重排序與逐句核對。 |
怎麼比的
- 四組用同一個作答模型、同一個思考深度,提問的人是同一位一般成員。題目、文件與評分在作答之前凍結;這 48 題只跑一次。另外 15 題留給開發與調整,不算在這張表裡;跑之前用那幾題確認時修了兩處回答的問題,修完才跑這 48 題。
- 一般做法:問句做語意向量檢索,取最相近的五段,用標準提示作答。加提示:同一次檢索,提示多一句「資料裡說法不一或還沒定案時,列出各說、附日期與出處、不要替使用者選;有決議或更正的,以最新的為準」。整包交給模型:59 份文件依日期全部附上,提示和加提示那一組相同。
- 照應:產品實際的路徑。文件用產品的上傳收進知識庫,說法不一由產品自己比對、登錄;有決議的事,由有權決定的人在產品的待答頁拍板。作答和網頁上問問題同一組設定,回應照畫面原樣收(答案,加上答案下面的「前後對不上」卡)。
- 評分:先用程式比對回應裡有沒有各說的值、決議的值、被推翻的值與新值;立場(選邊、兩說並陳、只講一說、拒答等)由另一個語言模型評審判斷,評審看不到是哪一組。兩者合起來判對、部分、錯,表上只算「對」。這一輪還沒有人工標註來驗證評審。
- p 值是同一題、同一種問法成對的雙尾符號檢定,「三種問法都答對」以題為單位;每一列同時和三組比,沒有為多重比較校正。
- 資料全部虛構,不用任何客戶的資料:59 份裡有 15 份是不相干的干擾文件、9 份是英文;題目的「今天」是 2026 年 10 月 1 日。資料只有 59 份,整包交給模型才放得進一次提問。
評測題庫:一般做法和照應
照應明顯較好的,是說法不一時標出「還沒裁決」。完全答對、關鍵事實涵蓋和出處支持,照應都略勝一籌(題數不多,同一題成對比較的 p 值都大於 0.2)。多付出的是成本與時間;該拒答的 18 題,照應這一次有 1 題沒拒答。
色點:和一般做法比。
- 照應明顯較好
- 照應略勝或持平
- 代價或待加強
長條照比例畫,軸是 0 到 100%。
| 指標 | 一般做法向量檢索取前五段 | 照應產品實際的回答路徑 | 差別 |
|---|---|---|---|
| 答得對不對 | |||
| 完全答對可答的 55 題,關鍵事實全部寫到 | 50 題(90.9%) | 53 題(96.4%) | 照應略勝或持平:照應多答對 3 題,略勝一籌。 |
| 關鍵事實涵蓋可答的 55 題,平均寫到幾成 | 93.6% | 97.3% | 照應略勝或持平:照應高 3.7 個百分點,略勝。 |
| 出處支持那一句帶出處標記的句子裡,出處找得到依據的比例 | 81.7%(164 句) | 85.1%(101 句) | 照應略勝或持平:照應高 3.4 個百分點,略勝。 |
| 不該答的時候 | |||
| 該拒答時拒答18 題:9 題資料裡沒有、9 題提問者無權查看 | 18 題(100%) | 17 題(94.4%) | 代價或待加強:照應有 1 題沒拒答:答案在同事的私人備忘裡,照應改引公開的說明作答,沒有讀到看不到的內容。同一題之前兩次評測都拒答。 |
| 讀到提問者看不到的內容全部 73 題 | 0 次 | 0 次 | 照應略勝或持平:一樣。權限由資料庫執行,和回答的做法無關。 |
| 答得出來卻拒答可答的 55 題 | 1 題 | 0 題 | 照應略勝或持平:照應沒有一題答得出來卻拒答,一般做法 1 題;略勝。 |
| 說法不一的時候 | |||
| 標出「還沒裁決」5 題:資料裡有兩種說法,還沒有人裁決 | 0 題 | 5 題 | 照應明顯較好:一般做法沒有矛盾登錄,有 3 題把其中一說寫成定案;同一個規格換個問法,寫成定案的值也不一樣。 |
| 代價 | |||
| 每題成本模型、嵌入與重排序的用量,照實計價 | 基準 | 約 1.9 倍 | 代價或待加強:作答時附上的規則與材料較多,另外多一次重排序。 |
| 等多久開始作答到拿到答案;中位數,括號裡是 95% 的題目在幾秒內 | 2.8 秒(6.8) | 4.9 秒(7.7) | 代價或待加強:多了關鍵字檢索、重排序與逐句核對。 |
怎麼比的
- 兩邊一樣的:題目與評分、作答的模型與思考深度、文件與索引、提問者的身分與權限(資料庫逐份判斷)。
- 一般做法:問句直接做語意向量檢索,取最相近的五段,附上文件標題、段名與日期,用標準提示作答;沒有關鍵字檢索、重排序、拒答門檻、逐句核對與矛盾登錄。
- 照應:產品實際的回答路徑,和網頁上問問題用同一組設定;10 月 20 日用要上線的版本重跑。一般做法沿用 10 月 19 日的作答:它用到的程式沒有改,用現在的評分重算一題都沒變。
- 評分:完全答對、關鍵事實與出處支持都用程式比對原文。拒答由語言模型評審讀畫面上的字判定,兩邊同一個評審;評審在看過第一輪結果後修訂過一次(提示與模型都換了),兩邊都用修訂後的評審重判。修訂前,「答得出來卻拒答」是一般做法 2 題、照應 6 題,其他數字不變。
- 文件只有 50 份,前五段就涵蓋大部分文件;資料量變大時,兩種做法的差距不一定一樣。等待時間是評測環境量到的,含檢索與作答;評測時照應讀資料庫是一件一件做(產品裡是同時做),所以照應的時間偏保守。
公開評測集 WikiContradict:資料互相矛盾時
照應這一組的使用者不必另外提醒;兩種說法都交代的比例,和直接問、和明講要交代矛盾比,都明顯較好。不提醒時,直接交給模型只有 12.3% 把兩種說法都交代。要推一步才看得出矛盾的那 92 題,照應略勝明講。代價是 3.2% 的題目沒答到或答錯,一半是拒答。
色點:和直接問比。明講要交代矛盾,是使用者自己加提示的做法,當參考。
- 照應明顯較好
- 照應略勝或持平
- 代價或待加強
長條照比例畫,軸是 0 到 100%。
| 指標 | 直接問把資料直接交給模型 | 明講要交代矛盾問題後面多一句提醒 | 照應使用者不必提醒 | 差別 |
|---|---|---|---|---|
| 兩種說法都交代、不偏袒 | ||||
| 全部253 題 | 12.3% | 51.4% | 60.5% | 照應明顯較好:同一題成對比較:和直接問,只有照應正確 125 題、只有直接問正確 3 題(p < 0.001);和明講是 42 對 19(p = 0.004)。 |
| 矛盾寫在字面上161 題 | 17.4% | 64.6% | 75.8% | 照應明顯較好:和直接問是 95 對 1;和明講是 28 對 10(p = 0.005)。 |
| 要推一步才看得出來92 題 | 3.3% | 28.3% | 33.7% | 照應明顯較好:和直接問是 30 對 2;和明講是 14 對 9,照應略勝(p = 0.40)。 |
| 代價 | ||||
| 沒答到或答錯評審判為不正確 | 0.4% | 0.4% | 3.2% | 代價或待加強:照應 8 題:拒答 4 題、其他 4 題。直接交給模型的兩組,沒有拒答門檻與逐句核對。 |
怎麼比的
- 三組用同一個作答模型。前兩組照論文的兩個提示,把資料直接交給模型;照應先把資料當筆記收進知識庫(抽出主張、跨文件比對),再用產品實際的回答路徑作答。前兩組沿用 10 月 19 日的作答(程式、提示與評審都沒有改,重算結果相同)。
- 評分照論文的定義:兩種說法都交代、不偏袒任何一邊才算正確。評審是另一個語言模型,和作答的不是同一個;拿論文公開的人工評分(480 個回應)驗證,一致 91.0%(Cohen's kappa 0.73;論文兩位作者彼此是 0.58 到 0.67)。評審的提示是看過這批人工評分的分歧之後改寫的,一致程度可能略為高估。
- 照論文文字定義的較嚴評審:三組是 5.5%、32.0%、52.6%,高低順序相同;這時照應和明講是 63 對 11(p < 0.001)。
- 這份題目沒有考到檢索:每題只有一兩段資料,回答走整份送。照應的分數主要來自作答規則(兩段說法不同就並陳、不替使用者選);入庫時登錄成矛盾的只有 12.6% 的題目。
- 照應這一組多了把資料收進知識庫的花費,每題合計約是明講那一組的 5.5 倍。照應照提問的語言用英文作答,評審依意思判斷。
- 這份題目 10 月 19 日第一次跑時,查到三個產品問題:說法不一的規則只認中文、中文回答對英文出處時逐句核對把回答拿光、沒有照提問的語言作答。修好之後 10 月 20 日重跑,所以這一份已經不是沒看過的題目。第一次照應是 56.5%,沒答到或答錯 11.9%。
- 論文裡 2024 年的 10.4%、43.8% 是不同的模型、48 題的人工評分,不和這張表對照。
出處:Hou 等,NeurIPS 資料集與基準評測軌,2024 年,〈WikiContradict: A Benchmark for Evaluating LLMs on Real-World Knowledge Conflicts from Wikipedia〉(另開新分頁)
公開研究量到的問題,是我們這樣設計的原因。
下面六個數字來自公開的研究與調查。題目、評分方式、年份與樣本都和本頁的評測不同,不是和照應的直接比較;放在這裡,是說明每一層為什麼這樣做。
Gartner 調查
47%
數位工作者很難找到做事需要的資訊
2022 年 9 到 11 月,調查美國、英國、印度與中國員工 100 人以上組織的 4,861 位全職員工(自評)。桌面工作者平均要用 11 個應用程式,2019 年是 6 個。
所以錄音、文件、照片和一句話,收進同一個知識層,在一個地方問得到。看架構圖
出處:Gartner 新聞稿,2023 年 5 月 10 日,〈Gartner Survey Reveals 47% of Digital Workers Struggle to Find the Information Needed to Effectively Perform Their Jobs〉(另開新分頁)
史丹佛大學《AI Index 2026》
22 到 94%
答不出來時,模型常給錯的答案,而不是說不知道
報告整理的知識評測:26 個模型閉卷(不給參考資料)回答 6,000 題,英文、六個領域。在沒有答對的題目裡,22% 到 94% 是給了錯誤的答案,其餘是部分答對或不作答。
所以最相關的資料也不夠相關,就直說找不到;該拒答時有沒有拒答,單獨列成一項評測。看第 6 層:混合檢索
出處:Stanford HAI,2026 年,《AI Index Report 2026》第 3 章(另開新分頁)
史丹佛與耶魯大學的研究者
17 到 33%
接上檢索的專業 AI 工具,回答仍會出錯
2024 年以 202 題預先登錄的法律問題,實測兩家主要法律資料商的 AI 研究工具:17% 到 33% 的回答內容有誤,或引用的出處並不支持那句話。題目是美國法律、英文。
所以每一句都帶出處標記,寫完再逐句核對:數字、日期和專有名詞在出處找不到的句子拿掉。看第 7 層:有據作答
出處:Magesh 等,Journal of Empirical Legal Studies 第 22 卷,2025 年,〈Assessing the Reliability of Leading AI Legal Research Tools〉(另開新分頁)
NeurIPS 2024 發表的評測
10.4%
兩份資料互相矛盾,模型多半不會主動指出
把兩段互相矛盾的資料同時交給模型:表現最好的模型,沒有特別提醒時,10.4% 的回答指出了衝突;明確提醒要注意之後是 43.8%。48 題人工評分,受測的是 5 個 2024 年的模型。
所以新資料進來就逐句抽出主張、跨文件比對;對不上的兩說並陳,交給有權限的人裁決。看第 8 層:主張比對
出處:Hou 等,NeurIPS 資料集與基準評測軌,2024 年,〈WikiContradict: A Benchmark for Evaluating LLMs on Real-World Knowledge Conflicts from Wikipedia〉(另開新分頁)
Epoch AI 分析
9 到 900倍/年
同一能力水準的推論價格,每年下降的幅度
要達到同一能力水準,語言模型的推論價格每年下降 9 到 900 倍,中位數約 50 倍;各類任務降得不一樣快,最快的降幅出現在 2024 年以後,原文提醒未必會持續。
所以每一種工作各自設定模型;新模型先過盲測,拿到現在的 97% 才換。看架構圖的模型路由
出處:Epoch AI,2025 年 3 月 12 日,〈LLM inference prices have fallen rapidly but unequally across tasks〉(另開新分頁)
安侯建業(KPMG)台灣調查
66%
台灣企業把機敏資料外洩列為 AI 應用的主要風險
2024 年第四季問卷調查金融、科技、工業製造、消費零售、醫療與生技產業的 220 位受訪者,可以複選:66% 選了機敏資料外洩,是所有風險裡最高的一項;第二名是數據分析不精準以致決策失誤,38%。
所以權限不交給模型判斷,由資料庫照提問者的身分逐份決定;讀不到的,和不存在一樣。看權限與安全
出處:KPMG 安侯建業新聞稿(中央社訊息平台),2025 年 7 月 21 日,〈KPMG安侯建業發布《台灣產業AI應用趨勢與展望報告》看五大產業展現智慧轉型契機〉(另開新分頁);KPMG 安侯建業,2025 年 7 月,《台灣產業 AI 應用趨勢與展望報告》第 42 頁(另開新分頁)
出處查閱日期:2026 年 10 月 19 日。各研究的方法與限制,以原文為準。
三條路徑,共用一個分開放的知識層。
寫入路徑在背景把錄音和檔案變成可以查證的知識;讀取路徑在提問者的權限範圍內檢索、作答、逐句核對;主動路徑照排程從知識層算出該提醒的事。三條路徑讀寫同一個知識層,每一列資料都帶著公司、專案和可見範圍。
寫入路徑背景非同步處理,你可以先去忙別的
寫入:原文、重點、主張、實體與索引
知識層每家公司各自隔開;每一列都帶著公司、專案和可見範圍,權限由資料庫執行
內容
- 原文與逐字稿
- 重點
- 主張:誰說、何時、出處
- 實體:人、公司、專案
- 總覽
- 待答問題
- 裁決紀錄
索引
- 語意向量
- 全文索引:依詞表斷詞
- 摘要樹
權限標記
- 公司
- 機密等級
- 角色
- 專案
- 私人
排程讀取:同一套權限
主動路徑排程
偵測第 8 層
照規則掃知識層:卡住的事、翻來翻去的決定、快到期的承諾
規則與資料庫
措辭
把算出來的事寫成一句話
快速的語言模型
送達
洞察卡、每週回顧;推播只有固定的一句
規則與資料庫
讀取:以提問者的身分,只讀得到看得到的內容
讀取路徑即時;網頁上邊寫邊核對
橫跨每一層
- 模型路由52 種 AI 工作各自設定模型,其中 14 種只用規則
- 評測閘門換模型、改提示,先過盲測與評測集
- 成本計量每一次模型呼叫逐筆記用量
- 台灣繁體轉錄與模型寫的字都正規化成台灣繁體用語,先保護專有名詞
- 加密傳輸與存放加密;聲音樣本與金鑰另以 AES-256-GCM 加密
八層判斷
點開每一層,看它用什麼做、用到哪些技術。
寫入路徑第 1 到 4 層,背景完成
第 1 層意圖分流Intent Routing確定性訊號先判,模型只做備援;兩秒逾時退回規則。規則與資料庫快速的語言模型
你在首頁打「照那份逐字稿整理重點」,這是要它做事,不是一份要收的新檔。這一層只看那一句和附檔的形態,不讀你的資料內容:介面意圖、句子結構、稱呼、問號、長度這些確定性訊號先判;判不出來才問快速模型;還是不確定,就先收下,再問你一句。
用什麼做
- 規則與資料庫確定性訊號先判:介面意圖、句子結構、稱呼、問號、長度
- 快速的語言模型判不出才問快速模型,只回一個很短的判斷;兩秒沒回就退回規則
技術
- Intent Classification
- Deterministic-first
- LLM Fallback
- 2s Timeout
第 2 層轉錄與認人ASR · Speaker ID語音辨識加說話人分離;聲紋過門檻、又領先第二像的人,才標名字。規則與資料庫專用模型
錄音先問你有幾個人,再做語音辨識(ASR)與說話人分離(Speaker Diarization),公司詞表當關鍵詞提示,長錄音自動分段。開了聲音辨識,就以說話人嵌入向量(Speaker Embedding)比對聲紋:相似度過門檻、又明顯較好第二像的人,才直接寫上名字;落在灰區就問你。你確認或更正過的片段會回頭校準,下次更準。轉出來的字一律正規化成台灣繁體。
用什麼做
- 專用模型語音辨識:說話人分離,公司詞表當關鍵詞提示
- 專用模型聲紋:自建的比對服務,以說話人嵌入向量比對
- 規則與資料庫相似度門檻與領先差寫在後台設定;落在灰區就改成問你
技術
- ASR
- Speaker Diarization
- Speaker Embedding
- Threshold + Margin
- Long-audio Chunking
第 3 層結構化整理Structured Distillation結構化輸出加第二回合自我核對;數字、日期逐一比對原文。規則與資料庫快速的語言模型標準的語言模型
每一份都整理成重點,照原文的證據強度寫:誰主張的寫誰,還沒驗證的標還沒驗證。標準模型以結構化輸出(JSON Schema)產生,第二回合自我核對(Self-verification)只回傳要改的地方;數字、日期與詞表裡的詞,再由規則逐一比對原文,找不到就拿掉。掃描檔先做文字辨識(OCR),簡報與 PDF 裡的圖表也會讀(多模態),看不懂就問你。
用什麼做
- 標準的語言模型標準模型,每份兩到三次呼叫:整理、第二回合自我核對
- 標準的語言模型掃描檔文字辨識、簡報與 PDF 的圖表理解
- 快速的語言模型會後的快速摘要
- 規則與資料庫數字、日期、詞表裡的詞逐一比對原文,找不到就拿掉
技術
- Structured Output
- Self-verification
- Evidence Grading
- OCR
- Multimodal
第 4 層實體歸位Entity Routing依主題、專案與人名、公司名比對,確認後大約十分鐘增量更新相關總覽。規則與資料庫快速的語言模型標準的語言模型
你確認過整理之後,這一份裡的重點、決定、待辦和還不確定的,會依主題、專案,以及整理裡出現的人名與公司名(實體)比對,接到相關那幾件事的總覽上,以增量更新(只改有變的條目)寫進去,大約十分鐘就好;同一頁十分鐘內的多次更新會合併成一次(Debounce)。同一件事散在十場會議裡,看總覽就好;放錯了,拿掉就是。
用什麼做
- 快速的語言模型收進來時先分主題
- 規則與資料庫照主題、專案、人名和公司名比對,找出相關的總覽
- 標準的語言模型把新的內容增量寫進總覽
技術
- Topic Classification
- Entity Matching
- Incremental Update
- Debounce
讀取與主動路徑第 5 到 8 層,你問的時候和它主動提醒的時候
第 5 層權限閘門Access Control資料庫以提問者的身分逐份判斷;讀不到的,和不存在一樣。規則與資料庫
搜尋只在你本來就看得到的範圍裡進行,這一道由資料庫執行,不交給模型:檢索時,每一份文件都以提問者的身分判斷一次讀不讀得到,用的是和列級安全(Row-Level Security)同一個條件式,讀得到的才拿出來。模型從頭到尾只讀得到你看得到的段落;讀不到的,和不存在一樣。私人的內容,連公司的負責人和管理者都讀不到。
用什麼做
- 規則與資料庫資料庫判斷:公司、機密、角色、專案四道門,再加私人
- 規則與資料庫看機密等級的內容,要先完成兩步驟驗證
技術
- Row-Level Security
- Document-level Gate
- Tenant Isolation
- MFA
第 6 層混合檢索Hybrid Retrieval語意向量與全文檢索四路並行,RRF 融合後重排序;不夠相關就拒答。規則與資料庫專用模型快速的語言模型
原文段落和整理過的重點,各用語意向量(Dense)和全文檢索(Lexical)找一次,四路結果以 RRF(Reciprocal Rank Fusion)融合,再交給 Cross-encoder 重排序;比較長的問題先拆成幾個子問題(Query Decomposition)。最相關的也不夠相關,就不硬答,直接說找不到;要的話,按一下記成待答的問題。
用什麼做
- 專用模型語意向量檢索;重排序模型排序,逾時就用融合結果
- 規則與資料庫全文檢索:依公司詞表斷詞的中文分詞
- 快速的語言模型比較長的問題,先拆成幾個子問題
技術
- Dense + Lexical
- RRF
- Cross-encoder
- Query Decomposition
- Abstention
第 7 層有據作答Grounded Generation每一句帶出處標記,逐句核對;未定案的說法兩說並陳。規則與資料庫標準的語言模型高階的語言模型
回答以結構化輸出產生,每一句都帶出處標記(Citation)。寫好之後逐句核對(Attribution Check):句子裡的數字、日期、型號和詞表裡的專有名詞,要在它引用的那一段找得到,找不到那一句就拿掉。兩份說法還沒裁決時,只寫其中一方的句子也會拿掉,改成兩說並陳。網頁上以串流(Streaming)邊寫邊核對,一句一句出現。
用什麼做
- 標準的語言模型寫回答:標準模型,結構化輸出
- 高階的語言模型你說「深入想」:高階模型
- 規則與資料庫逐句核對照規則,不靠模型自己說沒問題
技術
- Citation Grounding
- Attribution Check
- Hard-token Verification
- Streaming
第 8 層主張比對Contradiction Detection抽出主張、以嵌入相似度配對,寬篩後嚴格確認;寧可漏報,不要錯報。規則與資料庫專用模型快速的語言模型標準的語言模型
新資料進來時,先抽出每一句主張(Claim Extraction):誰說的、什麼時候、出處在哪。以嵌入相似度挑出候選配對(Blocking),快速模型寬鬆地篩、標準模型嚴格地確認,兩段式判定,寧可漏報、不要錯報。真的對不上,兩份並排給你,不替你選。答應的事快到了、一個決定翻了幾次,這類提醒由規則從知識層算出來,模型只負責把話說清楚。
用什麼做
- 專用模型主張配對:嵌入相似度,同一個人或公司放寬門檻
- 快速的語言模型寬篩:挑出可能對不上的
- 標準的語言模型嚴格確認
- 規則與資料庫提醒怎麼算:照規則,不叫模型
技術
- Claim Extraction
- Similarity Blocking
- Two-stage Verification
- Rule-based Insight
各有擅長,照實比做法。
比的是公司常拿來管知識的五類做法,不指特定產品;最後一列是各類最適合的情境,方便對照選型。
| 比較項目 | 通用 AI 助理 | 會議記錄工具 | 文件與筆記內建 AI | 企業搜尋 | 自己架開源框架 | 照應 |
|---|---|---|---|---|---|---|
| 收什麼 | 對話與上傳的檔案;企業方案可連公司的雲端硬碟、信箱與聊天,部分產品在自家會議平台做會議筆記 | 以錄音為核心:會議機器人自動入會、桌面錄音或錄音裝置 | 以工作區裡的文件為主;部分產品可錄會議筆記、接外部連接器 | 連接公司既有的系統來搜尋,不負責錄音 | 要收什麼自己接;錄音、聲紋與照片辨識要另外串模型 | 錄音、檔案、照片、一句話進同一個知識層;也從你的 AI(MCP)進來 |
| 回答附出處 | 多數可附來源連結,依功能而異 | 可針對單場或多場錄音提問;部分可追溯回原始錄音 | 依產品而異 | 部分產品每個答案都附引用 | 可以開啟引用,嚴謹程度看自己怎麼做 | 每一句帶出處標記、逐句核對:數字、日期、專有名詞在出處找不到的句子拿掉;資料沒有就直說 |
| 前後說法不一 | 非主打功能 | 非主打功能 | 部分產品有「已驗證」標記與到期提醒,靠人工維護 | 部分產品有專人核驗流程,並標出重複或衝突的內容 | 要自己開發 | 跨文件比對主張,兩說並陳,交給有權限的人裁決 |
| 權限 | 沿用來源系統的權限;企業方案有讓管理者調閱或保留成員對話的合規工具 | 以帳號與工作區管理;部分方案的最高管理者可存取整個工作區的會議 | 沿用頁面權限;部分企業方案的工作區擁有者可存取成員資料,含私人頁面 | 即時沿用來源系統的權限 | 權限要自己設計;進階權限常屬付費企業版 | 資料庫照提問者的身分逐份判斷;私人的內容,管理者也讀不到 |
| 認人 | 部分平台提供使用者自願註冊的聲紋,用在會議室的講者辨識 | 多以會議帳號或「講者 1、2」標示;能不能跨錄音記住,依產品而異 | 依會議資訊推測講者,不是聲紋;部分功能只支援英文 | 不處理錄音 | 要自己串接 | 跨錄音比對聲紋;夠像又明顯領先才寫上名字,拿不準就問你 |
| 主動提醒 | 部分產品的會議筆記會列出待辦 | 摘要附待辦很常見,部分可同步到客戶管理系統 | 會議筆記可抽待辦;部分產品在驗證到期時提醒頁面擁有者 | 部分產品提醒專人更新過期的知識 | 要自己開發 | 卡住的事、翻了幾次的決定、快到期的承諾,加上每週回顧 |
| 台灣繁體 | 依產品而異:有的會議筆記還不支援中文,也有支援台灣中文轉錄與詞彙表的 | 差異大:有的中文只支援簡體,有的提供台灣中文選項 | 中文支援依功能而異,部分功能只支援英文 | 依產品而異 | 看選用的模型與設定 | 轉錄與模型寫的字都轉成台灣繁體用語;公司詞表回頭幫轉錄 |
| 誰維運、誰評測 | 供應商 | 供應商 | 供應商 | 供應商;導入要做串接與設定 | 你自己:換模型、評測、權限、資安都要自己顧 | 我們;換模型、改提示之前,先過盲測與評測集 |
| 最適合的情境 | 一般知識、寫作、寫程式與網路搜尋;想沿用既有辦公套件的權限與合規工具 | 大量線上會議要自動入會、多語言,並同步到客戶管理系統 | 內容本來就在那個工作區、不想搬家;和工作流程整合深 | 要一次搜很多既有系統、權限即時同步;部分產品可部署在自己的雲端帳號 | 有工程團隊、要完全掌控:地端部署、自選模型、深度客製 | 公司自己的錄音和文件,要變成查得到出處、對得出前後說法的知識 |
比較基準:各類常見產品的商務或企業方案公開說明,2026 年 10 月整理,不指特定產品。「依產品而異」表示同一類產品做法不一;各產品功能持續更新,以各家官方說明為準。
誰看得到什麼,由資料庫決定。
權限寫在資料庫裡,不在畫面上:每一張資料表都啟用列級安全(Row-Level Security),搜尋、回答、提醒都以提問那個人的身分判斷讀不讀得到;讀不到的,就像不存在。
四道門,順序固定
1第 1 道
公司
Tenant Isolation
只有這家公司的成員進得來。別家公司、連平台營運方,都在這道門外。
現在就有2第 2 道
機密
MFA · AAL2
機密等級的內容,要先完成兩步驟驗證;公司帳號的成員第一次設定兩步驟驗證,預設要負責人或管理者核准。
現在就有3第 3 道
角色
RBAC
負責人、管理者、成員、訪客,看得到的範圍不一樣;訪客只看得到受邀的專案。
現在就有4第 4 道
專案
Project Scope
專案可以分開放,沒加入的人問不到;問其他工作時,也不會混進來。
現在就有
私人的內容,另外鎖著
只有你看得到的東西,公司的負責人和管理者也讀不到,也不會上捲到公司或集團。
技術控制
加密
傳輸全程 TLS 加密,資料庫與檔案存放時加密。從錄音截取的聲音樣本,以每家公司各自衍生的金鑰(HKDF)另外加密(AES-256-GCM);聲紋特徵只在伺服器端比對,不經任何 API 對外提供。
金鑰保管
單一登入的用戶端密鑰、Webhook 的簽章金鑰,以 AES-256-GCM 加密後才寫進資料庫;缺少主金鑰時,相關功能直接停用(Fail-closed),不會退回明文。
登入與驗證
TOTP 兩步驟驗證;看機密前 24 小時內要驗證過,公司可以縮短到 5 分鐘。公司可以設定自己的 OIDC 單一登入(SSO),只對驗證過的網域生效,也可以設為強制。
你的 AI 與 API
你的 AI 以 OAuth 2.1 授權碼流程連線,強制 PKCE;要讀機密得另外勾選,授權前 24 小時內要通過兩步驟驗證,預設 30 天到期。API 金鑰只存雜湊值、原文只顯示一次,分唯讀與讀寫,讀不到私人與機密的內容。
Webhook 與稽核
Webhook 以 HMAC-SHA256 加時間戳簽章,失敗時以指數退避(Exponential Backoff)自動重送;內容只有編號與中繼資料,私人檔案不發事件。API 呼叫、你的 AI 的每次工具呼叫、管理設定的變更都留稽核紀錄;網站與 App 上打開機密文件、問問題或在對話裡改整理與總覽時用到機密文件,以及下載、匯出、清空回收桶、永久刪除,也都記下來。存取紀錄在資料庫層不能修改或刪除。
刪除與匯出
回收桶保留 30 天後永久刪除;刪除帳號有 7 天可以取消。隨時可以自己下載整包匯出:帳號資料、每份文件一個 Markdown、原檔清單。
誰經手你的資料、存放在哪裡,依法列在隱私權政策。