CN118939766B 基于自適應檢索增強機制調整答案文本的處理方法和裝置 （北京深勢科技有限公司）

基于自適應檢索增強機制調整答案文本的本發明實施例涉及一種基于自適應檢索增務的LLM模型作為第一模型；將問題文本輸入第整模式為第一模式時直接將當前答案文本作為模式時進行多輪檢索增強和答案文本調整得到2接收第一問題文本；并將預設的用于處理智能問答任務的LLM模型作為對應的第一模將所述第一問題文本輸入所述第一模型的所述第一答案文本生成指令接口進行處理答案文本輸入所述第一模型的所述答案質量評估指令接口進行處理得到對應的第一質量根據所述第一復雜度評估結果和所述第一質量評估結果進行文本調整模式確認得到當所述第一調整模式為第一模式時，將所述第一答案文本作為對應的調整后答案文第一知識庫和所述第一模型進行單輪檢索增強和答案文本調整處理得到對應的所述調整第一知識庫和所述第一模型進行多輪檢索增強和答案文本調整處理得到對應的所述調整其中，所述第一答案文本生成指令接口用于將接口當次輸入所述第二答案文本生成指令接口用于將接口當次輸入的問題文本和知識文本集作為所述問題復雜度評估指令接口用于將接口當次輸入的問題文本作為對應的當前問題所述答案質量評估指令接口用于將接口當次輸入的問題文本和答案文本作為對應的3所述第一知識庫包括多個第一知識記錄；所述第一知識記錄包括第一知識文本和第一所述根據所述第一復雜度評估結果和所述第一質量評估結果進行文本調整模式確認所述根據所述第一問題文本、所述第一答案文本、所述第一知識庫和參考RAG機制處理原理，對所述第一編碼向量與所述第一知識庫的各個所述第一知識似度超過預設的相似度閾值的所述第一文本向量對應的所述第一知識文本作為對應的第對應的第一檢索文本序列；并將所述第一檢索文本序列中排在序列頭部的第一數量K的所述第一檢索文本提取出來組成對應的第一知識文本集；所述第一數量K為一個預設的正整將所述第一問題文本和所述第一知識文本集輸入所述第一模型的所述第二答案文本所述根據所述第一問題文本、所述第一答案文本、所述第一知識庫和步驟61，將所述第一答案文本作為對應的當前答案文本步驟62，由所述第一問題文本和所述當前答案文本組成述第二組合文本進行詞嵌入編碼得到對應的所述第二相似度從高到低的順序對所有所述第二檢索文本進行排序得到對應的第二檢索文本序列；并將所述第二檢索文本序列中排在序列頭部的所述第一數量K的所述第二檢索4步驟64，將所述第一問題文本和所述第二知識文本集步驟66，將所述第一問題文本和所述第三答案文本輸入步驟67，對所述第一計數器是否超過預設的計數器步驟68，對所述第二質量評估結果是否為高進行識別；2.根據權利要求1所述的基于自適應檢索增強機制調整答案文本的處理方法，其特征所述第一模型已經完成模型預訓練和模型微調；3.一種用于執行權利要求1_2任一項所述的基于自適應檢索增強機制調整答案文本的所述問題接收模塊用于接收第一問題文本；并將預設的用于處理智能問答任務的LLM所述答案生成與評估模塊用于將所述第一問題文本輸入所述第一模型的所述第一答所述第一問題文本和所述第一答案文本輸入所述第一模型的所述答案質量評估指令接口所述調整模式確認模塊用于根據所述第一復雜度評估結果和所述第一質量評估結果所述第一答案調整模塊用于當所述第一調整模式為第一模式時，所述第二答案調整模塊用于當所述第一調整模式為第二模式時，根據5所述第三答案調整模塊用于當所述第一調整模式為第二模式時，根據所述答案顯示模塊用于對得到的所述調整后答案文本進所述處理器用于與所述存儲器耦合，讀取并執行所述存儲器中的5.一種計算機可讀存儲介質，其特征在于6識領域覆蓋面較高的大問答數據集對LLM模型進行模型預訓練(pretraining)，再基于一模型能基于自身模型參數對用戶輸入的問題文本進行對應的答案文本生成處理。但受預/微調訓練數據集的知識領域廣度和深度限制，此時的LLM模型產生幻覺(illusion)問題的[0003]有學者為降低LLM模型的幻覺概率提出了檢索增強生成(Retrievalaugmentedgeneration，RAG)機制，其具體實時細節可通過技術文獻《Retrieval_Augmented制是指在LLM模型每次進行答案文本生成之前都先在外部知識庫中對與問題文本相似的知操作則無疑會降低LLM模型的平均處理效率；2)常規的檢索增強操作只會基于問題文本對的參考上下文的匹配度也會發生偏差、LLM模型生成的答案文本的準確度也無法得到有效7操作提高答案準確度；本發明在每輪檢索增強操作時以問題文本+前次答案文本作為依據進行知識檢索，因為常規情況下LLM模型生成的答案文本的邏輯性與專業性都會高于非專[0007]接收第一問題文本；并將預設的用于處理智能問答任務的LLM模型作為對應的第[0008]將所述第一問題文本輸入所述第一模型的所述第一答案文本生成指令接口進行第一答案文本輸入所述第一模型的所述答案質量評估指令接口進行處理得到對應的第一[0009]根據所述第一復雜度評估結果和所述第一質量評估結果進行文本調整模式確認所述第一知識庫和所述第一模型進行單輪檢索增強和答案文本調整處理得到對應的所述所述第一知識庫和所述第一模型進行多輪檢索增強和答案文本調整處理得到對應的所述[0017]所述第一答案文本生成指令接口用于將接口當次輸入的問題文本作為對應的當[0018]所述第二答案文本生成指令接口用于將接口當次輸入的問題文本和知識文本集8[0019]所述問題復雜度評估指令接口用于將接口當次輸入的問題文本作為對應的當前[0020]所述答案質量評估指令接口用于將接口當次輸入的問題文本和答案文本作為對[0028]參考RAG機制處理原理，對所述第一編碼向量與所述第一知識庫的各個所述第一一相似度超過預設的相似度閾值的所述第一文本向量對應的所述第一知識文本作為對應得到對應的第一檢索文本序列；并將所述第一檢索文本序列中排在序列頭部的第一數量K的所述第一檢索文本提取出來組成對應的第一知識文本集；所述第一數量K為一個預設的9[0029]將所述第一問題文本和所述第一知識文本集輸入所述第一模型的所述第二答案對所述第二組合文本進行詞嵌入編碼得到對應的所述相似度閾值的所述第一文本向量對應的所述第一知識文本作為對應的第二檢索文本；并按所述第二相似度從高到低的順序對所有所述第二檢索文本進行排序得到對應的第二檢索文本序列；并將所述第二檢索文本序列中排在序列頭部的所述第一數量K的所述第二[0042]本發明實施例第二方面提供了一種用于實現上述第一方面所述的基于自適應檢[0044]所述答案生成與評估模塊用于將所述第一問題文本輸入所述第一模型的所述第所述第一模型的所述問題復雜度評估指令接口進行處理得到對應的第一復雜度評估結果；并將所述第一問題文本和所述第一答案文本輸入所述第一模型的所述答案質量評估指令[0045]所述調整模式確認模塊用于根據所述第一復雜度評估結果和所述第一質量評估結果進行文本調整模式確認得到對應的第一調整模式；所述第一調整模式包括第一模式、令接口)，其中，第一答案文本生成指令接口用于根據輸入的問題文本生成對應的答案文問題復雜度評估指令接口和答案質量評估指令接口對問題文本的問題復雜度以及初次答實施例在每輪檢索增強操作時以問題文本+前次答案文本(在單輪檢索增強操作或多輪檢一輪時前次答案文本為前一輪得到的答案文本)作為依據進行知識檢索，因為常規情況下LLM模型生成的答案文本的邏輯性與專業性都會高于非專業提問人員輸入的問題文本，所[0055]圖1為本發明實施例一提供的一種基于自適應檢索增強機制調整答案文本的處理[0056]圖2為本發明實施例二提供的一種基于自適應檢索增強機制調整答案文本的處理圖1為本發明實施例一提供的一種基于自適應檢索增強機制調整答案文本的處理方法示意[0063]本發明實施例的第一答案文本生成指令接口用于將接口當次輸入的問題文本作[0064]本發明實施例的第二答案文本生成指令接口用于將接口當次輸入的問題文本和生成過程中的提示文本、根據當前問題文本進行答案文本生成處理并輸出對應的答案文[0065]本發明實施例的問題復雜度評估指令接口用于將接口當次輸入的問題文本作為[0066]本發明實施例的答案質量評估指令接口用于將接口當次輸入的問題文本和答案[0068]步驟2，將第一問題文本輸入第一模型的第一答案文本生成指令接口進行處理得答案質量評估指令接口進行處理得到對應的第一質量評實施例的第一答案文本生成指令接口會將接口當次輸入的第一答案文本作為對應的當前施例的問題復雜度評估指令接口會將接口當次輸入的第一問題文本作為對應的當前問題本的問題復雜度進行評估并輸出對應的第一復雜度評估題文本進行關鍵字提取得到對應的當前文本關鍵字集合；并將預先設置的知識主題樹上，與當前文本關鍵字集合中各個關鍵字匹配度最高的知識主題節點標記成對應的關鍵字主[0075]這里提到的知識主題樹是一個用于存儲知識類別的主題數(subject后基于該適配檔來設置對應的第一復雜度評估結果文本的答案質量進行評估并輸出對應的第一質量評前問題文本進行答案文本可信度識別得到對應的答案可信度時可基于多種方式來計算答語義完整度進行識別得到對應的答案語義完整度時可基于多種常規的語義完整性統計方和答案語義完整度對當前答案文本的答案質量進行評估并輸出對應的第一質量評估結果檔來設置對應的第一質量評估結果(適配檔為[0083]步驟3，根據第一復雜度評估結果和第一質量評估結果進行文本調整模式確認得識庫和第一模型進行單輪檢索增強和答案文本調整處理得到對對第一組合文本進行詞嵌入編碼得到對應的第一檢索文本序列中排在序列頭部的第一數量K的第一檢索文本提取出來組成對應的第一[0092]其中，相似度閾值為一個預先設置的相似度參數；第一數量K為一個預設的正整[0093]這里，RAG機制中與檢索增強相關的處理原理可參考技術文獻《Retrieval_前步驟332所示通過向量比對來對外部知識識庫和第一模型進行多輪檢索增強和答案文本調整處理得到對在序列頭部的第一數量K的第二檢索文本提取出來組成對應的第二知識文[0110]圖2為本發明實施例二提供的一種基于自適應檢索增強機制調整答案文本的處理[0111]問題接收模塊201用于接收第一問題文本；并將預設的用于處理智能問答任務的[0112]答案生成與評估模塊202用于將第一問題文本輸入第一模型的第一答案文本生成[0113]調整模式確認模塊203用于根據第一復雜度評估結果和第一質量評估結果進行文[0114]第一答案調整模塊204用于當第一調整模式為第一模式時，將第一答案文本作為[0119]需要說明的是，應理解以上裝置的各個模塊的劃分僅僅調度程序代碼的形式實現時，該處理元件可以是通用處理器，例如中央處理器(Central[0122]圖3為本發明實施例三提供的一種電子設備的結構示意圖。該電子設備可以為實[0123]在圖3中提到的系統總線305可以是外設部件互連標準(PeripheralComponentInterconnect，PCI)總線或擴展工業標準結構(ExtendedIndustryStandard能包含隨機存取存儲器(RandomAccessMemory，RAM)，也可能還包括非易失性存儲器[0124]上述的處理器可以是通用處理器，包括中央處理器CPU、網絡處理器(Network令接口)，其中，第一答案文本生成指令接口用于根據輸入的問題文本生成對應的答案文問題復雜度評估指令接口和答案質量評估指令接口對問題文本的問題復雜度以及初次答實施例在每輪檢索增強操作