專利 | 騰訊（xùn）申請“大語言模型訓練方法（fǎ）”專利，提升模型泛化能力與準確性（xìng）

   天眼查App顯示，騰訊科技（深圳）有限公司近日申請了一項名（míng）為“大語（yǔ）言模型的訓練方法、裝（zhuāng）置、計算機設備及存儲介質”的專利。這項專利的摘要揭（jiē）示了該方法通過引入第一摘要文本和第二摘要文本，在大語言模型的訓練過程中為模型提供更多可學習的信息。

   根據專利描述，第一摘要文本和第二摘要文本（běn）所包含的信息量不同（tóng），其中第一摘要文本（běn）中還包含了正確語句和錯誤語句。通過對同（tóng）一文本的這兩（liǎng）個不同摘要進行對比學習，並區分學習其（qí）中的正確語句與錯誤（wù）語句，能夠有效避免摘要文本單一可能導致的（de）模型過擬合和生成不（bú）準確等問題。

   該方法的創新之處在於提升了模型的泛化性能，並有效提高了模型的準確性。通（tōng）過引（yǐn）入多樣化的摘要文本內容，騰訊（xùn）的這一訓練方（fāng）法為大語言模型的訓練過程帶來了更高（gāo）效、更精（jīng）準的提升。

   來源： AIbase基地