近日，騰訊科技(深圳)有限公司公布了一項名為“大語言模型的訓(xùn)練方法、裝置、計算機設(shè)備及存儲介質(zhì)”的新專利。該專利的公布，標志著騰訊在大語言模型訓(xùn)練領(lǐng)域取得了新的突破。

據(jù)專利摘要顯示，該方法通過在大語言模型的訓(xùn)練過程中引入第一摘要文本和第二摘要文本，為模型提供了更為豐富的學習信息。這兩個摘要文本在信息量上存在差異，且第一摘要文本中既包含正確語句也包含錯誤語句。這一設(shè)計使得模型在訓(xùn)練過程中，能夠通過對比學習兩個不同摘要文本的內(nèi)容，同時區(qū)分并學習第一摘要文本中的正確語句和錯誤語句。

這一創(chuàng)新性的訓(xùn)練方法，有效避免了由于摘要文本單一而導(dǎo)致的模型過擬合和生成不準確等問題。通過引入更多樣化的學習信息，模型能夠更好地泛化到新的數(shù)據(jù)上，從而提高其泛化性能。同時，對正確語句和錯誤語句的區(qū)分學習，也進一步提升了模型的準確性。

騰訊此次公布的新專利，不僅展示了其在人工智能領(lǐng)域的深厚技術(shù)積累，也為大語言模型的訓(xùn)練提供了新的思路和方法。