腾讯公布大语言模型训练专利 可提高模型准确性

财联社2月8日电，天眼查App显示，腾讯科技（深圳）有限公司2月7日申请的“大语言模型的训练方法、装置、计算机设备及存储介质”专利公布。摘要显示，在该方法中，通过在大语言模型的训练过程中引入第一摘要文本和第二摘要文本，为模型训练提供了更多可学习信息，同时由于第一摘要文本和第二摘要文本包含的信息量不同，且第一摘要文本中包含正确语句和错误语句，通过对同一样本文本的两个不同摘要文本进行对比学习，并区分学习第一摘要文本中的正确语句和错误语句，避免了由于摘要文本单一而导致的模型过拟合和生成不准确等问题，不仅提高了模型的泛化性能，还提高了模型的准确性。