图源Pixabay
根据谷歌官方介绍,谷歌语言模型可进行持续自我学习,并可在BEST-RQ算法的加持下不断修改语言模型整体架构,从而完成持续分析、学习语言结构等操作。除此之外,谷歌语言模型在进行语意理解时,还会调动text injection以及监督式loss函数,从而让语言模型语意理解更加精准。目前,谷歌语言模型在处理70多种语言翻译时,错误率已经可以保持在30%以下。
值得一提的是,IT之家获取到的信息表明,谷歌语言模型在处理非裔美籍人士所使用的英语口语CORAAL、混合口音的SpeechStew以及其他多种语言的FLEURS测试中,其正确率要在Whisper之上。