怡心湖

什么是自然语言的预训练?

当前,人们所提到的预训练主要是指大规模预训练模型,特别是预训练语言模型,但这种理解其实是有一定局限的。在自然语言处理领域,预训练模型确实取得了非常突出的进展,一...

自然语言的预训练模型概念简介

随着深度学习的发展,各类神经网络模型开始被广泛用于解决自然语言处理(Natural Language Processing,NLP)任务,比如卷积神经网络(Co...

多模态信息融合下的自然语言处理简介

几十年来的自然语言处理研究几乎都是以文本为处理对象,而文本只是语义表达的一种方式,也是不完备的。很多自然语言的语义理解需要结合语音和图像等其他模态的信息,例如英...

深度学习在自然语言匹配处理中的应用探讨

近年来,深度学习在计算机视觉、语音识别叫等领域取得了突破性的进展,其成功主要得益于其强大的特征表示(知识表示)学习能力。自然语言处理正成为深度学习研究的下一个应...

自然语言处理畅谈之机器翻译技术发展历程

目前各个国家和民族的不同种类信息不断融会贯通,不同语言之间的翻译已经成为当今社会基本需求之一。小到出国旅游翻译或者资料翻译,大到基于互联网的跨境电商、跨境旅游、...

深度学习用于自然语言处理之探讨

自然语言处理的问题从机器学习的角度可以归结为五大类,分别是分类、匹配、转换、结构预测、序列决策过程。深度学习使这五大类任务的正确率都有很大提升,特别是匹配和转换...

自然语言对话的发展历程回顾

网络大数据中的语义理解,是让机器理解人类的自然语言,有两种不同的定义。一种是基于表示的(representation-based),系统能够根据输入的自然语言产...