-
小样本利器2.文本对抗+半监督 FGSM & VAT & FGM代码实现
上一章我们聊了聊通过一致性正则的半监督方案,使用大量的未标注样本来提升小样本模型的泛化能力。这一章我们结合FGSM,FGM,VAT看下如何使用对抗训练,以及对抗...
风雨中的小七 2023-01-02487 0 0 -
【问答对话】kbqa?开放域问答怎么有知识地生成
问答是对话的重要任务之一,封闭的垂直领域可以构建问题库,通过检索召回、排序的方式回答,然而到了开放域,怎么既利用外部知识,又能够应对多样的问题,前有kbqa,利...
百川NLP 2023-01-02445 0 0 -
NLP 论文领读|中文拼写纠错:怎样改善模型对 multi-typo 的纠正效果?
欢迎来到「澜舟论文领读」专栏!快乐研究,当然从研读 paper 开始——澜舟科技团队注重欢乐的前沿技术探索,希望通过全新专栏和大家共同探索人工智能奥秘、交流 N...
澜舟科技 2023-01-02462 0 0 -
GNN系列 GCN简述 推导理解 及 DGL 源码解析
深度学习一直都是被几大经典模型给统治着,如CNN、RNN等等,它们无论再CV还是NLP领域都取得了优异的效果,那这个GCN是怎么跑出来的?是因为我们发现了很多C...
大鹅 2023-01-02475 0 0 -
NLP任务之中文拼写 语法纠错 介绍与综述
在很多中文NLP相关的落地场景都会涉及到文本纠错的相关技术,例如跟各种形式机器人的语音或者文字对话,或者用手机扫描相关的PDF或者图片,或者跟人聊天时用输入法打...
大鹅 2023-01-02469 0 0 -
2022 年中回顾|大模型技术最新进展
本文回顾了过去 12 个月以来,国内外大模型的发展趋势,包括百花齐放的国产大模型、新秀不断涌现的多模态模型、萌芽中的通用能力模型等等,并对大模型新应用、预训练框...
澜舟科技 2023-01-02466 0 0 -
Bert不完全手册6. Bert在中文领域的尝试 Bert-WWM & MacBert & ChineseBert
这一章我们来聊聊在中文领域都有哪些预训练模型的改良方案。Bert-WWM,MacBert,ChineseBert主要从3个方向在预训练中补充中文文本的信息:词粒...
风雨中的小七 2023-01-02455 0 0 -
Elastic 进阶教程:在Elasticsearch中部署中文NER模型
自然语言处理(NLP)是指我们可以使用软件来理解口语或书面文本中的自然语言的方式。
点火三周 2023-01-02493 0 1 -
NLP 论文领读|无参数机器翻译遇上对比学习:效率和性能我全都要!
检索式增强在各种自然语言处理任务中被广泛应用,其主要目的是基于一定的检索范式来利用现存数据,影响模型最终得到的结果,从而降低模型参数的负担。之前澜舟公众号已经发...
澜舟科技 2023-01-02592 0 0 -
Bert不完全手册7. 为Bert注入知识的力量 Baidu-ERNIE & THU-ERNIE & KBert
借着ACL2022一篇知识增强Tutorial的东风,我们来聊聊如何在预训练模型中融入知识。Tutorial分别针对NLU和NLG方向对一些经典方案进行了分类汇...
风雨中的小七 2023-01-02437 0 0