ewAU_zenRRan的个人主页_电子工程师 - 电子技术论坛

ewAU_zenRRan

经验：积分：10

查看完整档案 >>

+关注发私信

他的动态

发布了文章 2022-10-25 14:10

Transformer常用的轻量化方法

引言：近年来，Transformer模型在人工智能的各个领域得到了广泛应用，成为了包括计算机视觉，自然语言处理以及多模态领域内的主流方法。...

0

5613次阅读

0条评论
发布了文章 2022-10-25 10:48

MRC和QA中使用的思想方法在信息抽取任务中的应用

主要的评测标准有常见的准确率P、召回率R和F1值。在上述四个任务的前三个中，使用P、R、F1可以满足要求。...

0

1014次阅读

0条评论
发布了文章 2022-10-25 10:45

用于模型评估和选择的常见方法

机器学习已经成为我们生活的中心，无论是作为消费者、客户、研究者还是从业人员。...

0

638次阅读

0条评论
发布了文章 2022-10-25 09:37

一种基于prompt和对比学习的句子表征学习模型

我们发现prompt，再给定不同的template时可以生成不同方面的positive pair，且避免embedding bias。...

0

843次阅读

0条评论
发布了文章 2022-10-21 15:53

基于BIO序列标注的方法和基于片段的图解析方法

该论文的出发点是将端到端基于片段的（span-based）语义角色标注（SRL）转换为基于词的（word-based）图解析（graph parsing）任务。...

0

2818次阅读

0条评论
发布了文章 2022-10-21 09:32

一个全新的文本到视频跨模态检索子任务

PRVR任务旨在从大量未剪辑的长视频中检索出与查询文本部分相关的对应视频。若一个未经剪辑的长视频中存在某一片段与给出的查询文本相关，则认为该长视频与给出的查询文本呈部分相关的关系。...

0

1106次阅读

0条评论
发布了文章 2022-10-20 10:03

分享微博在特征Embedding建模方向做的一些工作

首先我们对比自然语言处理和图像处理：NLP 最基本的数据元素是单词，每个单词有一定的含义，可能指代某个实体；...

0

833次阅读

0条评论
发布了文章 2022-10-19 10:10

面向社交媒体的多模态属性级情感分析

另一方面，相比于单一的文本数据，多模态数据包含了多种不同信息，这些信息之间往往一一对应、互为补充，如何对齐不同模态的内容并提出有效的多模态融合机制是一个十分棘手的问题。...

0

1806次阅读

0条评论
发布了文章 2022-10-18 16:28

半监督学习代码库存在的问题与挑战

当使用监督学习(Supervised Learning)对大量高质量的标记数据(Labeled Data)进行训练时，神经网络模型会产生有竞争力的结果。例如，根据Paperswithcode网站统计，在ImageNet这一百万量级的数据集上...

0

1222次阅读

0条评论
发布了文章 2022-10-14 16:15

扩散模型应用在自然语言处理中的应用

对该证据下界的变形的形式，我们可以直观地这么理解：证据下界等价于这么一个过程，我们用编码器将输入 x 编码为一个后验的潜在向量分布 q（z|x）。我们希望这个向量分布尽可能地和真实的潜在向量分布 p（z）相似，所以用 KL 散度约束，这也...

0

2131次阅读

0条评论
发布了文章 2022-10-14 15:51

GAT模型如何来编码依存关系

本文贡献有如下两点：提出了一个面向方面的树结构，通过重塑和修剪普通的依存树来关注目标方面。提出了一个新的GAT模型来编码依存关系，建立方面和意见词之间的联系。餐厅评论中的三个例子来说明 ABSA 中方面aspect、注意力和句法之...

0

1167次阅读

0条评论
发布了文章 2022-10-14 15:38

基于用于自然语言生成的“语境调优”技术

自然语言生成（又称为文本生成）旨在基于输入数据用人类语言生成合理且可读的文本。随着预训练语言模型的发展，GPT-3，BART等模型逐渐成为了生成任务的主流模型。近年来，为了利用预训练阶段编码的丰富知识，提示学习成为了一个简单而强大的方法。...

0

989次阅读

0条评论
发布了文章 2022-10-14 14:59

借助机器翻译来生成伪视觉-目标语言对进行跨语言迁移

然而之前的基于机器翻译的CCR工作大多忽略了这个问题，它们通常使用大规模的预训练模型在通过机器翻译得到的大规模多语言视觉-语言语料库上进行大规模预训练，并且只关注于视觉-目标语言数据对之间的对齐。...

0

795次阅读

0条评论
发布了文章 2022-10-12 09:50

文本噪声标签在预训练语言模型（PLMs）上的特性

数据的标签错误随处可见，如何在噪声数据集上学习到一个好的分类器，是很多研究者探索的话题。在 Learning With Noisy Labels 这个大背景下，很多方法在图像数据集上表现出了非常好的效果。...

0

1105次阅读

0条评论
发布了文章 2022-10-11 15:45

CLarET：实现上下文到事件相关感知的预训练模型

自然语言文本里描述的“事件”，通常是由一个谓词及其论点组成的一个文本片段（span），是一个细粒度的语义单元，描述了实体的状态和行为，如 He looks very worried 和 I grab his arms。理解事件并建模它们之间...

0

1033次阅读

0条评论