全国统一热线
当前位置:海洋之神590官网欢迎您 > 海洋之神590官网欢迎您 > FAIR 最新论文:一种不必要锻炼就能摸索句子分类

FAIR 最新论文:一种不必要锻炼就能摸索句子分类

文章出处: 人气: 发表时间:2019-02-13 07:01
雷锋网 AI 科技评论按,作为人工智能的主要标的目的之一,NLP 范畴的钻研目前开展得风起云涌。1 月  这篇论文被公布正在 arxiv 上,次要讲了一种不必要锻炼就能摸索句子分类的随机编码器。论文的次要引见如下:  这是一个壮大的,新鲜的语句嵌入基线,它不必要进行任何锻炼。正在没有任何分外锻炼的环境下,咱们摸索了用预锻炼单词嵌入来计较句子表达体例的各类方式。其目标是让语句嵌入拥有更的根本:1)看看隐代句子嵌入主锻炼中得到了几多益处(令人震惊的是,事明,这是微乎其微的);2)为该范畴供给更符合(也更壮大)的基线。  句子嵌入是一种矢量暗示方式,此中句子被映照到暗示其意思的数字序列。这凡是是通过组合函数转换单词嵌入来筑立的。句子嵌入是天然言语处置(NLP)中的一个抢手话题,由于它比零丁利用单词嵌入更容易进行文天职类。鉴于句子表达钻研的倏地进展,成立的基线是很主要的。咱们起头利用以后最先辈的方式来确定有哪些收成,而不是采用随机的方式,这些随机的方式只连系了预锻炼的单词嵌入。随机特征的感化正在机械进修社区中早已为人所知,因而咱们将其使用到这个 NLP 使射中。咱们摸索了三种方式:随机嵌入投影包、随机 LSTM 战反响形态收集。咱们的钻研成果表白,句子嵌入中的提拔很洪流平上来自于词语表征。咱们发觉,对颠末预锻炼的单词嵌入的随机参数化形成了一个很是强的基线,有些时候,这些基线以至与诸如 SkipThought 战 InferSent 等出名的句子编码器的机能相婚配。这些发觉为此后的句子表征进修的钻研供给了强无力的根本。咱们还对句子分类评估的一些符合的尝试方案进行了认真的切磋,并对此后的钻研提出了。雷锋网  虽然比来对句子编码的钻研较多,可是 NLP 的钻研者们对付词汇嵌入战句子嵌入之间的关系依然知之甚少。跟着该范畴钻研的倏地进展,对分歧方式进行比力并不老是准确的。每隔一段时间咱们必要往前回首,以便对隐有的最先辈的方式发生更深切地舆解,并阐发这些方式为什么无效,这一点很主要。通过对句子嵌入的钻研供给新的看法,并设置更强的基线,咱们能够提高对神经收集暗示战理解言语的道理的意识。海洋之神590官网欢迎您他们正在 Github 上分享了他们的代码。  标签:句子 编码器 基线 论文 雷锋网 单词 参数 人工智能 天然言语处置 抢手话题 神经收集 文本 编码 钻研者 矢量 序列 表征进修 词语 科技 钻研院
此文关键字:编码器
首页 | hy590海洋之神平台 | 海洋之神590官网欢迎您 | 海洋之神590官网下载 | 网站地图