本页位置:澳门威尼斯人网上投注>竞技彩票>「塞班岛真人游戏」百度ERNIE横扫GLUE榜单记录:一举登顶,首破90大关
「塞班岛真人游戏」百度ERNIE横扫GLUE榜单记录:一举登顶,首破90大关
作者:匿名   发布时间:2020-01-11 17:46:25


「塞班岛真人游戏」百度ERNIE横扫GLUE榜单记录:一举登顶,首破90大关

塞班岛真人游戏,北京时间12月10日,预训练模型界的"mvp"百度ernie再展锋芒,在自然语言处理领域权威数据集glue中荣登榜首,并以9个任务平均得分首次突破90大关刷新该榜单历史,其超越微软mt-dnn-smart, 谷歌t5、albert等一众国际顶级预训练模型的表现,实力得到极大彰显。

本次glue榜单第一的含金量可谓十足。众所周知,通用语言理解评估基准glue是自然语言处理领域最权威的排行榜之一,由纽约大学、华盛顿大学、谷歌deepmind等机构联合推出,以其涵盖大量不同类型的nlp任务,包括自然语言推断、语义相似度、问答匹配、情感分析等9大任务,成为衡量自然语言处理研究进展的行业标准。因此,吸引了谷歌、facebook、微软等国际顶尖公司以及斯坦福大学、卡耐基·梅隆大学等顶尖大学参加。glue排行榜的效果,在一定程度上成为了衡量各机构自然语言处理预训练技术水平最重要的指标之一。此次能够超越国际顶尖公司及高校荣登榜首,背后是百度nlp技术的长足积累。

2018年底以来,以bert为代表的预训练模型大幅提升了自然语言处理任务的基准效果,取得了显著技术突破,基于大规模数据的预训练技术在自然语言处理领域变得至关重要。众ai公司纷纷发力预训练领域,相继发布了xlnet、roberta、albert、t5等预训练模型。百度也先后发布了ernie 1.0、ernie 2.0,在16个中英数据集上取得了当时的sota。

从glue排行榜上来看,bert使用预训练加微调的方式,相对过往的基线成绩大幅提升各任务的效果,首次突破了80大关。xlnet、roberta、t5、mt-dnn-smart等模型则分布在88-89分范围,人类水平则是87.1。

百度ernie此次登顶,成为首个突破90大关的模型,并在cola、sst-2、qqp、wnli等数据集上达到sota。相对bert的80.5的成绩,提升近10个点,取得了显著的效果突破。

百度ernie 2.0原理示意图

ernie 2.0 持续学习的语义理解框架, 支持增量引入不同角度的自定义预训练任务,通过多任务学习对模型进行训练更新,每当引入新任务时,该框架可在学习该任务的同时,不遗忘之前学到过的信息。

此次登顶的模型主要基于ernie 2.0持续学习语义理解框架下的系列优化。引入更多新预训练任务, 例如引入基于互信息的动态边界掩码算法。对预训练数据和模型结构也做了精细化调整。

同时,百度ernie 2.0的论文(https://arxiv.org/abs/1907.12412)已被国际人工智能顶级学术会议aaai-2020收录,aaai-2020将于2020年2月7日-12日在美国纽约举行, 届时百度的技术团队将会进一步展示近期的技术成果。

凤凰全讯


上一篇:如何科学、系统地规划你的爱情?

下一篇:东北边境行:富锦看打渔,一网打三条,闲拍险些惹祸端

新闻排行  
· 该品牌在华郁郁不得志,现推特供中型车,PK宝马3系,11月发布
· 萨摩耶在线掉毛,面对一地狗毛狂打哈欠,狗子:我对狗毛过敏
· 为何不买中国的?巴铁新型战舰一亿美元一艘 却连一枚导弹都没有
· 林志玲与老公AKIRA合体放闪音乐MV细节曝光,夫妻抢钱其利断金
· 小阁楼实力改造北欧风居所,30平米也能开轰趴
· 三星Galaxy J6+手机曝光 采用骁龙450平台
· 芦山龙门由乡变镇:震后这5年 村民有好多龙门阵要摆
· 自我进化慢的人,都有这 3 种学生思维
· 蜘蛛侠离开漫威电影宇宙?迪士尼与索尼谈判陷僵局
· 上一代“荧幕黄金配角”,曾出演《南征北战》,晚年成最传神弥勒
滚动新闻  
· 《王者荣耀》的诸葛亮登场了,各大英雄的反应(开个脑洞)
· 拼5犯轰27分,欠火箭的还上了!他把自己扔了出去,换来的是出局
· 楼市放松心魔要控制
· 长期手脚冰凉可能是"肾虚"?教你3招,在家不花钱轻松把肾补
· 猎车·2019年度最受欢迎SUV:新一代梅赛德斯-奔驰长轴距GLC SUV
· 千元级别,你能挑到最好的腕表品牌之一
· 宝宝头上的囟门只有薄薄一层皮?别担心,没你想的那么脆弱
· 人类首架太空战机:40年前就已亮相 几乎超越了整个时代
· 星座周运——9.16~9.22十二星座运势
· 四川航空是个什么“神仙航空”?空姐美,食物好吃,还到处是熊猫
关于我们 | 联系我们 | 章程 | 入会申请 | 广告报价 | 法律声明 | 投稿信箱

© Copyright 2018-2019 keelywarrick.com 澳门威尼斯人网上投注 Inc. All Rights Reserved.