周伯文

个人信息Personal Information

教授

博士生导师

硕士生导师

教师英文名称:Bowen Zhou

教师拼音名称:zhoubowen

电子邮箱:

所在单位:电子工程系

办公地点:清华大学电子工程系 罗姆楼8-110

性别:男

在职信息:在职

学术论文

当前位置: 中文主页 >> 科学研究 >> 学术论文

A Structured Self-Attentive Sentence Embedding

点击次数:

发表刊物:ICLR, 2017

摘要:Zhouhan Lin, Minwei Feng, Cicero Nogueira dos Santos, Mo Yu, Bing Xiang, Bowen Zhou†, Yoshua Bengio†

备注:开创性成果:首个任务无关的自注意力及多头机制,被Transformer采用;Transformer是GPT、BERT及所有现代大语言模型的基础

是否译文:

发布期刊链接:https://arxiv.org/abs/1703.03130