CCL 2021 讲习班暨中国中文信息学会《前沿技术讲习班》第25期(CIPS ATT25)

讲习班报告1:赵鑫

讲者:赵鑫
题目:大规模预训练语言模型研究进展回顾
时间:2021年8月13日09:00-10:30
摘要:大规模预训练语言模型已经成为当前自然语言处理领域最重要的研究方向之一,有效提升了多种NLP任务的最好效果。本次报告将对最近几年大规模预训练语言模型的研究进展进行简要梳理和回顾,主要报告内容集中在以下的几个方面。(一)模型架构:大规模预训练语言模型的主流架构和设计思路;(二)学习方法:大规模预训练语言模型的训练、学习以及优化策略;(三)使用范式:大规模预训练语言模型的通用任务解决方法以及微调模式;(四)相关应用:将选取若干基于大规模预训练语言模型的相关应用进行介绍。
简介:赵鑫,现为中国人民大学高瓴人工智能学院长聘副教授。2014年7月于北京大学获得博士学位,随后进入中国人民大学工作至今。研究领域为信息检索与自然语言处理,共计发表论文80余篇。荣获2020年吴文俊人工智能优秀青年奖、ECIR’21时间检验奖(Test of Time Award)等,入选中国科协青年人才托举工程、北京智源青年科学家。

讲习班报告2:黄高

讲者:黄高
题目:动态深度神经网络
时间:2021年8月13日10:30-12:00
摘要:深度神经网络在诸多领域得到了成功应用,但深度模型所需的巨大计算开销仍制了其可用性。本报告将介绍一类在推理过程中能够根据输入的变化改变自身结构的自适应神经网络模型。相较于当前主流的静态深度模型,动态网络能够针对输入的变化相应地调整自身的深度、宽度或者参数值等,实现计算量的“按需分配”,进而提升网络的效率,降低系统功耗。报告将介绍几类典型的样本自适应动态网络和时空自适应动态网络,并讨论现有方法的局限以及未来发展前景。
简介:黄高,清华大学自动化系助理教授,博士生导师。2015年获清华大学博士学位,2015年至2018年在美国康奈尔大学计算机系从事博士后科研工作。主要研究领域为深度学习和计算机视觉,提出了主流卷积网络模型DenseNet。目前在NeurIPS,ICML,CVPR等国际顶级会议及IEEE多个汇刊共计发表学术论文50余篇,被引20000余次。获CVPR最佳论文奖、达摩院青橙奖、世界人工智能大会SAIL先锋奖、中国自动化学会优秀博士学位论文、全国百篇最具影响国际学术论文、中国人工智能学会自然科学一等奖和吴文俊优秀青年奖等荣誉和基金委优秀青年基金资助。

讲习班报告3:魏忠钰

讲者:魏忠钰
题目:跨视觉语言模态的联合语义建模和推理
时间:2021年8月13日14:00-15:30
摘要:跨视觉和语言模态的语义理解和生成是结合计算机视觉和自然语言处理的一个重要课题,有广阔的应用需求,包括图片检索,视力障碍人士的辅助工具以及低龄学童教育支持等。视觉和语言是我们感知外部环境的重要方式,某种程度上说,它们是同一个客观世界的两套表示方法,并且互有侧重。近年来,深度学习的发展为跨视觉和语言领域的研究提供了便利,也催生了很多跨模态任务,包括跨模态检索、推理、生成和视觉导航等。本次讲习班将梳理跨模态语义联合建模的前沿研究,以及相关方法在不同任务中的应用,并将重点放在跨模态推理的相关工作中。
简介:魏忠钰,复旦大学大数据学院副教授,博士生导师,复旦大学数据智能与社会计算实验室(Fudan-DISC)负责人,自然语言处理实验室(Fudan-NLP)团队成员,现任中文信息学会情感计算专委会(筹)副秘书长,社交媒体处理专委会常务委员兼秘书,青年工作委员会执行委员。主要研究领域为自然语言处理,机器学习和社会媒体处理,专注于结合语言和视觉的多模态信息理解与生成、论辩挖掘和交叉学科应用研究。在相关领域的国际会议、期刊如CL,ACL,SIGIR,EMNLP,ICML,ICLR,AAAI,IJCAI,Bioinformatics等发表学术论文70余篇。担任多个重要国际会议及期刊评审,是EMNLP 2020 的跨模态领域主席。获得2017年度上海市青年扬帆计划,2019年度中国中文信息学会社会媒体处理新锐奖,2020年华为公司优秀成果奖。

讲习班报告4:夏睿

讲者:夏睿
题目:情感分析与观点挖掘:回顾与展望
时间:2021年8月13日15:30-17:00
摘要:报告分为三个部分。第一部分:回顾情感分析和观点挖掘领域的研究历史,从任务类型、分析粒度两个角度,介绍文档、句子、词语、属性级情感分析中的代表任务和经典方法;第二部分:探讨情感分析和观点挖掘研究中的两个特殊问题:情感极性转移和领域适应。分析这两方面问题的意义、研究进展、代表性方法;第三部分:交流近几年情感分析和观点挖掘领域的研究热点,以情绪分析与原因抽取、细粒度多要素观点抽取为例,介绍其与传统任务的区别和最新的研究成果,并对未来工作方向进行展望。
简介:夏睿,南京理工大学计算机学院教授、博导。研究领域为自然语言处理、情感分析与观点挖掘。在自然语言处理、人工智能、数据挖掘领域的国内外重要期刊和会议发表论文50余篇、出版学术专著2部,曾获国际计算语言学协会年会ACL2019杰出论文奖、中国中文信息学会青年创新奖一等奖等荣誉。