2026年11月17日 星期二 登录 EN

学术活动
在线学习与大模型推理优化
首页 - 学术活动
报告人:
赵鹏 副教授(南京大学)
邀请人:
高斌 副研究员
题目:
在线学习与大模型推理优化
时间地点:
11月18日(周三)14:00-15:00,蓝白楼311
摘要:

在线学习是一种通过交互信息持续提升模型能力的学习范式,是解决序列预测与决策问题的重要技术手段。本次报告将首先介绍我们在非稳态在线学习方面的理论进展,提出“在线集成”框架实现最优的动态遗憾界保障,有效提升了开放环境下的稳健性。进一步,本报告还将介绍在线学习技术在大模型情境下的初探。特别以高效推理优化为例,针对自回归生成过程计算开销大、推理延迟高的问题,我们提出了在线学习驱动的投机解码方法:基于小模型生成草稿、大尺寸模型验证的推理范式,并构建“生成-验证-自适应更新”的在线学习闭环,通过反馈信息动态优化草稿策略,有效提高了投机解码系统的接收率和推理效率。同时,报告还将介绍基于扩散模型架构的草稿生成、并行树状解码、高并发工业场景等方面的投机解码进展。

报告人简介:赵鹏,南京大学人工智能学院准聘副教授,博士生导师,机器学习与数据挖掘所(LAMDA)成员。研究方向为机器学习基础理论,包括在线学习、强化学习、大模型推理优化等。发表学术论文70余篇,包括JMLR、COLT、ICML、NeurIPS等顶级期刊和会议。担任Machine Learning、TMLR、Frontiers of Computer Science期刊执行编委,担任ICML、NeurIPS等会议领域主席等。主持基金委青年项目(B类)、面上项目等。入选中国计算机学会CCF优博、国家博新计划,获南京大学“小米青年学者-科技创新奖”等。