学院导师 SII Teacher

潘旭东

上海创智学院全时导师、复旦大学副研究员
领域方向:大模型与算法
https://ravensanstete.github.io/en/
xdpan@sii.edu.cn
https://github.com/ravenSanstete
https://huggingface.co/morinop
个人简介
研究方向为大模型安全与治理,过去五年间,围绕大模型安全合规评估、智能对抗、前沿AI风险治理三方面开展系统性前瞻研究,在包括TPAMI、ICML、NeurIPS、IEEE S&P和USENIX Security在内的人工智能和网络安全领域国际顶会顶刊发表论文31篇(中国计算机学会A类22篇),率先揭示包括OpenAI GPT和Google BERT在内商用大模型数据隐私安全(2020)、后门风险(2022)等,得到OpenAI、Google、Apple等企业重视。入选2024年上海市“晨光计划”、2024年世界人工智能大会WAIC云帆奖(海内外AI领域遴选10名)、2023年ACM中国计算机安全分会优博奖、华为“天才少年”(最高档)。主持大模型安全相关的国家重点研发计划课题、国家自然科学基金青年项目、百度合作项目等多项科研项目。
研究方向
人工智能安全
教育与工作经历

2023年7月至2025年12月:复旦大学,专任副研究员,助理研究员

2018年9月至2023年6月:复旦大学,计算机软件工程,博士

2014年9月至2018年6月:复旦大学,软件工程,学士

代表性成果
复旦大学副研究员(学敏学者)、上海创智学院全时导师,研究方向为大模型安全与治理,在国际上较早发现多种商用大模型数据隐私(2020)、后门(2022)和自主复制风险(2024)等,多次得到OpenAI、Google、Anthropic等顶尖AI公司正面评价,作为全球32位专家之一,受邀与Yoshua Bengio、Geoffrey Hinton在内的多位图灵奖得主联署《上海共识》。主持国家重点研发计划课题、百度、华为校企合作在内多项科研项目。入选国家网信创新人才(2024)、世界人工智能大会云帆奖(2024)等。
奖项荣誉
复旦学敏学者
世界人工智能大会云帆奖
上海晨光学者
ACM中国SIGSAC优博奖
学术任职
USENIX Security程序委员会委员
ACM CCS程序委员会委员
NeurIPS领域主席