复旦大学 马兴军 青年研究员
报告生成时间：2026年8月20日
个人主页：马兴军
所属团队：复旦大学视觉与学习实验室（FVL，Fudan Vision and Learning Laboratory）
一、学者基本信息
| 字段 | 内容 |
|---|---|
| 姓名 | 马兴军（Xingjun Ma） |
| 职称 | 青年研究员、博士生导师 |
| 所属单位 | 复旦大学计算机科学技术学院；复旦大学可信具身智能研究院（TEAI） |
| 所属实验室 | 复旦大学视觉与学习实验室（FVL，实验室主任姜育刚教授）；TEAI研究院核心成员 |
| 人才计划 | 国家级青年人才计划入选者、上海市领军人才 |
| 邮箱 | xingjunma@fudan.edu.cn |
| 个人主页 | http://xingjunma.com/ |
| Google Scholar | 引用约1万余次，收录论文80余篇（高水平论文），OpenAlex收录作品230项 |
| 研究方向 | 可信人工智能（Trustworthy AI）：对抗样本攻防、后门攻击与防御、深度伪造检测、大模型与多模态模型安全、AI智能体与具身智能安全、隐私保护与公平性 |
| 代表性成果 | ICML、ICLR、NeurIPS、CVPR、ICCV、ACM MM、IEEE S&P（Oakland）等顶级会议；出版专著《人工智能：数据与模型安全》 |
| 平台建设 | 牵头建设可信AI开放平台OpenTAI（2025）；参与研发人工智能治理开放平台OpenEGLab（2022） |
| 教学课程 | 复旦大学《人工智能基础》AI-B类课程主讲教师 |
| 其他任职 | 上海创智学院全时导师；墨尔本大学Honorary Fellow |
二、教育背景与职业履历
马兴军1988年出生于山东沂蒙山区的一个贫困县，求学之路颇多坎坷：从小学到高中的学费长期依靠社会捐赠和奖学金维系，高中毕业时揣着全村凑来的钱独自北上吉林求学。这段逆境经历锻造了他极强的目标感与毅力。2010年，他本科毕业于吉林大学软件学院；大二期间通过参与通信与视频压缩课题初识科研魅力，但本科毕业时因家庭经济压力搁置保研机会，先在北京大唐电信子公司从事软件开发工作约两年，随后边工作边备考，于2012年考入清华大学软件学院攻读硕士学位（2015年毕业），求学期间恰逢全球深度学习研究热潮兴起，这决定了他此后扎根人工智能安全的学术方向。
2015年，马兴军获全额奖学金赴澳大利亚墨尔本大学计算与信息系统系攻读博士学位，2019年获博士学位，博士期间的主要指导者为James Bailey教授（墨尔本大学大数据与智能系统领域资深教授），并得到Sarah Erfani、Kotagiri Ramamohanarao等墨尔本大学学者的深度指导。其博士阶段研究聚焦对抗样本攻防，代表工作"Characterizing Adversarial Subspaces Using Local Intrinsic Dimensionality"（与Dawn Song、Bo Li等伯克利学者合作，ICLR 2018）被国际知名科技媒体MIT Technology Review报道，成为其学术生涯的起点性成果。博士毕业后，他在墨尔本大学从事两年博士后研究并曾任助理讲师，2021年前后出任澳大利亚迪肯大学讲师（Lecturer，相当于助理教授级别），独立建组开展可信机器学习研究。
2022年，马兴军归国加入复旦大学计算机科学技术学院，任青年研究员、博士生导师，成为复旦大学视觉与学习实验室（FVL）核心成员。2025年4月，复旦大学整合FVL实验室与自然语言处理实验室等力量成立校级实体运行科研机构——可信具身智能研究院（TEAI），马兴军成为研究院教职成员，将研究版图从可信AI拓展至大模型安全、智能体安全与具身智能安全。同年，他被聘为上海创智学院全时导师，并保留墨尔本大学Honorary Fellow头衔，维持中澳学术纽带。回国后其团队产出爆发式增长：2024年以来在NeurIPS、ICML、ICLR、CVPR、ICCV、ACL、AAAI、ACM MM等顶会发表论文数十篇，并出版《人工智能：数据与模型安全》《人工智能内生安全》两部专著。2025年3月31日，他牵头正式发布可信AI开放平台OpenTAI，推动可信AI研究的开源协作生态。
三、学生培养情况
马兴军的育人生涯跨越墨尔本大学、迪肯大学和复旦大学三个阶段，形成了一条"澳洲—中国"双轨培养脉络。其培养理念为"只要学生愿意努力，导师可以提供最大的支持和自由度助他们发展"，研究理念为"做简单而有用的东西"（"Everything should be as simple as possible, but not simpler."）。回国后他依托FVL/TEAI和上海创智学院招收硕士、博士研究生及博士后，招生方向覆盖对抗攻防、后门攻防、大模型安全、多模态安全、版权保护与模型水印、大模型公平性与可信评测等。其指导的学生中已有多人成长为高校教职人员和科研骨干，代表性人物如下。
1. Hanxun Huang（博士研究生（墨尔本大学时期），马兴军深度参与培养的首位核心学生）
Hanxun Huang是马兴军在墨尔本大学时期开始培养、并延续至复旦阶段的核心学生与合作者，累计与马兴军合作发表论文27篇，是其合作网络中排位第三的学者（仅次于James Bailey和姜育刚）。他在噪声标签学习（ICML 2020最佳论文候选"Normalized Loss Functions for Deep Learning with Noisy Labels"一作）、对抗鲁棒性梯度失衡分析、大模型安全综述"Safety at Scale: A Comprehensive Survey of Large Model and Agent Safety"（Foundations and Trends in Privacy and Security）等方向均有核心产出，是马兴军可信AI研究谱系中承上启下的关键人物。
2. 李一格 Yige Li（博士后研究员（复旦阶段），清华博士，现于新加坡管理大学开展研究）
Yige Li本科及博士均毕业于清华大学（博士导师为清华大学深圳国际研究生院夏树涛教授），博士期间即与马兴军在标签噪声学习（ICML 2020）等方向密切合作。此后他加入复旦大学随马兴军从事博士后研究，成为后门攻防方向的主力：一作成果包括NAD（Neural Attention Distillation，后门消除经典方法，ICLR 2021）、BAD（Anti-Backdoor Learning）、BackdoorLLM（首个大语言模型后门攻击综合基准，NeurIPS 2025）、Multi-Trigger Backdoor Attacks（TDSC）等，开源项目在社区影响广泛。现于新加坡管理大学（与Jun Sun教授团队合作）继续从事可信AI研究，与马兴军保持持续合作（近年合作论文15篇）。
3. 訾博嘉 Bojia Zi（博士研究生（复旦大学FVL），深度伪造检测方向代表学生）
Bojia Zi是复旦大学FVL实验室博士生，由姜育刚教授与马兴军联合指导/深度合作培养，是马兴军回国前后与复旦建立合作的第一批学生。他一作完成的WildDeepfake（ACM MM 2020）是首个大规模野外深度伪造检测数据集，与同年发布的WildDeepface一起构成FVL在深度伪造检测方向的标志性开源贡献；此外还有"Revisiting Adversarial Robustness Distillation"等对抗鲁棒性蒸馏工作（与清华夏树涛组合作）。目前他在香港中文大学从事研究工作，累计与马兴军合作论文7篇。
4. 郑翔 Xiang Zheng（博士研究生（迪肯大学时期），现于香港城市大学）
Xiang Zheng是马兴军在迪肯大学独立建组后指导的博士生，研究方向为强化学习安全性与深度学习系统测试，一作成果"Toward Evaluating the Robustness of Reinforcement Learning Policies"发表于安全四大顶会之一。此后他加入香港城市大学Cong Wang教授团队从事研究，与马兴军保持长期合作（累计合作论文10篇），是马兴军学生网络中连接澳洲培养体系与香港学术圈的重要节点。
5. 高逸峰 Yifeng Gao（博士后（迪肯/复旦阶段），现为美国高校教职）
Yifeng Gao博士毕业于美国休斯顿大学，先后在迪肯大学和复旦大学随马兴军从事博士后研究，合作方向包括联邦学习公平性与隐私保护、图像修复等（累计合作论文11篇）。他现为美国德克萨斯大学大河谷分校（UTRGV）助理教授，是马兴军博士后培养体系中进入北美教职序列的代表。
6. 王鑫 Xin Wang（博士研究生（复旦大学），对抗提示方向在读学生）
Xin Wang是马兴军在复旦大学指导的在读博士生，专注视觉-语言模型与生成式AI的对抗安全。一作成果包括Adversarial Prompt Tuning for Vision-Language Models（ECCV 2024）、AdvQDet: Detecting Query-Based Adversarial Attacks（ACM MM 2024）以及测试时对抗提示调优（CVPR 2025）等，代表了马兴军团队将对抗攻防技术向大模型时代演进的主力学生力量。
7. 何佳博 Jiabo He（博士研究生（复旦大学），后门攻击方向在读学生）
Jiabo He是马兴军在复旦大学指导的博士生，参与多触发后门攻击（Multi-Trigger Backdoor Attacks，IEEE TDSC）、大模型安全评测等多项工作，是与李一格、Hanxun Huang构成的后门攻防"老中青"传承链条中的复旦新生代力量。
8. 蒋雨静 Yujing Jiang（博士研究生（墨尔本大学时期），联合指导学生）
Yujing Jiang是马兴军在墨尔本大学期间参与联合指导的博士生，研究方向包括对抗训练（Dual Head Adversarial Training）与时间序列后门攻击（Backdoor Attacks on Time Series: A Generative Approach），累计与马兴军合作论文7篇，体现了马兴军澳洲培养体系向时间序列安全等新场景的延伸。
此外，其团队还通过上海创智学院全时导师制度培养交叉方向研究生，并通过OpenTAI、BackdoorLLM、AnyAttack、WildDeepfake等开源基准和工具持续辐射全球研究社区；加州理工学院Yong Xie、Weijie Zheng等学生亦通过百万级对抗鲁棒性评测（CVPR 2025）等项目与其建立了紧密的跨机构联合培养关系。
四、学术合作网络
4.1 核心研究合作网络
基于OpenAlex对马兴军230篇作品的作者共现分析，其合作网络呈现"墨尔本学术母体—复旦FVL主场—全球安全圈"三足鼎立的格局，前三大合作者依次为James Bailey（66篇）、姜育刚（66篇）和Sarah Erfani（30篇）。
马兴军—James Bailey合作轴线（学术母体与终身导师）： James Bailey是墨尔本大学教授、数据科学与智能系统领域资深学者，是马兴军博士阶段的主要指导教师，两人自2017年起累计合作66篇论文，贯穿对抗样本、噪声标签、后门防御、大模型安全的全部主线方向。代表性联合产出包括ICLR 2018局部内在维度对抗子空间刻画（与Dawn Song、Bo Li合作）、ICML 2018/Oakland（IEEE S&P）系列对抗攻击分析、ICML 2020归一化损失函数等。马兴军至今保留墨尔本大学Honorary Fellow头衔，与Bailey—Erfani团队（Sarah Erfani合作30篇）构成其最稳固的国际合作内核。
马兴军—姜育刚合作轴线（复旦FVL主场）： 姜育刚教授是FVL实验室创始人、复旦大学可信具身智能研究院（TEAI）联席院长，曾获何梁何利基金奖、全国创新争先奖状等荣誉。马兴军2022年回国加入FVL后与姜育刚累计合作66篇论文，联合产出覆盖深度伪造检测（WildDeepfake）、视频后门攻击（Clean-Label Backdoor Attacks on Video Recognition Models，ACM MM 2020）、COVID-CT诊断、大模型安全综述等方向。两人还共同指导了訾博嘉、李一格等学生，是FVL"多模态+可信"双主线的搭档组合。
马兴军—王奕森（Yisen Wang）轴线（北京大学）： 北京大学王奕森教授与马兴军自2017年起合作25篇，涵盖噪声标签学习（Symmetric Cross Entropy for Robust Learning with Noisy Labels，ICML 2020）、对抗鲁棒性等机器学习理论方向，是国内可信机器学习领域的重要合作伙伴。
马兴军—夏树涛轴线（清华大学）： 清华大学夏树涛教授（Shu-Tao Xia）是李一格的博士导师，与马兴军合作11篇，形成"清华—复旦"后门攻防与对抗蒸馏的稳定合作链（IoN、Revisiting Adversarial Robustness Distillation等），并经由Shihao Zhao等清华学生持续深化。
马兴军—FVL/TEAI同事轴线： 与吴祖煊教授（合作18篇，少样本行为识别、ModelLock模型锁）、陈静静教授（合作8篇，深度伪造检测）、叶广楠教授（合作7篇，多模态越狱攻击、联邦学习）以及TEAI研究院的黄萱菁、邱锡鹏、张奇、薛向阳等NLP力量形成院内协同，特别是在"Safety at Scale"大模型安全综述中汇聚了Jindong Gu（牛津）、Yixu Wang（上海AI Lab/智源）等十余家机构的联合力量。
早期医学仿真轴线（墨尔本时期特色）： 马兴军博士期间与皇家维多利亚眼耳医院Stephen O'Leary教授（耳外科医生）及墨尔本大学教育学者Gregor Kennedy合作（各12篇和5篇），将对抗生成网络用于人工耳蜗植入手术的VR实时反馈仿真，体现其"AI for good"的早期实践，也是其成果获MIT Technology Review报道的来源之一。
4.2 国际与校际学术合作
马兴军的跨机构合作网络覆盖美、欧、澳、亚四大洲的安全与机器学习研究团体。北美方面，与加州大学伯克利分校Dawn Song院士、Bo Li教授（UC Berkeley/UCSD）在对抗子空间分析、深度学习模型测试（ICLR 2018）方面合作；与芝加哥丰田科技学院/悉尼大学Dacheng Tao教授（合作8篇）在上下文聚合网络、大模型安全方向合作；与加州理工学院Yong Xie、Weijie Zheng合作百万级对抗鲁棒性评测（CVPR 2025）。日本国立情报学研究所Michael E. Houle教授（合作9篇）是其内在维度对抗分析的理论合作者。
新加坡方向，与新加坡管理大学Jun Sun教授（合作6篇）围绕深度学习测试（RobOT、QuoTe）及BackdoorLLM形成稳定双团队，Youcheng Sun（女王大学贝尔法斯特/曼彻斯特）亦属该链条。国内方面，与浙江大学纪守领教授、王婧仪（Jingyi Wang）在联邦遗忘（VeriFi，TDSC 2024最佳论文亚军）、深度学习测试方向合作；与西安交通大学沈超教授（合作5篇）围绕强化学习安全与大模型审计合作；与北京交通大学桑基韬教授、张佳明（合作各7篇）在大规模自监督对抗样本AnyAttack、不可学习聚类等方向合作；与香港城市大学Cong Wang教授团队（经学生郑翔衔接）在强化学习鲁棒性评测方向合作；与学界/业界双栖的吕灵娟（Lingjuan Lyu，先后任职NEC Labs、Sony、NUS，合作15篇）在联邦学习隐私与公平方向长期合作。
五、业界合作关系深度分析
5.1 产业合作与开源生态建设
马兴军的产业合作不以传统横向项目为主，而呈现出鲜明的"开源平台+标准工具+新型研发机构"特征，深度嵌入中国人工智能安全治理与全球AI安全基础设施建设。
人工智能治理平台OpenEGLab（2022）： 回国当年，马兴军即带领团队与上海人工智能实验室治理研究中心和清华大学团队共同研发"蒲公英"人工智能治理开放平台（OpenEGLab），于2022年9月1日在世界人工智能大会（WAIC）正式发布，为模型评测、安全治理提供公共开源基础设施。这是其"平台化"产业合作路径的起点。
可信AI开放平台OpenTAI（2025）： 2025年3月31日，马兴军牵头正式发布OpenTAI，定位为加速可信AI协作研究的大型开源平台，提供可规模化、实用的基准、工具与数据集，首批项目孵化自其团队的BackdoorLLM、AnyAttack、WildDeepfake等工作，并已与全球多家机构形成技术联盟，采取社区驱动、免费开放的模式吸收外部高影响力项目。
开源安全工具的产业辐射： 其团队产出的WildDeepfake（野外深度伪造检测基准）、BackdoorLLM（首个LLM后门攻击综合基准，NeurIPS 2025，2025年获美国Center for AI Safety主办的SafeBench竞赛一等奖）、AnyAttack（百万级自监督对抗样本）、ModelLock（模型锁）等开源工具已成为工业界AI红队评测和模型安全审计的常用素材，客观上服务了内容安全、风控反欺诈等产业场景；深度伪造检测、生成数据溯源与追踪、模型水印与版权保护（Copy, Right?）等研究主线与AIGC产业的合规需求高度耦合。
上海创智学院全时导师（2024至今）： 马兴军担任上海市新型产学研人才培养机构上海创智学院（Shanghai Innovation Institute）的全时导师，通过创智学院夏令营选拔硕博士研究生，是其在产教融合体制内的核心任职；TEAI研究院本身即定位于具身智能"前沿理论研究、关键技术攻关与成果转移转化"一体化，2026年研究院"市重点实验室、校企联合实验室、基金委创新群体"同步启动，马兴军作为安全可信方向负责人直接受益于这一校企联合生态。
跨国企业研究合作： 在迪肯大学和复旦阶段，与Sony（Sony CSL/Sony AI的Lingjuan Lyu等）研究人员在联邦学习隐私保护、公平性方向持续合作论文15篇；其百万级对抗鲁棒性评测与模型安全测试工作亦面向全球云上模型部署场景。此外其上海人工智能实验室的兼职/项目 affiliation（OpenEGLab、Yixu Wang合作）构成与国有新型研发机构的稳定连接。
5.2 政府与社会合作
马兴军深度参与国家和上海市层面的人工智能治理与人才工作。作为国家级青年人才计划入选者和上海市领军人才，其科研活动与国家AI安全战略需求同频：OpenEGLab/蒲公英平台直接服务于人工智能治理的公共基础设施建设；其两部专著《人工智能：数据与模型安全》（获2024年度金码奖，被用作领域教材）与《人工智能内生安全》填补了国内AI安全教育读物的空白；"Safety at Scale"长综述成为大模型与智能体安全方向的权威参考文献。
在教学与科普方面，他在复旦大学主导面向全校大一新生的《人工智能基础》AI-B类课程建设，亲自授课并手把手指导编程实践，该课程与欧阳万里、张奇、陈智能、吴祖煊、叶广楠、陈思明、曲文等教师联合建设，是复旦AI通识教育改革的标杆。2025年6月，他担任复旦大学智能机器人与先进制造创新学院（CIRAM）学术委员会委员。他还受邀赴吉林大学等高校开展"人工智能前沿"讲座，多次参与WAIC世界人工智能大会成果发布，并于2025年入选"AI100青年先锋"榜单，成为国内AI安全领域具有公众影响力的青年学者代表。
六、重要奖项与学术兼职
| 类别 | 名称 | 时间 | 说明 |
|---|---|---|---|
| 人才计划 | 国家级青年人才计划 | 2023年前后入选 | 回国后入选国家级青年人才项目 |
| 人才称号 | 上海市领军人才 | 获评 | 见吉林大学讲座官方介绍等公开材料 |
| 榜单 | "AI100青年先锋"榜单 | 2025年 | 国内AI领域青年学者榜单 |
| 最佳论文 | IEEE TDSC 2024年度最佳论文亚军（Runner-up） | 2025年8月公布 | VeriFi: Towards Verifiable Federated Unlearning（与浙大纪守领、王靖等合作） |
| 最佳论文 | 国际会议最佳论文及提名共三项 | 历年 | 含ICML 2020等成果的会议奖项/候选 |
| 竞赛奖项 | SafeBench竞赛一等奖（First Prize） | 2025年5月 | BackdoorLLM基准，美国Center for AI Safety（CAIS）主办 |
| 图书奖项 | 年度金码奖 | 2024年 | 专著《人工智能：数据与模型安全》 |
| 媒体影响 | MIT Technology Review专题报道 | 2018年起 | 对抗子空间工作等被国际知名科技媒体报道 |
| 学术兼职 | ICLR Area Chair | 2025 | 2024年12月受聘 |
| 学术兼职 | ICML Area Chair | 2025 | 2024年12月受聘 |
| 学术兼职 | 顶会PC Member/审稿 | 2019至今 | ICLR、ICML、NeurIPS（2019-2026），CVPR（2020-2026）、ICCV、ECCV、AAAI、IJCAI、KDD等 |
| 期刊审稿 | 国际期刊审稿人 | 长期 | Nature Communications、TPAMI、TIP、IJCV、TNNLS、TKDE、TIFS、PR等 |
| 机构任职 | 上海创智学院全时导师 | 2024至今 | 上海市产教融合新型培养机构 |
| 机构任职 | 复旦大学智能机器人与先进制造创新学院学术/教指委员 | 2025年6月起 | 见学院官网委员名单 |
| 荣誉头衔 | 墨尔本大学Honorary Fellow | 现任 | 维系中澳合作纽带 |
| 平台职务 | OpenTAI平台发起人/负责人 | 2025年至今 | 可信AI开放平台（opentai.org） |
七、Connection圈层总结
第一圈层（学术母体+现单位核心，合作≥25篇）： 墨尔本大学的James Bailey（66篇）、Sarah Erfani（30篇）构成其学术出身与终身国际依托；复旦FVL/TEAI的姜育刚（66篇）是其回国后的主场合作者与平台提供者；学生出身的Hanxun Huang（27篇）是横跨墨尔本—复旦两段的核心执行者。这一圈层决定了马兴军研究的主旋律：对抗鲁棒性、噪声标签、后门攻防与大模型安全。
第二圈层（亲手培养的学生网络，合作5-15篇）： 李一格（新加坡管理大学）、訾博嘉（香港中文大学）、郑翔（香港城市大学）、高逸峰（美国UTRGV助理教授）、Yujing Jiang（墨尔本大学）、王鑫、何佳博（复旦在读）等。该圈层是其学术血脉的延伸，已形成清华（夏树涛系）—复旦—新加坡管理大学（Jun Sun系）的后门攻防传承链，以及迪肯—复旦—城大的RL安全链条，多人进入高校教职或顶尖研究机构。
第三圈层（国内学术圈合作者）： 北京大学王奕森（25篇）、清华夏树涛（11篇）、复旦同事吴祖煊（18篇）、陈静静（8篇）、叶广楠（7篇）、薛向阳、黄萱菁、邱锡鹏、张奇（TEAI平台内）、浙大纪守领/王靖、西交沈超、北交桑基韬/张佳明、港城Cong Wang、港中文（訾博嘉所在）等。该圈层以顶会论文为纽带，覆盖可信机器学习、安全测试、多模态安全全谱系。
第四圈层（国际与产业界）： 伯克利Dawn Song/Bo Li、悉尼/UTS的Dacheng Tao、NII的Michael Houle、牛津Jindong Gu、新加坡管理大学Jun Sun、Sony/NUS的Lingjuan Lyu、CAIS（Center for AI Safety）、上海人工智能实验室、上海创智学院、墨尔本大学（Honorary Fellow）等。这一圈层使马兴军同时嵌入全球AI安全学术共同体（SafeBench、OpenTAI联盟）和中国AI治理产业生态（OpenEGLab、WAIC、创智学院），成为国内少数在"学术顶会产出—开源平台建设—治理基础设施"三条战线同时发力的青年学者。
网络画像总结： 马兴军的学术关系网络以2017年墨尔本Bailey—Erfani学术母体为根，以2022年回归复旦FVL为枢纽转折，通过"高产出学生+开源基准平台"双轮驱动迅速扩张：在学缘上连接澳洲、清华、复旦三大体系；在地理上横跨上海、北京、香港、新加坡、墨尔本、伯克利；在界别上贯通高校、国家实验室、跨国企业与国际AI安全组织。其圈层结构呈现典型的"平台型学者"特征——合作者数量大（230篇论文、250+合作者）、核心圈稳定（Bailey/姜育刚/学生三足鼎立）、外圈持续更新（大模型安全时代的新合作者不断涌入），预计随着TEAI研究院与OpenTAI生态的成长，其网络中心度仍将处于上升通道。