Sören Mindermann

我即将担任清华大学人工智能学院的助理教授。

我同时担任剑桥大学人工智能科学与政策项目（CASP）的技术研究负责人，以及清华大学新成立的清智人工智能安全枢纽（BASH）的联合主任，与姚期智教授、徐葳教授合作。

我的研究为前沿 AI 风险（包括失控风险）的相关决策提供新的科学证据，并推动形成国际科学共识。

此前，我担任首份《国际人工智能安全报告》的科学负责人。该报告受 33 个国家及政府间组织（包括中国、美国、欧盟和联合国）委托并获得其支持，由我的博士后导师 Yoshua Bengio 主持。

我作为主要作者发表的其他研究成果曾获《卫报》《华尔街日报》等媒体报道，被部长引用，并被一项重要的国家法律引用。我还在 Science 和 Nature 上发表了关于前沿 AI 风险管理、新冠疫情建模，以及大语言模型中 Subliminal Learning 的论文。

我在牛津大学获得机器学习博士学位，博士研究获得 Google DeepMind 资助。

Sören Mindermann

研究与学生指导

我研究 AI 失控风险，尤其关注操纵性行为如何削弱评估与监督，以及能够开展 AI 研究的智能体的安全性。我目前正在通过威胁建模，分析此类行为是否可能导致现实世界中的灾难性危害。我还致力于就前沿 AI 的能力与风险及风险缓解措施的评估建立国际科学共识。我目前正在招收博士生和有经验的研究人员。欢迎已展现相关研究兴趣的申请者，参与技术研究或结合技术与其他视角的研究。

联系方式

soerenmindermann ατ gmail.com
Google Scholar（谷歌学术）SubstackX (Twitter)

国际报告精选

International AI Safety Report

这是一份在 2023 年英国 AI 安全峰会后受托编写的科学报告。2025 年版获得包括中国、美国在内的 30 个国家，以及联合国和欧盟的支持。

2026
Yoshua Bengio, Stephen Clare, Carina Prunkl, Maksym Andriushchenko, Ben Bucknall, …［另 83 位作者］…, Yi Zeng, Liming Zhu, Daniel Privitera, Sören Mindermann（主席科学顾问）.
2025
Yoshua Bengio, Sören Mindermann（科学负责人）, Daniel Privitera, Tamay Besiroglu, Rishi Bommasani, …［另 87 位作者］…, Jerry Sheehan, Haroon Sheikh, Denise Wong, Yi Zeng.
2024
Yoshua Bengio, Sören Mindermann（科学负责人）, Daniel Privitera, Tamay Besiroglu, Rishi Bommasani, …［另 70 位作者］…, Jerry Sheehan, Haroon Sheikh, Denise Wong, Yi Zeng.

Singapore Consensus on Global AI Safety Research Priorities

2026
Stephen Casper, Oskar Galeev, Yoshua Bengio, Mohan Kankanhalli, Lee Wan Sie, …［另 110 位作者］…, Tan Yong Khiam, Yuejin Du, Yuma Kurihara, Tan Zhi Xuan, Sören Mindermann（主要撰稿人）.
2025
写作协调人：Max Tegmark, Sören Mindermann, Stephen Casper, Vanessa Wilfred, Wan Sie Lee. 共 100 余位参与者。

论文精选

* 表示同等贡献。作者按原始顺序列出，省略处已标明。

全部论文与报告 →

政策影响

  • 《国际人工智能安全报告》被纳入法国政府主办的 2025 年 AI 行动峰会的官方议程。众多政策制定者阅读了报告，或听取了相关简报。
  • 《国际人工智能安全报告》为加州州长 Newsom 委托编写的《加州前沿 AI 政策报告》提供了主要证据基础。加州报告又成为加州 SB 53 法律的主要依据；该法是美国首部前沿 AI 安全法律。
  • 时任英国科学部长 Peter Kyle 在慕尼黑安全会议的演讲中引用了《国际人工智能安全报告》（2025）。
  • 时任英国科学、创新与技术部长 Michelle Donelan 在首尔 AI 峰会上，向其他国家的部长及高级别代表介绍了《国际人工智能安全报告（中期报告）》（2024）。我担任该报告的科学负责人。
  • 我们的AI 风险管理论文曾被介绍给德国卫生部长。
  • 这篇预印本与另外两篇论文一起，被德国一项重要联邦法律引用；该法规定了 2021 年 5 月时实施的全国封锁措施。
  • 我的新冠疫情研究论文曾在荷兰众议院、世界卫生组织（WHO）、非洲疾控中心（Africa CDC）的建模团队，以及英国紧急情况科学咨询小组（SAGE）中被介绍；我曾亲自在非洲疾控中心的建模团队作报告。
  • 我在英国内阁办公室介绍了佩戴口罩的研究，为英国 2021 年秋季的相关计划提供支持。

媒体

电视与报刊采访

  • 《纽约时报》（报道待发表）：关于智能体对齐失配及 AI 失控的潜在危害路径的采访。
  • Business Insider，2026 年：关于 Jared Kaplan、递归自我改进，以及我与 Anthropic 合作研究的采访。
  • CBS / 60 Minutes，2025–2026 年：关于 AI 安全的背景采访。
  • ARTE，2026 年：为 Philipp Grüll 制作的电视纪录片接受采访。
  • Aventine，2025–2026 年：关于 AI 失配及 AI 紧急停机机制的采访。
  • Transformer，2025 年：关于 AI 失配及对齐伪装的采访。
  • Analytics India Magazine，2023 年：关于这篇 AI 安全论文的采访。
  • 德国 ARD 的 Monitor 电视节目，2021 年：讨论关于第二波新冠疫情的论文。ARD 是德国的公共广播机构，类似英国 BBC；该节目每期约有 300 万观众。采访亦被 Tagesschau.de 等媒体报道。
  • Süddeutsche Zeitung，2021 年：关于第二波新冠疫情期间政府干预措施的采访。
  • NRC Handelsblad，2021 年：关于第一波新冠疫情期间政府干预措施的采访。
  • Turing Institute Podcast，2021 年：讨论这篇论文。
  • ITV Peston，2021 年：在 ITV 的旗舰政治讨论节目中讨论这篇论文（节目需付费观看）。
  • DW News，2021 年：讨论这篇论文。

报道精选