2026年8月23日，中国科学院学部第225次科学与技术前沿论坛“可信人工智能与智能体安全”在北京举办。中国科学院院士冯登国担任论坛执行主席。12位院士以及来自中国科学院相关研究所、清华大学、中关村实验室、同济大学、北京大学、浙江大学、复旦大学、南京大学、南开大学、中国移动等单位的两百余位一线科研工作者参加论坛，围绕可信人工智能与智能体安全领域前沿问题与现实挑战展开深度研讨。

本次论坛聚焦可信人工智能与智能体安全两大核心议题，通过主旨报告、专题研讨相结合的形式开展学术交流。在“可信人工智能”分论坛中，胡事民院士、郑庆华院士、彭宇新教授、赫然研究员、纪守领教授等专家，围绕大模型全栈技术体系的能力边界与应用前景、人工智能领域人机价值对齐等关键课题分享观点、充分交流。在“智能体安全”分论坛中，吴世忠院士、云晓春院士、段晓东副院长、杨珉教授、陈恺研究员、苏璞睿研究员等专家，围绕人工智能大模型可信性、智能体变革下网络安全攻防格局演变等重要议题开展针对性探讨。吕建、祝宁华、朱鲁华、张宝东、孔志印、张艳宁、王建华等多位院士参与专题讨论，就相关领域的发展趋势、关键科学问题和技术挑战进行了深入研讨。

论坛指出，以大语言模型为核心的生成式人工智能，正从“内容生成”加速迈向“自主行动”阶段。随着智能体技术的持续迭代，人工智能系统可通过工具调用与现实环境进行交互，逐步具备感知、规划、记忆和自主执行等能力，正从辅助工具向复杂智能实体转变。这一技术范式变革在驱动产业创新升级的同时，也促使人工智能安全风险由单一模型风险，拓展为覆盖数据、模型、工具、系统乃至社会环境的系统性风险，呈现风险来源多元、传播链条复杂、影响覆盖面广等突出特征，对智能体行为的安全性、可控性与可信性提出全新的更高要求。因此，大力推进可信人工智能与智能体安全相关研究，对保障人工智能产业健康有序发展、维护国家安全与社会稳定具有现实意义。

本次论坛由中国科学院学部主办，中国科学院信息技术科学部、中国科学院学部学术与出版工作委员会承办，中国科学院软件研究所、中国移动研究院、中移系统集成有限公司以及《中国科学》杂志社协办。