2023年5月31日上午，由中国信息通信研究院（以下简称“中国信通院”）、 中国人工智能产业发展联盟主办的,人工智能关键技术和应用评测工信部重点实验室、可信人工智能推进计划承办的杭州通用人工智能发展论坛大模型安全可信分论坛成功召开。

本次分论坛以“智赋百业，可信为基”为主题，聚焦人工智能尤其是大模型的安全可信问题，邀请了各行业专家共同探讨。论坛上来自上海浦东发展银行股份有限公司、蚂蚁集团、腾讯优图实验室、北京瑞莱智慧科技有限公司、顺丰科技有限公司及中国信通院云计算与大数据研究所的专家们（以下简称“云大所”）分享了大模型安全可信行业实践、技术方案、标准体系等内容。

首先，中国信通院云大所副所长魏凯为本次分论坛致辞。魏所长从产业背景出发，阐述了通用人工智技术发展带来的潜在风险和挑战，总结了全球人工智能治理的探索实践，并重点介绍了中国信通院在可信人工智能领域的系列工作成果，提出了“切实服务产业发展，推动可信人工智能实践落地”的工作目标。

中国信通院云计算与大数据研究所副所长 魏凯

上海浦东发展银行股份有限公司资深数据科学家张博雅以《可信AI赋能数据合作生态》为题发表精彩演讲，从当前产业内数据协作面临的信任鸿沟、信息孤岛等困境出发，介绍了浦发银行融合应用可信AI技术赋能数据合作生态的实践，阐述了如何在安全释放数据价值的同时实现业务价值的增效，推动可信AI技术在金融领域的发展。

上海浦东发展银行股份有限公司资深数据科学家 张博雅

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长杨舟以《大模型时代下的可信AI挑战及其应对探索》为题，从大模型时代的AI风险切入，介绍了蚂蚁集团的算法治理框架、模型操作风险防控体系及模型全生命周期质量管控体系，展示了蚂蚁集团的智能化模型风险管理平台及AI安全检测平台，为产业推动AI向善，打造可信、可靠的AI提供优秀参考。

蚂蚁集团模型风险管理总监、蚂蚁技术委员会可信AI联合工作组副组长 杨舟

为了促进业界可信AI能力提升，增强AI计算平台的安全性能，在人工智能计算任务执行过程中，保障AI模型传输、存储、训练、推理全流程安全，中国信通院与企业合作编写了《基于AI计算平台的模型保护安全框架》标准。中国信通院云大所人工智能部高级业务主管董昊在本次分论坛上对该项标准进行了发布及解读。该项标准规定了人工智能计算平台保护人工智能模型的安全框架，包括模型保护相关安全功能模块和安全机制。适用于为边缘计算、数据中心场景的人工智能计算平台提供方、使用方保护人工智能模型安全提供参考。

中国信通院云计算与大数据研究所人工智能部高级业务主管 董昊

腾讯优图实验室高级算法研究员姚太平以《可信技术在典型场景中的实践》为题，从人脸安全技术背景出发，介绍了面向物理介质攻击、数字合成攻击以及模型对抗攻击的防御手段，并展示了可信AI技术在典型场景中的落地实践，为应用安全发展提供了新的思路。

腾讯优图实验室高级算法研究员 姚太平

中国信通院云大所人工智能部工程师丁怡心围绕技术研究、标准评估及测试、产业生态三个维度展开了中国信通院可信人工智能工作介绍。在技术研究方面，梳理了中国信通院在可信AI领域的技术成果和后续研究计划；在标准评估测试方面，系统介绍了可信人工智能标准体系和推进计划，并详细介绍了正在推进的3项标准；在产业生态方面，发布了“智信”计划第二批成员单位，介绍了已开展的产业交流活动及AI风险事件监测平台和可信AI测试平台建设的工作计划。

中国信通院云计算与大数据研究所人工智能部工程师 丁怡心

北京瑞莱智慧科技有限公司公共事务总监胡嵩智以《安全可信人工智能的实践探索》为主题进行演讲，从大模型时代AI研究范式的改变切入，阐述了AI技术发展面临的新型安全风险，介绍了瑞莱智慧的安全可信人工智能“三部曲”，为行业安全发展提供了可借鉴的思路和落地方案。

北京瑞莱智慧科技有限公司公共事务总监 胡嵩智

顺丰科技有限公司后端高级研发工程师廖建科以《顺丰可信AI助力生产》为题，从安全管理、质量管理、经营管理和风险管控等维度全方位介绍了顺丰科技可信AI助力生产的实践闭环，阐述了如何将AI技术有机地结合到企业生产环节中，保障业务安全稳健发展，为企业实践提供了有价值的参考。

顺丰科技有限公司后端高级研发工程师 廖建科

会议最后，中国信通院云大所人工智能部主任曹峰对本次分论坛进行了总结。

中国信通院云计算与大数据研究所人工智能部主任 曹峰

分论坛上，各位演讲嘉宾为我们带来了精彩纷呈的分享，上百名观众热情参与，论坛举办圆满成功！未来，我们会携手各行业企业继续深入可信AI研究，扩大技术交流平台，加深行业交流互动，推动人工智能产业健康可持续发展。

可信AI推进计划（“智信”计划）

为进一步推进人工智能可信治理能力提升，加快达成行业共识，保障智能应用快速健康可持续落地，中国信通院云大所成立了可信AI推进计划（简称：“智信”计划）。“智信”计划聚焦人工智能可信治理，面向政、产、学、研、用等人工智能相关主体，主要开展技术研究、标准制定、测试评估、供需对接、产业交流、赛事峰会、平台建设、案例推广等工作。

关键词：