全球数字经济大会人工智能专场论坛：多位学者建言AI的“安全规范”

最近几天，在北京举行的一场论坛上，新加坡管理大学教授Robert H.Deng，加州大学伯克利分校电子工程与计算科学系教授宋晓东等学者聚焦人工智能技术的演进方向，并在发言中指出，目前存在输入攻击，投毒攻击等安全隐患，制定和实施人工智能安全规范和标准势在必行。

2022全球数字经济大会人工智能驱动未来产业论坛期间，人工智能的安全，健康和可持续发展话题受到广泛关注Robert H.Deng和宋晓东分别就基于人工智能安全的发展战略研究和负责，可信，可控的AI安全体系等主题发表演讲

北京市经信局局长张劲松在致辞中表示，北京正在探索建立人工智能集成应用安全风险管理体系，引导开展安全风险评估，提升风险管理能力，加快人工智能数据管理工作，加强人工智能数据资源高质量建设，高水平开放和高水平利用，助力构建北京人工智能安全生态。

在睿来智能合伙人，高级副总裁朱蒙看来，人工智能安全开发规范的建设迎来了关键窗口期，安全可控成为一项亟待完成的基础能力她进一步提出，包括解决强数据依赖带来的隐私泄露等隐患，提高算法的可靠性，保证系统在有意攻击下的稳定运行，深度合成技术应用的合规性和可控性

论坛期间，北京人工智能产业联盟与极智未来联合发布了《北京国家人工智能创新应用试验区示范案例》，集中展示了北京国家人工智能创新应用试验区建设成果其中，瑞来的智能人工智能安全平台RealSafe也被称为ai系统杀毒软件

朱蒙表示，RealSafe支持样本攻击和模型后门攻击两种安全风险的检测，并提供测试AI模型的安全评分和风险报告，以及各种深度防御方案她还透露，针对人工智能领域新的安全问题和行业需求，作为清华大学人工智能研究院发起成立的AI企业，他们正在隐私计算，AI数字人，AI变脸检测等方面进行新的探索凭借自己的科研成果和行业经验