蚂蚁集团大模型数据安全总监杨小芳：用可信AI这一“缰绳”，驾驭大模型这匹“马”

随着AI（人工智能）技术飞速发展，AI在数据分析、智能交互、效率提升等多个领域展现出巨大的应 用潜力，为解决复杂问题提供了新思路和新方法。但与此同时，这些技术所引发的安全问题也变得愈发 突出。 近一段时间以来，AI换脸成为诈骗新手段、美国人工智能公司OpenAI旗下大模型o3"不听人类指令，拒 绝自动关闭"等相关新闻相继冲上热搜，引起社会高度关注。这些事件不仅凸显了AI技术可能带来的风 险，也引发人们对技术滥用、伦理道德、隐私保护以及安全风险的广泛讨论。 AI技术在安全方面究竟存在哪些隐患？目前主要的防护策略是什么？企业应怎样应对大模型数据安全 领域风险？行业标准又能发挥怎样的作用？带着一系列问题，《每日经济新闻》记者（以下简称 NBD）电话专访了大模型安全行业专家、蚂蚁集团大模型数据安全总监杨小芳。 作为在人工智能安全领域深耕多年的专家，杨小芳深入阐释了当前AI技术的安全现状以及未来发展方 向。她指出，随着AI技术逐步应用，数据隐私、安全攻击门槛降低、生成式内容滥用、AI内生安全不 足等风险正逐渐从理论走向实际。对于正在引入和使用AI技术的企业，建议做好远期部署准备，加速 内部安全制度、流程、检测及防御技术 ...