关于ZAKER Skills 合作
新浪财经 31分钟前

赵春江:必须主动提高 AI 系统的免疫能力

来源:睿见 Economy

ISC.AI2026 第十四届互联网安全大会于 6 月 24 日在北京举办,主题为智能体颠覆安全。ISC.中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲。

赵春江强调,当前 AI 系统面临多层次的安全风险,涵盖数据层、模型层、应用层和基础层。随着 2025 年多智能体商业化应用元年的到来及 2026 年的广泛普及,身份伪造、模型失效、权限管理漏洞、通信劫持以及恶性的勒索风险逐渐显现。此外,提示注入与越狱机制、AI 驱动的隐含数据挖掘,以及模型训练过程中的数据投毒,都给模型的精度与决策结果带来了严重隐患。

他提醒,过去传统的 " 矛与盾 " 式的简单防御已不足以应对,未来必须主动提高系统的 " 免疫能力 "。

赵春江指出,未来,应遵循网络安全框架,在医疗、金融、政务等重点领域开展示范性应用,以检验安全防护技术措施的成效,最终完成从识别新类型安全问题到构建智能化防御体系及治理框架的全面跨越。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容