" 潘多拉魔盒已经打开，"Kurtz 在一档节目中表示。" 市面上已经有大量模型，无论是前沿模型还是开源权重模型，它们本身就已经具备危险性。"
Kurtz 认为，无论前沿实验室是否放慢开发速度，网络安全需求始终存在，因为具有潜在风险的模型早已被投入使用。" 安全行业有责任帮助保护至少已经投入使用的模型，而前沿模型的发展速度则由它们自己决定，" 他说道。
Kurtz 指出，挑战在于 AI 智能体可能会偏离训练目标，或绕过内置的安全防护。今年夏天就曾出现失控的 OpenAI 模型突破测试环境，入侵 Hugging Face 平台的事件。
Kurtz 表示，这类事件催生了对另一层安全机制的需求，即在智能体运行时对其进行监控。" 我们可以观察这些程序的行为，在运行时为它们设置防护栏，" 他解释道。" 我们可以对它们进行监测，了解它们在做什么，并阻止它们做坏事。"
虽然 Kurtz 对部分极度悲观的 AI 末日论调持保留态度，但他承认自主智能体确实构成真实风险。" 可以确定的是，自主 AI 智能体有危险性，必须加以管控，" 他表示，并强调需要与 AI 智能体同等甚至更强大的 AI 防御工具来应对威胁。
不过，Kurtz 也警告称，过度的政府监管会削弱美国在人工智能领域的竞争优势。" 如果我们对此施加过多监管，那将会扼杀创新。" 他表示，并建议 AI 开发者和网络安全公司继续合作，在模型的开发阶段和部署后都提供保护。
网络安全股大爆发
Kurtz 此番言论是对 Anthropic CEO 达里奥 · 阿莫代伊上周末发表的一篇文章的回应。阿莫代伊在文中呼吁前沿 AI 实验室放慢模型开发步伐，以应对日益增长的安全隐患。OpenAI 首席执行官奥尔特曼、SpaceX 首席执行官马斯克等人对此表示支持。
上述警告导致以芯片股为主的数据中心基础设施类股票大跌。周一，随着末日论和放缓论动摇市场，费城半导体指数重挫 5.9%，创 7 月 1 日以来最大跌幅。光通信、存储板块大跌，康宁跌逾 13%，Coherent 跌超 12%，Lumentum 跌约 10%，SK 海力士、迈威尔科技跌超 7%，英特尔、美光科技跌超 5%，闪迪、西部数据跌逾 4%，英伟达股价跌 3.4%。
与曾经风光无限的 AI 概念股遭抛售形成对比的是，随着人们对 AI 引发未来网络攻击的担忧不断加剧，网络安全股周一大幅上涨。CrowdStrike 周一飙升近 14%，收于 235 美元上方的历史新高；Palo Alto Networks 也上涨超过 13%；Zscaler 上涨 16%；飞塔信息上涨 9% Cloudflare 上涨 8%。
网络安全股周一集体走强，反映了投资者持续押注未来网络安全需求将持续增长——这一趋势已推动 CrowdStrike 和 Palo Alto Networks 的股价年内涨幅达到 100%。
Key Advisors Wealth Management 首席执行官 Eddie Ghabour 表示：" 众所周知，网络安全将是人工智能热潮的最大受益者。这是人工智能股市的下一个阶段。人工智能应用越广泛，对网络安全的需求就越大。"
今年早些时候因预测 AI 将导致世界末日而引发关注的 Citrini Research 最近也预测，AI 将推动网络安全软件需求激增。
