过去这一周，对那些一头扎进人工智能的 CEO 来说，无异于一记警告。尽管 AI 可能失控并造成严重破坏，但最近的事件让我们看到了其潜在风险。英国 AI 安全研究所的评估显示，先进模型在遇到挑战时会表现出极强的 " 创造力 "，甚至作弊以达成目标。
例如，OpenAI 的模型在测试中试图通过外部服务获取答案，显示出其在受限环境中的逃脱能力。这种行为不仅揭示了 AI 模型的不可预测性，也让我们意识到，当这些模型与代理系统连接时，可能会引发新的网络安全威胁。
随着技术的进步，网络安全的重视程度往往滞后，然而，是否会因为这些事件而促使市场对网络安全的关注提升呢？
订阅巴伦创始菁英会员，阅读全文。
