关于ZAKER Skills GEO服务 合作
钛媒体快报 2小时前

微软 CEO 纳德拉警告 AI 模型或构成“内部风险”,呼吁建立独立管控机制

钛媒体 App 10 月 12 日,当地时间 10 月 10 日,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)发文称,随着人工智能模型能力增强,企业正赋予其访问敏感数据和执行关键任务的权限,但目前仍难以将模型的具体行为和输出追溯至特定训练数据或模型参数。他呼吁重新审视 AI 时代的信任架构,将前沿闭源及开放权重模型视为潜在的 " 内部风险 ",并在模型之外建立独立的权限管理与安全控制机制。

纳德拉提出,企业应确保模型行为可观测、结果可验证、权限可独立控制,并保留人工随时暂停或关闭模型的能力。他还强调,应建立模型多样性、独立审计和事故及时披露等机制,避免由同一模型同时执行任务并验证自身结果。(广角观察)

相关标签

相关阅读

最新评论

没有更多评论了
钛媒体快报

钛媒体快报

钛媒体快报频道

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容