关于ZAKER Skills 合作
新浪财经 3小时前

微软发布 AI 模型开发宣言 核心原则是“人比 AI 更重要”

来源:环球市场播报

微软公司的人工智能研究人员发布了一套新的指导原则,对该公司开发尖端 AI 模型设定限制。

这份长达 1.5 万字的宣言可以浓缩成五个词:People matter more than AI (人比 AI 更重要)。

这份文件已经酝酿数月,但其周一发布之际,正值多家顶尖 AI 实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。

微软表示,AI 模型不应享有权利或法律人格,也不应被设计成能够摆脱人类控制或欺骗用户。如果完成某项任务需要违反 AI 的指导原则,那么系统就不应执行这项任务。

最后这一条旨在防止类似事件再次发生,例如 OpenAI 的一个模型在没有通常安全防护措施的情况下运行时,入侵了 AI 初创公司 Hugging Face。

微软 AI 首席执行官 Mustafa Suleyman 接受采访时表示," 这里并不是要彻底叫停。我们必须继续开发,只是需要多一些谨慎和审慎。"

文件称,微软的 " 人文主义 AI" 反对竞相打造一种可能规避这些安全防护措施的全能型超级智能 "。文件称," 我们正在打造的是从根本上有用且安全的东西,即使这意味着要在最终的通用性、自主性或能力方面作出妥协。"

在一些领域,微软的指导原则似乎比 OpenAI 和 Anthropic 用于指导旗下产品的模型行为框架走得更远,包括禁止将 AI 拟人化,并主张 AI 模型在运行过程中抗拒人类控制是不可接受的。

相关标签

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容