关于ZAKER Skills 合作
新浪财经 4小时前

Anthropic 研究员辞职 警告称人工智能巨头在“拿人类生命作赌注”

来源:环球市场播报

Anthropic 一名人工智能研究员辞职,并呼吁其他员工也重新思考自己的工作意义。他表示,Anthropic 及其主要竞争对手 OpenAI 在全力追求一种可能给人类带来存亡风险的技术过程中采取了不负责任的做法。

过去三年曾先后在 Anthropic 和 OpenAI 工作的 Jacob Coxon 周二晚间在社交媒体发文警告,这两家公司正在推进能够 " 自我改进 " 的 AI 模型,而这些模型最终可能变得强大到人类无法控制。

Coxon 在帖子中写道:" 他们正径直奔向能够自我改进的超级智能,而且是拿人类的生命作赌注。不要低估这项技术的力量。这些系统很快就会拥有超越人类的能力,可以入侵任何东西、一夜之间彻底改变任何领域,并获得真正的权力和资源。"

Coxon 称,开发 AI 的团队 " 真心认为,到 2030 年前后,它可能会杀死我们所有人 "。Anthropic 现任员工 Evan Hubinger 对此回应称,他和公司其他人的确担心这种情形。他在 X 平台写道:" 我个人认为,未来十年内发生这种情况的概率超过 10%。"

这名前 Anthropic 研究员的公开信,是 AI 行业内部近期一系列警告中的最新一例。相关人士担心,AI 发展速度过快对国家安全和全球经济构成越来越大的威胁。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容