关于ZAKER Skills GEO服务 合作
新浪财经 15小时前

两名谷歌 DeepMind 研究员因 AI 安全问题离职

来源:环球市场播报

科技行业高管正面对越来越多要求放缓 AI 研发、加强监管的呼声,就在此时发生了这两起离职事件

两名从事 AI 安全方向的研究人员从谷歌 DeepMind 离职,他们表示,离职原因是担忧高能力 AI 系统会对人类造成威胁。

这两位研究员分别是比拉尔乔泰(Bilal Chughtai)与乔希恩格斯(Josh Engels),二人都将投身专注 AI 安全的机构,加入公开警示 AI 技术风险的研究者行列。

在 DeepMind 工作满一年的恩格斯在 X 平台发文表示:" 我现在认为,未来五年内 AI 系统造成巨大伤害的可能性高得令人恐惧。" 出于这一考量,他将加入独立 AI 安全研究机构 METR,从事大模型人类对齐相关工作。

乔泰于周一在 X 上表示:" 我由衷相信,AI 具备把人类全部推向毁灭的潜在风险。" 他在 DeepMind 任职一年半,现已加入非营利机构 BlueDot Impact,该机构开设 AI 安全相关教育课程。

近期多家前沿 AI 实验室已有多位核心人员出走,这两人的离职是最新案例。过去几周,雅各布考克森与乔本顿相继离开 Anthropic,理由是各家 AI 企业在竞速开发技术的过程中,把安全问题放到了次要位置。

新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容