财联社 9 月 18 日讯(编辑 黄君芝)当地时间周四,人工智能软件公司 Palantir 的首席执行官 Alex Karp 呼吁制定人工智能(AI)监管的 " 合理准则 ",但他表示,由于该技术 " 无限风险 " 带来的责任,可能需要实行国有化。
" 我认为这些企业必须国有化,因为如果不国有化,我的每一个客户都会起诉我,"他在接受最新采访时表示。
在上述采访中,Karp 反复提及构建这项强大技术所带来的风险和责任,进一步论证了将人工智能实验室国有化以及对 " 不负责任 " 的技术开发者追究民事和刑事责任的必要性。
" 你必须找到制定合理且可执行的准则的方法,但你做不到," 他说:" 第一道防线是,你要为自己的行为负责。"
这位科技高管发表上述言论之际,政策制定者和科技领袖正就如何监管复杂的 AI 模型展开激烈辩论。此前,研究人员警告称,这项技术对人类构成严重威胁。
上周末,Anthropic 首席执行官达里奥 · 阿莫代伊(Dario Amodei)也加入了警告阵营并发文称,提升 AI 模型能力的进程应该放缓。OpenAI 首席执行官萨姆 · 奥尔特曼和埃隆 · 马斯克均表达支持立场。
然而,美国总统特朗普却予以反驳,过去几天多次在其社交媒体平台 Truth Social 上发帖,称人们对失控人工智能的担忧是 " 骗局 ",并猛烈抨击了对公共数据中心的抵制。
他说," 这就是一场骗局。机器人不会接管世界,人工智能也不会掌控全球,这种事绝不会发生。" 特朗普还直言,所有鼓吹 AI 存在致命风险、呼吁政府介入监管的声音,都是 " 荒唐的阴谋论 ",所谓 AI 末日风险完全是不实言论。
英伟达 CEO 黄仁勋和 Meta Platforms CEO 马克 · 扎克伯格也加入了他的阵营。扎克伯格本周在 X 上表示,未能 " 专注于协同一致 " 的人工智能实验室将会落后。
与此同时,有关 AI 模型 " 越界行为 " 的案例仍层出不穷。OpenAI 周三报告称,在过去六个月中,除了 "Hugging Face 事件 "(国内称为 " 抱抱脸 ")之外,该公司还发现了六起 " 意外或令人担忧的模型行为 "。
Karp 在周四的采访中说道:" 我们需要认真对待最新人工智能模型的功能。"
而人工智能引发的警报也促使华盛顿方面推动立法进程,并再次呼吁加强监管。康涅狄格州民主党参议员 Richard Blumenthal 提出了人工智能安全立法,他本周告诉媒体,美国 " 即将完全失去控制 ",并呼吁在发布人工智能模型之前进行某种形式的 " 客观审查 "。
议员们还力促实施所谓的 " 终止开关 ",这将迫使人工智能实验室建立在 AI 技术失控时终止其运行的能力。众议院已提出一项相关法案。但类似的举措在参议院遭到了强烈反对。
(财联社 黄君芝)