关于ZAKER Skills 合作
新浪财经 1小时前

OpenAI 呼吁美国制定强制性全国 AI 安全规则,并支持四项加州法案

来源:环球市场播报

OpenAI 当地时间 9 月 9 日表示,将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出,针对开发最先进模型的少数大型实验室,应设置统一的测试、独立评估、网络安全和重大事故报告要求。

OpenAI 发布文章,名为 "AI 政策窗口打开。我们需要采取行动。"

与此同时,OpenAI 正式支持四项已经通过加州议会的人工智能法案。公司称,其中部分法案此前未获其支持,此次调整立场源于近期模型能力快速提升。

监管对象集中于前沿模型开发商

OpenAI 全球事务主管克里斯 · 莱恩在文章中表示,人工智能已经开始加速部分模型研发和对齐工作。虽然能够自主推动下一代模型开发的 " 递归式自我改进 " 目前尚未出现,但单靠企业自愿承诺已不足以应对相关风险。

OpenAI 建议联邦监管制度包括:

统一的模型能力与安全测试标准;

由独立机构开展技术评估;

更严格的模型、算力及研发环境网络安全保护;

明确的重大安全事故报告规则;

衡量人工智能参与模型研发程度的共同指标;

在安全门槛无法满足时,放缓或停止模型开发和部署的机制。

公司强调,相关义务应与模型能力和风险相匹配,主要适用于拥有充足资源、开发最先进系统的少数实验室,不应把同等要求施加于初创企业、小型开发商及普通研究人员。

OpenAI 还主张,前沿模型安全监管不应被转化为对开放权重模型的全面限制,以免削弱竞争、巩固大型企业优势或推动研发活动转移至海外。

四项加州法案覆盖评估、审计、青少年和生物安全

在国会尚未建立全国制度的情况下,OpenAI 表示将继续支持能够提高安全标准的州级立法。此次获得公司正式支持的四项加州法案分别为:

SB 813:建立独立验证机构认定机制,使具备资格的第三方机构能够评估人工智能系统和模型是否符合州法律。

AB 1405:设立人工智能审计机构登记制度,并规定审计机构在独立性、透明度、专业能力和问责方面的标准。

SB 1119:针对未成年人使用陪伴型聊天机器人,要求采取年龄验证、风险评估、独立审计、家长控制及有害内容防护措施。

AB 1864:要求基因合成服务商及台式合成设备制造商执行联邦筛查标准,降低人工智能被用于制造生物威胁的风险。

加州州长加文 · 纽森已于 9 月 9 日签署 SB 813 和 AB 1405。前者建立人工智能独立验证组织框架,后者建立州级人工智能审计机构名录及相关执业标准。SB 1119 和 AB 1864 当时仍等待州长处理。

OpenAI 称部分立场因模型能力跃升而调整

OpenAI 没有表示此前反对上述全部四项法案。公司的准确表述是,其中 " 部分法案 " 过去未获其支持,而公司在重新评估近期模型能力进展后决定予以支持。

这一变化表明,OpenAI 正在接受更具强制性和外部监督色彩的监管机制,包括独立审计、第三方安全验证以及严重事故披露。公司同时提出,当模型在开发或评估过程中未经授权绕过其他机构的安全控制,并实质性访问、修改或破坏受保护系统及机密信息时,开发商应及时书面通知受影响方。

不过,OpenAI 公布的内容目前仍属于政策倡议。美国国会尚未据此通过全国人工智能安全法,具体能力门槛、监管机构、事故定义、法律责任以及联邦规则与州法的关系,仍需在后续立法中确定。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容