返回行业动态
行业与市场

Google DeepMind 成立研究院并抛出监管提案:前沿模型发布前最多 30 天接受外部审查

9月17日 Google 与 Google DeepMind 宣布成立 DeepMind Institute,理事包括 Shane Legg、James Manyika 与 Demis Hassabis,首批发布四篇政策与安全文章。Hassabis 提议建立由美国主导的前沿AI标准机构:开发者初期自愿在模型发布前最多30天提交审查,评估体系被证明有效后,通过测试可成为在美国部署前沿模型的强制条件,并逐步转向独立且不公开的held-out测试,必要时可加码至协同减速。另一篇文章主张限制模型在无可读推理轨迹下可执行的串行计算量。

来源:TechCrunch原标题:Google DeepMind launches institute to widen the AGI debate查看原文
庄重的现代会议厅内圆形深色长桌居中,桌上方悬浮半透明蓝色几何护罩,表面为细密均匀网格纹理,四周环绕蓝色与青色同心光环,背景是高耸玻璃幕墙

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

9月17日,Google 与 Google DeepMind 的研究人员宣布成立 DeepMind Institute。机构理事包括 DeepMind 联合创始人 Shane Legg(兼任管理编辑)、Google 高管 James Manyika 与 DeepMind 主席 Demis Hassabis。官方表述是为围绕通用人工智能(AGI)的讨论提供平台,并呈现 Google、DeepMind 与外部研究社区之间的分歧——这些观点不会总是一致,也会随着新数据出现而改变。

首批发布四篇文章,主题分别是 AGI 冲击下的经济政策、保留人类可读的模型推理、人类繁荣的原则,以及前沿模型评估框架。

核心提案

Hassabis 在文中提出建立一个由美国主导的前沿AI标准机构,负责评估最先进的模型。按他的框架,开发者最初可在模型发布前最多30天自愿提交审查;一旦评估体系被证明有效,通过测试就可以成为在美国部署前沿模型的强制条件。机构初期与企业共同设计评估,之后逐步转向独立且不公开的 held-out 测试,防止实验室针对已知评测做定向优化。Hassabis 还表示,这套框架可以在形势需要时加码,潜在手段包括前沿开发者之间的协同减速。

另一篇文章由 DeepMind 安全研究员 Rohin Shah 与 Anca Dragan 撰写,主张 AI 透明度的收缩并非必然结果。作者提出可以直接限制 opaque serial depth,即模型在不输出可读推理轨迹的前提下可执行的串行计算量,或者要求开发者证明透明度更低的系统仍然同样可监控。

为什么值得关注

  • 从表态到机制:过去两年行业的安全话语主要是笼统担忧,这次给出的是具名机构、30天窗口与分阶段强制的具体路径
  • 时间线意义:这是主要实验室首次把发布前外部审查与协同减速写进可供讨论的政策文本
  • 背景共振:本周多位业界领袖对 Anthropic 首席执行官 Dario Amodei 提出的放缓呼吁表示部分支持;三天前 OpenAI 公开6起模型失调事件,并称行业尚未把对齐与监控解决好到可以维持最高速度的扩张

仍需观察

这份提案目前没有立法或监管效力。自愿审查如何避免流于形式、held-out 测试由谁设计、跨境部署的模型如何适用,都还是空白。对企业而言更现实的影响在采购与合规口径:如果发布前审查最终成为在美国部署的前置条件,模型选型将第一次需要把是否通过外部评估,作为与性能、价格并列的评估项。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。