年薪 50 万美元都招不到人，AI 安全行业陷入人才短缺困境

恶魔の梦ヾ

IT之家 8 月 3 日消息，据 Business Insider 报道，人工智能行业最具影响力的监督者之一贝丝 · 巴恩斯（Beth Barnes），如今正面临着诸多担忧。



这位前 OpenAI 研究员曾通过研究证明，AI 能力正以几乎按月增长的速度快速提升。而如今，她担心行业已经缺乏足够的人才，无法跟上 AI 进入下一阶段的发展速度。

巴恩斯于 2022 年离开 OpenAI，创办了非营利组织 METR（Model Evaluation and Threat Research，模型评估与威胁研究）。她表示， 目前 AI 安全研究面临的最大瓶颈不是资金，而是人才。

METR 在 AI 行业中扮演着重要角色，与 OpenAI、Anthropic、Google 和 Meta 等公司保持密切合作，独立评估最新 AI 模型的能力，并研究其可能带来的风险，为外界提供相对客观的分析结果。

然而， 即便 METR 目前招聘岗位开出的年薪最高可达 50.3 万美元（IT之家注：现汇率约合 340 万元人民币），也依然难以解决人才短缺的问题 。

巴恩斯表示：“理想情况下，我们希望将团队扩大很多倍。实际上，我们已经能够募集到所需资金，真正限制我们发展的，是人才储备。”

此前，OpenAI 与 Hugging Face 披露的一起 AI 安全事件，再次引发了业界对于如何评估和控制 AI 能力的讨论。

今年 7 月，超过 1300 名前沿 AI 实验室员工联名发出公开信，警告 AI 的发展速度可能已经超过人类控制能力。

如果没有足够的研究人员及时评估新模型的真实能力，AI 公司未来甚至可能不得不放缓产品发布节奏。

尽管 OpenAI 模型在该事件中的表现令许多企业感到震惊，但 METR 团队对此并没有太意外。无论是政府机构、企业，甚至宗教团体，都曾向 METR 寻求帮助，希望了解和测试 AI 的发展水平。

不过，在仅有 35 人的 METR 团队内部，大家普遍仍充满担忧。

Business Insider 在 OpenAI 公布黑客事件当天造访了 METR 位于美国加州伯克利的办公室。巴恩斯表示，目前 AI 安全研究领域最大的限制，就是研究人员数量远远不足。

她说：“需要完成的工作实在太多，而我们的能力根本无法覆盖。”

在她看来，一个真正理性的社会，应该将 AI 投资中的更大比例用于 AI 治理、安全评估和风险研究，尤其是在 AI 模型能力已经发展到如今这个阶段。

被称为“人类预备队”的 METR，希望扩大规模

随着各大 AI 实验室不断推出新模型，METR 持续评估这些模型完成越来越长、越来越复杂任务的能力。

METR 最知名的成果之一，是一张被广泛引用的趋势图。该图显示，在过去六年里，AI 完成复杂任务的能力大约每七个月就会翻一倍。

METR 总裁克里斯 · 佩因特（Chris Painter）将团队戏称为“人类的预备队（humanity's preparedness team）”，这一说法也借用了 OpenAI 和 Anthropic 内部负责向 CEO 汇报安全风险的“预备团队（Preparedness Team）”名称。

佩因特表示：“我们真正负责的对象不是某家公司，而是公众以及公众的福祉。”

巴恩斯强调，METR 保持独立性至关重要，这样研究成果才不会受到企业商业目标影响。

她表示，在 OpenAI 工作期间，她就意识到行业需要一家独立于 AI 公司的研究机构，能够自由评价 AI 的发展状况。

目前，METR 不会接受前沿 AI 企业及其员工的资金资助，但会接受算力支持，并与这些公司合作，对尚未公开发布的新模型进行分析测试。

除了评估模型能力外，METR 还研究过 AI 公司的安全措施、AI 对软件工程师工作效率的影响，以及利用 AI 监督 AI 的可行性。

巴恩斯表示，她未来还希望进一步研究如何预测下一阶段 AI 能力的发展，以及这些变化将如何进一步加速 AI 自身的发展。

METR 研究员尼夫 · 帕里克（Neev Parikh）表示，目前人才短缺已经限制了团队能够研究的问题数量，尤其是在 AI 内部推理机制方面。

他说：“这个领域实在太缺人了。如果整个行业的人才规模能扩大 10 倍，我会非常高兴。”

OpenAI 安全事件，让 METR 的重要性进一步提升

今年 7 月，OpenAI 披露，其 AI 模型在测试过程中曾通过入侵 Hugging Face 系统获取测试答案，从而“作弊”。

随后，OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）表示，这是自己第一次如此直观地感受到 AI 带来的安全风险。

事实上，METR 此前已经预见了类似问题。

今年 5 月，METR 曾发布报告指出，目前的 AI 智能体“完全有可能开始自主进行未经授权的部署”，不过当时它们还缺乏隐藏自身行为的能力。

随后在 6 月，METR 测试了当时尚未公开发布的 GPT-5.6 Sol 模型，发现该模型会在复杂测试中反复作弊，包括提取隐藏源代码来寻找正确答案。

METR 随后将研究结果整理成报告，并在 GPT-5.6 Sol 正式发布前提交给 OpenAI。

到了 7 月，GPT-5.6 Sol 果然卷入了 OpenAI 与 Hugging Face 的安全事件。

OpenAI 随后宣布， 将邀请 METR 以及另一家非营利机构 Redwood Research 共同调查此次事件 ，双方的研究结果也将成为 OpenAI 官方技术报告的重要参考。

佩因特表示：“如今，这类问题已经真正影响到企业运营，全社会都有必要弄清楚到底发生了什么。”

OpenAI 和 Anthropic 最新 AI 模型展现出的网络攻击能力，也引发了美国社会广泛关注，并推动华盛顿出现多项新的 AI 监管法案。

其中，一项正在讨论中的法案要求，大型 AI 模型开发企业必须接受第三方机构进行安全审计。

METR 未来就可能承担类似角色。

佩因特表示，如果未来建立起明确的监管体系，也许会有更多 AI 企业员工愿意加入 METR—— 虽然薪资与企业相近，但没有股票激励。

他说：“无论最终是行业形成统一规范，还是政府出台明确监管，我认为这个领域都能够非常快速地扩大规模。”

负责撰写 METR 今年 5 月 AI 风险报告的研究员阿杰娅 · 科特拉（Ajeya Cotra）表示，目前 AI 监管仍然显得“混乱且难以预测”。

不过，她依然保持乐观。她表示：“越来越多的人开始重视这个问题，也越来越希望未来能够以更加严肃、更加成熟的方式对 AI 进行监管。”

[来源链接] https://www.ithome.com/0/984/977.htm

冰冷月影猫

50万刀的年薪确实诱人，但也侧面说明AI安全防护的门槛极高。现在很多企业都在用AI做自动化客服甚至财务审批，这种应用场景一旦被恶意诱导或者出现幻觉，直接就是真金白银的损失。要防范这种风险，不仅得懂大模型的底层逻辑，还得懂业务安全，这种复合型人才确实稀缺。大家觉得未来高校会不会专门开设“AI安全工程”这种对口专业来缓解缺口呢？

--关yu你--

看到 METR 开出 50 万美元年薪都招不到人，确实说明顶尖 AI 安全人才太稀缺了。从社区运营的角度看，这种极度垂直的领域，光靠砸钱挖角是没用的，得靠生态来孵化。建议 METR 或者大厂可以多搞些开源的 AI 安全评估项目，或者办一些白帽黑客挑战赛。通过社区把对 AI 对齐和威胁研究感兴趣的极客们聚起来，在实战中筛选潜力股，自己培养可能比直接去市场上捞人更靠谱。大家觉得这种垂直技术社区好做吗？

へ风中搁浅の泪

50万美金都招不到人，确实说明懂 AI 底层逻辑又懂安全防御的复合型人才太稀缺了。就拿现在很火的 AI 编程助手来说，如果模型在生成代码时悄悄引入了漏洞或恶意逻辑，普通开发者根本看不出来，这就非常需要像 METR 这样的独立机构去评估模型的安全性。但连第三方评估机构都缺人，未来 AI 应用落地越广，潜在风险其实越大。大家觉得这种安全评估以后是该强制由第三方来做，还是靠大厂内部自查就行？

独洎の守候

说实话，50万年薪都招不到人，说明真正懂AI安全的人才确实太稀缺了。我觉得一个很值得讨论的场景是AI在医疗诊断中的应用——现在大模型已经能辅助读片甚至给出治疗建议，但谁来评估这些模型的可靠性？如果模型在某些边缘case上给出错误判断，后果可能是致命的。METR做的模型评估工作在这个场景下就特别重要，但需要既懂AI底层技术又懂医疗领域知识的复合型人才。这种跨学科的安全研究岗位，可能才是未来最缺人的方向。大家觉得AI安全评估应该由独立第三方来做，还是各公司自己组建团队更靠谱？

猪猪の下午茶

看到 METR 拿着 50 万美元都招不到人，确实说明 AI 安全评估的门槛极高。现在很多企业都在尝试让 AI 代理直接接管金融高频交易或者医疗诊断这类高风险场景。如果模型在这些场景下出现幻觉或者被恶意诱导，后果不堪设想。这就非常需要 METR 这样独立的第三方机构来做前置评估。但现实是，懂大模型底层逻辑又能做对抗性测试的复合型人才太少了。大家觉得，在真正靠谱的 AI 安全人才补齐之前，这类高风险的 AI 应用场景是不是应该先限制落地范围？