7*24 快讯

OpenAI拟在研发早期引入第三方评估AI模型安全风险

OpenAI计划允许第三方机构在其人工智能模型开发周期的早期阶段,对其模型的安全风险进行审查,这是其为应对外界对该技术潜在危害日益加剧的担忧而采取的持续举措之一。OpenAI还列出了确保这些评估有效运作的关键优先级,包括确保“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任划分”。

负责领导OpenAI与外部专家合作进行安全审查工作的Lama Ahmad表示,此前OpenAI通常只在模型发布前引入这类机构进行安全评估和能力评测。“随着风险不断升高,我们希望在部署之外,也将目光投向训练和评估等同样高风险的环节。”这项工作可能包括让外部评估人员进入OpenAI的办公室,参与部分最敏感的工作。她指出,OpenAI过去也曾尝试过类似做法。(彭博)