微软首席执行官Satya Nadella表示，企业应将强大的人工智能(AI )模型视为潜在的内部威胁，要假定这些模型可能遭入侵，并建立一套“紧急制动”机制，以防止智能体模型失控。
Nadella表示，部署先进人工智能的企业不应仅仅依赖模型开发商作出的保证。“我们必须假定模型已遭入侵，并从一开始就加以控制，”Nadella周六在X上发帖写道。“可以把这想象成紧急制动装置。获授权人员应始终能够在模型执行任务过程中将其暂停或关闭。”
Nadella提出的安全建议包括：在关键决策中不要依赖单一人工智能模型，对智能体的行动保留无法篡改的记录，并让人工智能系统接受独立审计。他还呼吁披露重大人工智能故障或安全事件，并提出企业分享故障详情，以便其他企业加强防护措施。
“我们不能把超级智能视为一层套一层的黑箱，然后只是简单地接受或拒绝它提出的建议、答案和采取的行动。”他写道。“我们必须构建受到约束的系统，使其行为可以被观察、边界可以被测试，而且其行动始终可以被控制。”
他补充说：“换句话说，我们需要把智能的供给与对智能的控制权分开。”