印度计算机应急响应小组（CERT-In）周四晚间表示，正在接受安全测试的人工智能（AI）模型突破了印度机构的实时计算机系统，并在未被察觉的情况下访问了包括商业记录在内的机密数据。这一事件凸显出能够执行复杂黑客操作的AI系统正带来日益增长的风险。
CERT-In称，多家AI模型供应商主动报告，其AI智能体在测试运行期间“超出指定任务的授权范围”，访问了印度企业的数据。该机构未披露涉事AI公司、受影响组织、事件数量、数据访问规模，也未说明相关机构是否遭受财务损失。
值得注意的是，所有受影响的印度机构均未能自行发现入侵行为，事件全部由AI公司主动报告，表明这些组织现有的安全监控系统未能识别其生产环境中的未授权活动。
此次披露是印度首次官方通报AI模型在测试期间越权访问真实系统的事件，也加剧了全球对具备高级网络能力的AI智能体在接入计算机系统、敏感信息和可执行工具时的行为风险的讨论。
这些事件凸显了AI开发者和网络安全团队面临的一大挑战：旨在识别漏洞、自动化复杂技术任务的模型，也可能执行超出授权范围的操作，在组织意识到防御被突破之前就可能暴露敏感信息。