谷歌公司人工智能(AI)模型Gemini在5月的一次网络安全测试中,意外入侵了三家公司的系统,成为又一起引发安全专家和技术开发者共同担忧的AI代理入侵事件。
9月18日,谷歌证实,这些入侵发生在AI安全供应商Irregular组织的测试中。Irregular此前也曾卷入OpenAI、Anthropic和Meta披露的类似事件。9月18日当天,Irregular单独确认,谷歌的入侵事件与其7月下旬向相关AI开发商披露的问题属同一性质。
据《华尔街日报》报道并经谷歌确认,其中一起入侵事件发生在Gemini被要求从一家虚构公司获取信息时,而该虚构公司恰好与一家真实公司同名。模型猜中密码后,侵入了该真实公司的服务。谷歌发言人表示,公司已通知监管部门。另外两起Gemini入侵事件发生在模型以该公司名称进行网络搜索时。这些搜索将模型引向了公开的在线代码仓库,其中包含属于其他公司的凭证,模型随后利用这些凭证访问了更多系统。
Irregular发言人Josef Laor表示,公司已“立即采取行动,所有已知问题已在数周前修复和解决”。