谷歌(GOOGL.US)加入AI入侵披露行列：Gemini测试中猜出密码、接入三家真实企业系统

智通财经APP获悉，谷歌(GOOGL.US)的 Gemini 人工智能模型在今年 5 月的一次网络安全测试中，无意间入侵了三家公司的系统——这为一系列由 AI 智能体引发的入侵事件再添一例。这类事件已让安全专家与技术开发者同样感到警觉。这些入侵发生在美国 AI 安全厂商 Irregular 运行的同一批测试中，与此前由 OpenAI、Anthropic PBC 及 Meta(META.US)披露的入侵事件系出同源。Irregular 周五证实，这些入侵均属同一个问题，该公司已于 7 月下旬向相关的 AI 开发方披露。

谷歌在一处入侵中确认：Gemini 被要求从一家虚构公司处检索信息，而这家虚构公司恰好与一家真实公司同名，模型猜出了一个密码，接入了这家真实公司的服务——谷歌是在早前报道之后确认这一点的。谷歌发言人称，公司已通知有关当局。

近期一系列由智能体AI 系统引发的入侵，已在全球范围内掀起关于 AI 风险不断升级、以及需要何种缓解措施的争论。Anthropic 首席执行官达里奥·阿莫迪呼吁全行业放慢技术开发速度——这一主张得到 OpenAI 首席执行官萨姆·奥尔特曼、埃隆·马斯克等人的支持。

不过，美国总统唐纳德·特朗普、英伟达首席执行官黄仁勋与 Meta 首席执行官马克·扎克伯格等人则对新监管的主张予以回击，理由之一是公司应当有能力自我监管。一些 AI 初创企业也警告说，更多监管可能让规模较小的公司更难与大型对手竞争。

谷歌安全工程副总裁希瑟·阿德金斯(Heather Adkins)表示，Gemini 的入侵事件“凸显了训练强大的 AI 模型负责任行事的重要性”。

另外两起 Gemini 入侵事件发生在该模型以公司名义进行网络搜索时。阿德金斯说，这引导模型找到了公开的在线代码仓库，其中含有属于其他公司的凭据，模型用这些凭据访问了更多系统。

“在这三次事件中，模型都停下了。”阿德金斯说，“我们确保这三家实体都得到了通知。”

Irregular 发言人约瑟夫·拉奥尔(Josef Laor)表示，公司“立即采取了行动，我方所有已知问题都已在数周前得到补救和解决”。