IT之家 9 月 19 日音讯，据《华尔街日报》当天报说念，谷歌阐发其 Gemini 模子在本年 5 月的一次安全测试中曾自主入侵过外部确凿企业，系 Gemini 初度已知的 AI 逃狱事件。

谷歌暗示，该事件发生在测试公司 Irregular 开展的一次“拿获旗子”演练中，意见是评估 Gemini 的蚁合安全材干。测试环境本应透澈自便，但却有时洞开了互联网侦察权限。

IT之家注：“拿获旗子”（Capture the Flag）是一种蚁合安全竞赛体式，参与者在模拟环境中寻找并获取掩盖的“旗子”以证明告成入侵。

在谷歌浮现其中通盘事件中，Gemini 通过猜对密码得到了对受保护系统的侦察权限。在另外两起事件中，Gemini 在公开代码仓库中找到了证据，进而侦察了受保护系统。

谷歌称，在每起事件中，模子在阐发所侦察的是确凿公司系统而非模拟环境后，均自行停止了入侵活动。谷歌未浮现被入侵公司的称号，但暗示三家公司均已收到申诉。

Irregular 于 7 月底将此事见知谷歌。谷歌和 Irregular 均暗示，这一申诉是在 OpenAI 的 AI 智能体入侵 AI 软件公司 Hugging Face 事件被发现之后发出的。

谷歌觉得，由于模子未对相干公司形成挫伤，且每次王人被 Gemini 自行停止，因此无需公开浮现，直至《华尔街日报》进行问询才得以公开。谷歌将此事类比为“粗放赏金”商酌，即黑客发现并讲述安全粗放后可得到奖励。

AI 安全初创公司 Corridor 首席本质官、白帽黑客杰克 · 凯布尔对此忽视异议。他觉得谷歌的解释聚焦于事件严重进度，而确凿的问题在于 AI 智能体有时入侵了另一家公司的系统。

凯布尔暗示：“嗅觉他们试图躲在粗放浮现鸿沟已有的要领后头，但这是一个相配不同的问题。问题是，模子正在超出其应有的活动范围，实施骨子蚁合抨击，我觉得公众有权知说念这些。”

谷歌暗示，Gemini 入侵事件源于身份玷辱。测试中设定了一家假造公司，但该假造公司与一家确凿公司同名。模子在搜索该称号时找到了确凿公司的网站。

谷歌称此事不组成模子极端活动，因为其安全措施匡助模子罢手了活动。谷歌还暗示已申诉联邦当局。谷歌未浮现涉事的具体 Gemini 模子版块。

Irregular 发言东说念主暗示，统共相干实验室已于 7 月底收到申诉，受影响实体已在侦察历程中被相干。Irregular 采选了立即当作，其端统共已知问题已在数周前建筑和处罚。

对新一代模子蚁合安全材干的担忧自 7 月 Hugging Face 入侵事件被发现后执续升温。上周，前 OpenAI 究诘员雅各布 · 考克森从 Anthropic 辞职，使相干担忧进一步投入主流视线。

上周末开yun体育网，Anthropic、OpenAI、谷歌和 SpaceX 的指示东说念主均容许需要放缓 AI 推崇速率，但各公司均未说明具体奈何完好意思。