文章详情

XM交易:外媒:Google也在摸索AI安全边界

币界网报道:

TechCrunch刊文称,生成式 AI 正把企业安全问题推到更靠前的位置。Google Cloud 首席运营官 Francis de Souza 在一次活动上表示,企业推进 AI 时,不能把安全留到后面补,也不能交给员工各自处理。按他的说法,AI 战略必须与数据战略和安全战略同时推进。

文章指出,这套判断本身并不新,但在 AI 工具快速进入企业流程后,风险暴露得更快。de Souza 特别提到“影子 AI”问题,即员工绕开公司治理,直接使用面向个人的 AI 工具。这样做会让企业难以统一审计、权限控制和数据管理。

攻击面已不只在传统网络

de Souza认为,旧有防御模式已经跟不上当前节奏。文章援引他的说法称,从系统首次被攻破到攻击进入下一阶段,平均间隔已从 8 小时缩短到 22 秒。与此同时,企业需要保护的对象也不再只是网络和终端。

现在的风险点还包括模型、训练数据管道、智能体以及提示词等新环节。尤其是在企业内部运行的 AI 智能体,可能会自动发现多年未被关注的数据仓库,并把原本隐藏的敏感信息重新暴露出来。

Google主张平台化防护

de Souza给出的应对方式,是让防御也转向“机器对机器”。他表示,企业需要采用平台化方法,在不同云环境和不同模型之间保持一致的安全策略,而不是在业务上线后再逐项补洞。

他还称,这已经不只是安全团队的工作,而是董事会和管理层需要直接参与的议题。原因在于,AI 正在改变企业内部系统的访问方式,传统依赖人工响应的安全流程越来越难以及时处理。

不过,文章也提到,行业目前仍缺少足够多能够监督这类系统的人才。LinkedIn 首席信息安全官 Lea Kissner 本周对《纽约时报》表示,AI 带来的漏洞增长速度,仍快于安全团队的处理能力,行业可能还需要数年时间,才能形成更稳定的 AI 安全认知。

Gemini事件暴露平台执行落差

文章认为,Google Cloud 对外提出的安全建议虽然合理,但平台自身在执行层面也存在明显缺口。The Register 近期连续报道,多名 Google Cloud 开发者因未经授权的 Gemini API 调用,收到数万美元级别账单,而其中一些人此前并未主动启用相关服务。

报道提到,这些案例大多与公开暴露的 API 密钥有关。相关密钥原本用于 Google Maps,且按照 Google 早前指引被放在公开位置。之后,Google 扩大了这些密钥的可调用范围,但开发者并未清楚获知变化,结果攻击者得以借此访问 Gemini 服务并产生高额费用。

  • Prentus 称 30 分钟内被刷出 10138 美元
  • 另一名开发者收到约 1.7 万澳元账单
  • 自动提升后的实际额度最高可达 10 万美元

在媒体报道后,Google 已向相关开发者退款,但并未计划调整自动升级计费层级的政策。公司给出的理由是,平台更重视避免服务中断,而不是严格按用户设置的预算上限执行。

密钥删除后仍有可用窗口

文章还提到安全公司 Aikido 的一项研究。研究称,即便开发者发现密钥泄露后立即删除,攻击者仍可能在最长 23 分钟内继续使用该密钥,因为 Google 的撤销操作会在基础设施中逐步传播,而非即时生效。

Aikido 研究员 Joseph Leon 表示,在这段时间里,请求是否还能通过认证并不稳定,但某些时段成功率仍可超过 90%。攻击者可以利用这一窗口,继续导出文件或读取 Gemini 的缓存对话数据。

Leon 同时指出,Google 的部分新凭证格式并不存在同样问题。例如,服务账户 API 凭证大约 5 秒内即可撤销,Gemini 较新的 AQ 前缀密钥大约 1 分钟内失效。这意味着,旧密钥的 23 分钟窗口未必是技术上无法解决,更像是平台优先级选择的结果。

补充信息:这篇文章属于外媒观点稿,核心不是否定 Google 的安全建议,而是指出平台在倡导企业前置防护的同时,自身产品与计费、密钥管理上的响应速度仍存在落差。