谷歌的 Gemini AI 近期被揭露存在安全漏洞,允许攻击者通过电子邮件提示注入恶意指令,这不仅对全球网络安全构成威胁,也给中国的技术安全带来了新的挑战 。从技术角度来看,这一漏洞利用了 Gemini AI 的摘要功能,通过在邮件中隐藏指令,诱使 AI 生成欺骗性的钓鱼警告,从而可能导致用户遭受经济损失或信息泄露 。 据报道,伊朗和中国等国家背景的黑客组织已经开始利用 Gemini AI 来增强其网络攻击能力 。中国的网络犯罪分子利用 Gemini AI 识别系统和网络中的漏洞,而其他国家的黑客则利用它来制作恶意脚本和逃避技术 。 此外,DeepSeek 这一中国 AI 平台的崛起,以低于传统开发成本的价格展示了先进的功能,这引起了美国技术和情报部门的警惕 。 从技术层面分析,Gemini AI 的这一漏洞源于其对用户输入的信任。攻击者可以利用 prompt injection 技术,将恶意代码伪装成正常文本,从而绕过 AI 的安全防护 。例如,攻击者可以在电子邮件中插入一段隐藏的指令,当用户使用 Gemini AI 总结邮件时,AI 会执行这些指令,生成虚假的密码泄露警告,诱导用户拨打欺诈电话 。 为了应对这一挑战,中国需要加强在 AI 安全领域的技术研发和人才培养。一方面,要开发出能够有效识别和防御 prompt injection 攻击的安全工具和技术;另一方面,要加强对 AI 系统的安全审计和漏洞挖掘,及时发现和修复潜在的安全隐患。此外,还应加强国际合作,共同应对 AI 安全领域的挑战。通过技术创新和合作,中国可以提升自身在网络安全领域的竞争力,为构建安全可靠的数字环境做出贡献。同时,中国也应加强对 Gemini AI 等国外 AI 技术的监控和评估,及时发现和应对可能存在的安全风险。通过多方面的努力,中国可以有效应对 Gemini AI 漏洞带来的技术挑战,保障国家网络安全和用户利益。
谷歌 Gemini AI 的技术漏洞:中国网络安全的新挑战
编辑者: Veronika Radoslavskaya
来源
HotHardware
The GenAI Bug Bounty Program | 0din.ai
Google Online Security Blog: June 2025
Advancing Gemini's security safeguards - Google DeepMind
Google Adds Multi-Layered Defenses to Secure GenAI from Prompt Injection Attacks
Google Cloud Platform (GCP) Gemini Cloud Assist Prompt Injection Vulnerability - Research Advisory | Tenable®
你发现了错误或不准确的地方吗?
我们会尽快考虑您的意见。