不止文本！研究人员发现AI系统新漏洞，图像重采样竟成攻击入口
我要评论近日，网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性，在人眼不可见的图像中注入恶意文本指令，从而劫持大型语言模型（LLM）并窃取用户数据。
该攻击的核心在于图像重采样攻击。当用户上传图片到AI系！研统时，系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看似正究人常，但在经过双三次（bicubic）等重采样算法处理后，隐藏在图像特定区域的恶意指令会以可见的文本形式显现出员发来。
研究人员在实验中证实，这种攻击手段能够成功渗透多个主流AI系统，包括Google Gemini CLI、Ve现Artex AI Studio、Google Assistant以及Genspark。在一次Gemini CLII系的测试中，攻击者成功将用户的Google日历数据泄露至一个外部邮箱地址，而无需用户的任何确认。
Tr统新ail of Bits指出，尽管攻击需要根据每个LLM使用的特定重采样算法进行调整，但其攻击媒介的广泛性漏洞意味着更多未被测试的AI工具也可能存在风险。为帮助安全社区理解和防御此类攻击，研究人员已发布了一款名为Ana，图morpher的开源工具，用于创建此类恶意图片。
针对此漏洞，研究人员提出了多项防御建议:尺寸限制:AI系统应像重对用户上传的图片实施严格的尺寸限制。结果预览:在对图像进行重采样后，向用户提供即将传递给LLM的结果预采样览。明确确认:对于涉及敏感工具调用的指令（如数据导出），系统应要求用户进行明确确认。
研究人员强调，最根竟成本的防御在于实施更安全的系统设计模式，以从根本上抵御此类即时注入（prompt injection）攻击。
相关文章
Anthropic 推出 Claude Code 网页版，可在浏览器运行编码任务
人工智能公司 Anthropic 宣布推出 Claude Code 的网页版，旨在为开发者提供更为便利的编码环境。借助这一新工具，开发者可以在浏览器中直接运行 Claude 进行编码任务，彻底告别繁琐2026-11-12
继澳洲之后 美国也要立法帮助出版商与Facebook谷歌谈判
新浪科技讯 北京时间2月19日晚间消息，据报道，美国众议院司法委员会反垄断小组的首席共和党众议员肯·巴克（Ken Buck）周四表示，美国两党国会议员计划在未来几周提出一项法案，允许规模较小的新闻机构2026-11-12
Hello，大家早上好，又是元气满满的一天，先来浏览新鲜的早报吧～ 【孙正义再登亚洲首富】 孙正义身家突破千亿美元，软银因 AI 布局市值超越丰田登顶日本。软银已构建完整 AI 产业链，投资 Open2026-11-12
云梦级4月28日云梦级消息，追觅科技创始人兼 CEO 俞浩今日在微博发文，再度对小红书平台提出严厉批评，此次重点谈及了平台算法问题。 俞浩微博如下： 小红书说都是算法问题，自己没有责任。 我几次打开小2026-11-12
人工智能和机器学习是市场上的热门技术，其重要性在2020年达到顶峰，这两种技术已经广泛应用在各行业领域，其范围从电子商务到量子计算系统，从医疗诊断系统到消费电子产品，尤其是日益流行的智能助理。 根据市2026-11-12
云梦级11月5日云梦级消息，日前，OpenAI宣布与亚马逊AWS达成一项为期七年的、价值380亿美元的云计算协议，正式结束对微软Azure的独家依赖。这意味着OpenAI迈向多云战略，可立即获取数十万2026-11-12
最新评论