Arcjet 上线自研提示注入检测模型 Himalia 1,编程与安全智能体专用版开放抢先体验
安全公司 Arcjet 11 月 5 日推出自己训练的提示注入检测模型 Himalia 1,当天起所有使用其提示注入检测的 SDK 调用都改由它判断。提示注入是指混在网页、邮件或工具返回结果里、冒充指令让智能体做不该做的事的文字。Himalia 1 以 Qwen3-0.6B 为基础模型,做了更新全部参数的微调,并把原本生成文字的输出换成只判断正常或注入的分类器。Arcjet 介绍,这类分类器在单张 GPU 上几毫秒就能给出结果。它只返回判定、不返回分数,因为分数会给攻击者反馈,让他们反复调整攻击内容直到分数降到门槛以下。另外两款专用版开放抢先体验:Thebe 1 面向编程智能体,Carme 1 面向自动修漏洞这类安全智能体。Arcjet 说,在这些场景里 SQL、命令行和漏洞描述本来就是正常工作内容,通用模型容易误报。
为什么重要
智能体越来越多地读取外部内容并直接执行操作,提示注入是主要风险之一;按使用场景区分检测标准,能减少编程和安全类智能体被误拦。
来源1
由 dalao.ai 撰写:标题、摘要和“为什么重要”是我们自己的文字;事实以原始报道为准,著作权归原发布者所有。