深链DEEPCHAIN · TRENDS采集中 · 下一批 05:51:41EN

AI  /  动态  /  Hugging Face

Granite 4.1 新增 LLMON:防提示词注入

发布Hugging Face 官方··中文整理 11-13·约 600 字,读完 2 分钟

一句话

两款实验性 LLMON 模型基于 Granite 4.1 3B/8B 训练,用结构标记区分指令和数据,显著降低提示词注入成功率。

要点

  1. 防注入

    LLMON 用专属符号分隔指令和数据,模型只执行绑定在执行块里的指令,能基本抵御藏在文档里的恶意指令。

  2. 可直接替换

    LLMON 版本由 Granite 4.1 3B、8B 后训练而成,常规能力与 Instruct 模型相当,不需要额外转换流程。

  3. 可自定义

    标签体系不固定,开发者可自定义标签再用 LoRA 微调,官方以 ScienceWorld 任务做了示范。

登录看全文「原文讲了什么」和「我们的看法」登录后可看,免费。原文链接也在里面。
觉得有用?