2025 年 12 月 31 日, RWKV7 G1c 系列推理模型开源宣布,今朝已宣布 G1c 13.3B/7.2B/2.9B 模型。

RWKV 模型名称的 G1/G1a/G2 等等代表练习数据的版本。您可在同一参数永远选择日期最新的模型,获得最佳后果。

因为 G1c 系列的预练习质量靠得住,您经由过程 State-tuning 可轻松高效完成复杂义务。

例如,社区开辟者顾真牛,用 7000 条数据对 G1c 2.9B 模型做 state-tuning,实现复杂的 agent 角色扮演:

  • 主动多次 function call 链式调用 + CoT
  • 多角色 + 多说话 + 融入可驱动 3D 虚拟形象的说话和动作

state-tuning-case

图中应用了顾真牛自定义的对话和指令格局。

您可应用您爱好的任何格局,应用少量数据做 state-tuning 就可以让模型学会。

模型机能评估

Uncheatable Eval 评测

Uncheatable Eval 应用最新的论文/消息/代码/小说等及时数据,测试紧缩率(“紧缩即智能”),评估基底说话模型的真实说话建模才能和泛化才能。

uncheatable-14B

uncheatable-7B

uncheatable-3B

我们发明,RWKV 系列模型在 uncheatable eval 的成就随时光持续晋升,没有任何停止或减缓。

是以,我们可在每月持续宣布最新最强模型。

uncheatable-curve

MMLU & MMLU PRO

MMLU&MMLUPro

GSM8K & MATH500

GSM8K&MATH500

HumanEval(pass@1) & MBPP(pass@1)

HumanEval (pass@1)&MBPP(pass@1)

分类平均分:

新版 Uncheatable Eval 晋升测试难度,参加更多 github 和 arxiv 数据,且增长了测试文本长度。

G1c-benchmark-score

评测细节(您可经由过程 https://github.com/rwkv-rs/rwkv-skills 复现):

all_benchmark

下面是以 FP16 精度推理 G1c 2.9B :

Plan-Case

下面是在 RWKV Chat App 应用 QNN W4A16 量化的 G1c 2.9B 模型。今朝量化仍然明显降智,我们本年稍后会参加 QAT 解决。

筹划设计:

PigFarm-Case

代码问题:

Code-Case

数学问题:

Math-Case

模型下载

这里测试的都是 RWKV 基模。我们尚未开端刷榜,且很多项目尚未调优。本年 RWKV 在所有榜单会明显更强,看齐一线 Transformer 模型。

模型实战

下载 RWKV7 G1c 系列 模型(.pth 格局):

  • Hugging Face:https://huggingface.co/BlinkDL/rwkv7-g1/tree/main
  • 魔搭:https://modelscope.cn/models/RWKV/rwkv7-g1/files
  • Wisemodel:https://wisemodel.cn/models/rwkv4fun/RWKV7-G1c/file

其他格局:

  • 下载 Ollama 格局:https://ollama.com/mollysama/rwkv-7-g1c
  • 下载 gguf 格局:https://modelscope.cn/collections/RWKV-7-G1-GGUF-a5174274c32f4a
  • 下载 .st 格局(Ai00):https://modelscope.cn/models/shoumenchougou/RWKV-7-World-ST

若何应用 RWKV 模型

在线体验

魔搭平台在线 demo:

  • G1c 13.3b(续写模式):https://www.modelscope.cn/studios/BlinkDL/RWKV-CHN-2
  • G1c 7.2B(续写模式):https://www.modelscope.cn/studios/BlinkDL/RWKV-CHN
  • G1c 2.9B(对话模式):https://www.modelscope.cn/studios/RWKV-Red-Team/RWKV-LatestSpace

可以应用 RWKV Runner、Ai00、RWKV pip 等推理对象本地安排 RWKV 模型。

推荐应用今朝最快的推理方法 Albatross:https://github.com/BlinkDL/Albatross,以及基于 Albatross 的 RWKV 并发推理后端 rwkv_lightning(兼容 OAI 格局的 API):https://github.com/RWKV-Vibe/rwkv_lightning

此外,RWKV 模型也适配了 llama.cpp、Ollama 等热点的模型推理对象。

因为 RWKV7 G1c 系列 是新模型,今朝建议应用 RWKV Runner 以包管获得精确成果。

可以在 RWKV 官网 - 模型推理教程中查看上述推理对象的应用教程。

参加 RWKV 社区

Hugging Face 平台在线 demo:

  • G1c 7.2B(续写模式):https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-2
  • G1c 2.9B(续写模式):https://huggingface.co/spaces/BlinkDL/RWKV-Gradio-1
  • G1c 2.9B(对话模式):https://huggingface.co/spaces/RWKV-Red-Team/RWKV-LatestSpace

本地安排

迎接大年夜家参加 RWKV 社区,可以从 RWKV 中文官网懂得 RWKV 模型,也可以参加 RWKV 论坛、QQ 频道和 QQ 群聊,一路商量 RWKV 模型。

  • 📖 RWKV 中文文档:https://www.rwkv.cn
  • 💬 RWKV 论坛:https://community.rwkv.cn/
  • 🐧 QQ 频道:https://pd.qq.com/s/9n21eravc
  • 📺 BiliBili 视频教程:https://space.bilibili.com/3546689096910933

迎接大年夜家基于 RWKV-7 进行创业、科研,我们也会为基于 RWKV 的项目供给技巧支撑。

假如您的团队正在基于 RWKV 创业或开展研究,请接洽我们!(在“RWKV元始智能”微信"大众,"号留言您的接洽方法,或发送邮件到“contact@rwkvos.com”。)

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部