30亿参数模型训练完毕

2023年12月11日11:3432304739
字号
粗細
行距

历经25天,更大的30亿参数模型训练完成 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

模型地址: https://huggingface.co/a686d380/rwkv-5-h-world 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

使用教程和上期一样,只需要把模型从rwkv-5-h-world-1b5替换为rwkv-5-h-world-3B 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

教程 https://www.pixiv.net/novel/show.php?id=21039830 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

Google Colab在线测试 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

https://colab.research.google.com/drive/1KAn6TNcoGayBceEo1uMuTJpdU7RPFenZ?usp=sharing 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

3B对于显存和配置要求更高,预期显存占用6G。如果你使用了较为低端的配置却仍可以获得较为满意的生成速度,欢迎分享你的电脑配置(显卡CPU内存等)和rwkv runner里的配置(CUDA/层数/fp16/int8等) 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

更多中文H小说尽在hlib.cc。

由于7B参数的rwkv-5本体尚未训练完毕,7B的rwkv-h至少要到明年2月。在此期间计划研究一下群众的热门需求,包括对话、扩写/基于大纲生成/基于关键字生成。对话建议先用隔壁rwkv-claude 以上内容来自hlib.cc。更多中文H小说尽在hlib.cc。

  • 评论区排序方式
  • 登录后即可发表评论及享受更多功能
  • 相关推荐
  • 收录书单