RINSTITUTE · RINA.rocks
把大模型
装进口袋。
我们研究三值化(1.58-bit)语言模型:每个权重只取 −1、0、+1,让模型小到、快到、省电到可以完全在你自己的设备上运行。
W ∈ {-1, 0, +1}三值权重 · 示意
1.58bit
每个权重的信息量:log₂3 ≈ 1.585
≈0.4GB
Rina 1 权重体积,理论估算(2B × 1.58 ÷ 8)
0×
权重矩阵乘法中的乘法次数:只剩加减
Featured
主打模型 Rina 1
我们的第一个模型:约 2B 参数,从零开始以三值化方式训练。目前训练中,评测结果将在发布时公开,在此之前所有性能数据均为「待测」。
Rina 1
约 2B 参数的三值化语言模型,为端侧推理而生。
参数~2B权重1.58-bit · {-1,0,+1}激活8-bit权重体积≈0.4 GB(理论估算)状态训练中 / Coming soon
为什么做端侧
隐私
数据不出设备:提问、文档和对话都留在本机,不经过任何服务器。
离线
没有网络也能用:地铁、飞机、山里,模型都在。
低延迟
不用排队等服务器,也没有网络往返,响应只取决于本机算力。
低成本
不按 token 付费,不需要 GPU 集群,已有的手机和电脑就够。
浏览器在线试用 · 即将上线
计划在 Rina 1 发布后提供 WebGPU 演示,模型直接在你的浏览器里本地运行。
查看 Rina 1 详情 →