Rinstitute · RINA.rocks
把大模型
装进口袋。
我们研究三值化(1.58-bit)语言模型:每个权重只取 −1、0、+1,让模型小到、快到、省电到可以完全在你自己的设备上运行。
1.58bit
每个权重的信息量:log₂3 ≈ 1.585
≈0.4GB
Rina 1 权重体积,理论估算(2B × 1.58 ÷ 8)
0×
权重矩阵乘法中的乘法次数:只剩加减
主打
主打模型 Rina 1
我们的第一个模型:约 2B 参数,从零开始以三值化方式训练。目前训练中,评测结果将在发布时公开,在此之前所有性能数据均为「待测」。
原因
为什么做端侧
- 01
隐私
数据不出设备:提问、文档和对话都留在本机,不经过任何服务器。
- 02
离线
没有网络也能用:地铁、飞机、山里,模型都在。
- 03
低延迟
不用排队等服务器,也没有网络往返,响应只取决于本机算力。
- 04
低成本
不按 token 付费,不需要 GPU 集群,已有的手机和电脑就够。
即将上线
浏览器在线试用 · 即将上线
计划在 Rina 1 发布后提供 WebGPU 演示,模型直接在你的浏览器里本地运行。