Rinstitute · RINA.rocks

把大模型
装进口袋。

我们研究三值化(1.58-bit)语言模型:每个权重只取 −1、0、+1,让模型小到、快到、省电到可以完全在你自己的设备上运行。

+10−1W ∈ {−1, 0, +1} · 示意
1.58bit

每个权重的信息量:log₂3 ≈ 1.585

≈0.4GB

Rina 1 权重体积,理论估算(2B × 1.58 ÷ 8)

0×

权重矩阵乘法中的乘法次数:只剩加减

主打

主打模型 Rina 1

我们的第一个模型:约 2B 参数,从零开始以三值化方式训练。目前训练中,评测结果将在发布时公开,在此之前所有性能数据均为「待测」。

原因

为什么做端侧

  1. 01

    隐私

    数据不出设备:提问、文档和对话都留在本机,不经过任何服务器。

  2. 02

    离线

    没有网络也能用:地铁、飞机、山里,模型都在。

  3. 03

    低延迟

    不用排队等服务器,也没有网络往返,响应只取决于本机算力。

  4. 04

    低成本

    不按 token 付费,不需要 GPU 集群,已有的手机和电脑就够。

即将上线

浏览器在线试用 · 即将上线

计划在 Rina 1 发布后提供 WebGPU 演示,模型直接在你的浏览器里本地运行。

查看 Rina 1 详情 →