RINSTITUTE · RINA.rocks

把大模型
装进口袋。

我们研究三值化(1.58-bit)语言模型:每个权重只取 −1、0、+1,让模型小到、快到、省电到可以完全在你自己的设备上运行。

W ∈ {-1, 0, +1}三值权重 · 示意
1.58bit
每个权重的信息量:log₂3 ≈ 1.585
≈0.4GB
Rina 1 权重体积,理论估算(2B × 1.58 ÷ 8)
0×
权重矩阵乘法中的乘法次数:只剩加减
Featured

主打模型 Rina 1

我们的第一个模型:约 2B 参数,从零开始以三值化方式训练。目前训练中,评测结果将在发布时公开,在此之前所有性能数据均为「待测」。

-10+1训练中

Rina 1

约 2B 参数的三值化语言模型,为端侧推理而生。

参数~2B权重1.58-bit · {-1,0,+1}激活8-bit权重体积≈0.4 GB(理论估算)状态训练中 / Coming soon

为什么做端侧

隐私

数据不出设备:提问、文档和对话都留在本机,不经过任何服务器。

离线

没有网络也能用:地铁、飞机、山里,模型都在。

低延迟

不用排队等服务器,也没有网络往返,响应只取决于本机算力。

低成本

不按 token 付费,不需要 GPU 集群,已有的手机和电脑就够。

浏览器在线试用 · 即将上线

计划在 Rina 1 发布后提供 WebGPU 演示,模型直接在你的浏览器里本地运行。

查看 Rina 1 详情 →