Model · v0
-10+1训练中 / Coming soon

Rina 1

约 2B 参数的三值化语言模型，从零训练，为端侧推理设计。

Hugging Face · 发布后开放GitHub · TBD
~2B
参数量
≈0.4GB
权重体积（理论估算）
TBD
端侧速度 tok/s · 待测

概览 / Overview

Rina 1 是 Rinstitute 的第一个模型。它的所有线性层权重只取 −1、0、+1，激活使用 8-bit，矩阵乘法中只需加减。目标是在手机、笔记本和单板电脑上完全离线运行一个够用的对话模型。

  • 三值权重：每个权重约 1.58 bit，理论体积约为 FP16 的 1/10
  • 从零开始做量化感知训练，不是训练后压缩
  • 无乘法矩阵乘：更适合 CPU、NPU 与 WebGPU
  • 当前状态：v0 训练中

架构规格 / Architecture

项目值
参数量~2B
权重精度1.58-bit 三值 {−1, 0, +1}，absmean 量化
激活精度8-bit（per-token absmax）
训练方式量化感知训练，从零训练
架构Decoder-only Transformer（细节 TBD）
层数 / 隐藏维度TBD
上下文长度TBD
词表大小TBD
训练数据量TBD
权重体积≈0.4 GB（理论估算：2B × 1.58 ÷ 8）

评测 / Benchmarks

BenchmarkRina 1备注
语言理解待测 / TBD发布时公开
常识推理待测 / TBD发布时公开
中文能力待测 / TBD发布时公开
内存占用（实测）待测 / TBD发布时公开
端侧速度 tok/s待测 / TBD发布时公开

* 模型训练中，以上数据均未测试。

目标设备 / Target devices

手机（Android / iOS）
○ 计划支持 · 待测
笔记本（ARM / x86）
○ 计划支持 · 待测
单板电脑（如树莓派）
○ 计划支持 · 待测
浏览器（WebGPU）
○ 计划支持 · 待测

快速上手 / Quickstart

示例，发布后更新 · 以下代码仅为示意，包名和接口尚未确定。

# 示例，发布后更新 / illustrative only
pip install rina-runtime   # 包名 TBD

from rina import Model
m = Model.load("rina-rocks/rina-1")   # 发布后开放
print(m.generate("你好，介绍一下你自己"))

更新记录 / Changelog

  • v0训练中，评测与权重将在发布时公开。

许可证 / License

TBD，将在发布时确定。