清华大学的技术已经把跑671B的门槛打到比华伪手机还便宜了!

吊打华伪

ktransformer

土豪套餐：
intel 志强有AMX指令集的+一张显卡+ddr5 = 13.9 tokens /s

穷鬼套餐：
E5 MJJ平台+2080ti或者3070魔改版= 4.3--4.9 tokens /s

---------------------总价比华伪“人人都买得起”的手机 还便宜

dicx

什么时候那些天天引战的垃圾能滚出这个论坛

Celestine

Q1量化的671b，实际用起来还不如Q4的70b

Mesquite

首先我不是给猾痿洗地，猾痿的旗舰标准版一般是6999起售，余大嘴认为折叠屏只比标准旗舰贵500那就是给百姓的福报，百姓必须”人人抢购“

吊打华伪

Celestine 发表于 2025-3-30 12:47
Q1量化的671b，实际用起来还不如Q4的70b

你可真能瞎扯淡。 一看你就没跑过。。。

再说大家都跑2.51b,  因为1.58b的128内存也不够。既然上到256内存了，直接干2.51b就好。
效果不差，如果2.51b不会的，官网的也肯定不会。

Celestine

吊打华伪 发表于 2025-3-30 13:01
你可真能瞎扯淡。 一看你就没跑过。。。

再说大家都跑2.51b,  因为1.58b的128内存也不够。既然上到256内 ...

我没跑过会告诉你不同量化之前的区别吗？

chen5144

最起码得Q4 量化   1.58 和2.51 的差好多了。不如直接买官方api用用

zsj1259

自己搭在本地的意义是什么？

heihai

zsj1259 发表于 2025-3-30 17:07
自己搭在本地的意义是什么？

内网私有化

gger

人多力量大 分工明确