想跑点大模型，现在最划算的方案是什么？
就研究些和ai相关的应用，感觉调用和token都会挺多的。要求也不高，能跑个40B，或者72B左右的模型就很满足了。我有几个简单的想法：
1.租个VDS/杜甫，新一点的CPU支持AVX512的，大内存用CPU跑。
2.租GPU资源。但是感觉太贵了，没有什么便宜的路子。
3.直接调用付费API。
4.自己组一台电脑，内存和CPU拉满给很大。大力出奇迹。
不组GPU那是因为确实组不起yc002t
5.苹果电脑加钱配大内存？
大佬们有啥想法吗 多买几台国补的mac mini redneck 发表于 2025-7-29 22:08
多买几台国补的mac mini
我看不是说exo框架其实性能一般吗yc002t :Q 垃圾佬的拼好卡：V100 16G
裸板咸鱼卖500 阿里云的其实也不贵 训练也合适
页:
[1]