有没有适合跑本地大语言模型的笔记本电脑

Cstudent · 发表于前天 00:04

最近调岗去做AI项目,啥都不懂,想自学先部署大语言模型,求懂行的兄弟推荐

ridden · 发表于前天 08:10

笔记本不适合跑大模型，配置再好的了不起能运行14b，那个效果基本不可用，

还是远程调用吧

Cstudent · 发表于前天 00:05

我自己研究了一下似乎这颗APU[AI Max+ 395]比较适合本地部署大语言模型
但是围绕这颗APU打造的笔记本我只找到rog幻x2025 太贵了要2万块有没有更加性价比高一点的推荐?

Cstudent · 发表于前天 00:15

求老司机推荐

Backfire · 发表于前天 00:23

看你跑多大的模型

Cstudent · 发表于前天 00:42

Backfire 发表于 2025-11-11 00:23
看你跑多大的模型

70B及以下

xy3666 · 发表于前天 01:01

Cstudent 发表于 2025-11-11 00:42
70B及以下

你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建议2080 ti22g魔改卡2k多自己配台式机，跑ai应聘岗位一定要用nv，别用amd的apu

Cstudent · 发表于前天 01:06

xy3666 发表于 2025-11-11 01:01
你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建 ...

我不需要训练模型我只是部署别人公司开源的大模型跑起来做做工作流什么的
我查了一下[AI Max+ 395]这个APU似乎很适合干这个支持96G显存

hdwzk2 · 发表于前天 08:07

7B和14B可以可以看看。70B还想用笔记本跑，算了吧

小元姬 · 发表于前天 08:23

目前个人跑大模型性价比最高设备之一的是Mac Studio M3 Ultra，512GB统一内存，最少也得要六七万
即使是稍低一点的256GB统一内存版本，也要四万起步
以你这个预算来看，要不去图吧问问？垃圾佬或许能满足这个需求

		自动登录	找回密码
密码			注册

[疑问] 有没有适合跑本地大语言模型的笔记本电脑