全球主机交流论坛

标题: 有没有适合跑本地大语言模型的笔记本电脑 [打印本页]

作者: Cstudent 时间: 2025-11-11 00:04
标题: 有没有适合跑本地大语言模型的笔记本电脑
最近调岗去做AI项目,啥都不懂,想自学先部署大语言模型,求懂行的兄弟推荐

作者: Cstudent 时间: 2025-11-11 00:05
我自己研究了一下似乎这颗APU[AI Max+ 395]比较适合本地部署大语言模型
但是围绕这颗APU打造的笔记本我只找到rog幻x2025 太贵了要2万块有没有更加性价比高一点的推荐?

作者: Cstudent 时间: 2025-11-11 00:15
求老司机推荐

作者: Backfire 时间: 2025-11-11 00:23

看你跑多大的模型

作者: Cstudent 时间: 2025-11-11 00:42

Backfire 发表于 2025-11-11 00:23
看你跑多大的模型

70B及以下

作者: xy3666 时间: 2025-11-11 01:01

Cstudent 发表于 2025-11-11 00:42
70B及以下

你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建议2080 ti22g魔改卡2k多自己配台式机，跑ai应聘岗位一定要用nv，别用amd的apu

作者: Cstudent 时间: 2025-11-11 01:06

xy3666 发表于 2025-11-11 01:01
你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建 ...

我不需要训练模型我只是部署别人公司开源的大模型跑起来做做工作流什么的
我查了一下[AI Max+ 395]这个APU似乎很适合干这个支持96G显存

作者: hdwzk2 时间: 2025-11-11 08:07
7B和14B可以可以看看。70B还想用笔记本跑，算了吧

作者: ridden 时间: 2025-11-11 08:10
笔记本不适合跑大模型，配置再好的了不起能运行14b，那个效果基本不可用，

还是远程调用吧

作者: 小元姬 时间: 2025-11-11 08:23
目前个人跑大模型性价比最高设备之一的是Mac Studio M3 Ultra，512GB统一内存，最少也得要六七万
即使是稍低一点的256GB统一内存版本，也要四万起步
以你这个预算来看，要不去图吧问问？垃圾佬或许能满足这个需求

作者: azoth07 时间: 2025-11-11 10:01
所有4k120帧能跑3A的n卡笔记本，自己找吧

作者: kingground 时间: 2025-11-11 11:00
如果你的预算有限，就不要考虑大显存方案

我在amd 9700x + 4070 super 12G上跑过70b的模型，速度是慢，但也勉强能跑。你可以测试下纯CPU方案，只要CPU不差，内存够大，或许也能满足你的要求

作者: PA-fan 时间: 2025-11-11 11:03
ai 395max就是最适配你现在需求的吧，蹲券试试

作者: qingzhouyiye 时间: 2025-11-11 12:04
联想小新Pro 14 2025 ，可以自己装96G DDR5 内存，划分出来90G给核显用，可以跑70B模型了。

作者: Cstudent 时间: 2025-11-11 15:03

kingground 发表于 2025-11-11 11:00
如果你的预算有限，就不要考虑大显存方案

我在amd 9700x + 4070 super 12G上跑过70b的模型，速度是慢，但 ...

好的谢谢

作者: Cstudent 时间: 2025-11-11 15:05
我其实用不到cuda核心呀我理解我不训练模型我只是运行模型为啥推荐我买N卡笔记本

作者: 猫大人 时间: 2025-11-11 16:39
买个二手的mbp m2max 96G内存,共享显存,可以跑70b

作者: 苏东坡 时间: 2025-11-11 17:23
mac

作者: 羊村你喜哥 时间: 2025-11-11 17:31
上Mac Studio Ultra吧

欢迎光临全球主机交流论坛 (https://hostloc.gdisk.cf/)