主题:预算$10000以内PC配置求推荐
正序浏览
主题图片汇总
主题内检索
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
用途是deep learning,预算上限10000美元。有以下几点考虑:
1、这个预算有点尴尬,买工作站不够。自己攒PC又有点多。所以,不必一定用满预算,合理即可。
2、用linux,不考虑apple
3、主板有点难选,不想用游戏主板,但是没有看到更好的选择,主要考虑是稳定可靠。
4、最好是128G内存,没有找到太合适的,单条64G的似乎没看到
5、考虑AMD的CPU,过去几年没用过Intel的CPU
6、不打游戏,显示器刷新频率没啥要求,4k32寸就好。兼顾处理图片。
7、存储也没有太多要求,不要求大容量。觉得2T或者4T nvme ssd就好
求推荐配置,谢谢!
tarus 编辑于 2024-05-14 13:31
相关标签: Apple
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
浏览:1006 回帖:32
游客没有回帖权限
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
duoduobear 发表于 2024-05-16 03:56
这里有现成的整机。可以参考这个配置。自己组应该价格更好点吧。$10000可以多加一个4090或者换成更大显存的计算卡。
当前$8899的配置:
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
子版版主
泡网分: 94.125
主题: 1029
帖子: 25887
注册: 2003年10月
内容贡献勋章
深入学习用途的GPU对比

登录后可直接显示原图
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
子版版主
泡网分: 94.125
主题: 1029
帖子: 25887
注册: 2003年10月
内容贡献勋章
这里有现成的整机。可以参考这个配置。自己组应该价格更好点吧。$10000可以多加一个4090或者换成更大显存的计算卡。

当前$8899的配置:

登录后可直接显示原图
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
资深泡菜
泡网分: 35.629
主题: 34
帖子: 6924
注册: 2004年8月
tarus 发表于 2024-05-15 12:45
请问为什么租更好?是更便宜还是这个预算买到的pc性能不胜任这个需求?


登录后可直接显示原图
比方两个A100这种配置,1万刀肯定是买不到的,但是租的话,1万刀可以租差不多240天了。如果是一个A100的配置,差不多可以租一整年。
假如项目几个月内就可以做完,就完全没有必要买一台服务器,租一个是更好的选择。
而且租来的A100,效率比4090更高,完成时间只会更快。
如果是长时间需要,那就还是买一台划算,毕竟几年后,硬件多少还能剩下点残值,这个帐只有自己能算明白。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广东省
泡菜
泡网分: 2.172
主题: 5
帖子: 2070
注册: 2020年5月
zoomer 发表于 2024-05-15 13:34
你有多少东西要跑?在现在的配置上要跑多久?租的话,一个是省的维护这坨基础的东西,二是可以调动更快更多的资源更快的拿到结果,三来这些平台很花钱,如果你要跑的东西不是24小时不停占用的话,那其实总投资是很贵的,而且过段时间自己搭的平台过时了岂不是又要投入...

实际上还是需要买一套放在本地

用最小数据集调试训练算法(包括多卡调度),帮助估算正式数据的机时
云GPU负责用真数据训练(速度和扩展性远不是DIY能比的)

训练完的网络,可以继续放在本地机器上做推理
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
上海
泡菜
泡网分: 5.792
主题: 164
帖子: 5421
注册: 2016年11月
众测俱乐部标识
4090非阉割版还能平价买到吗?
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
辽宁省
陈年泡菜
泡网分: 44.017
主题: 96
帖子: 7900
注册: 2002年6月
tarus 发表于 2024-05-15 12:45
请问为什么租更好?是更便宜还是这个预算买到的pc性能不胜任这个需求?

你有多少东西要跑?在现在的配置上要跑多久?租的话,一个是省的维护这坨基础的东西,二是可以调动更快更多的资源更快的拿到结果,三来这些平台很花钱,如果你要跑的东西不是24小时不停占用的话,那其实总投资是很贵的,而且过段时间自己搭的平台过时了岂不是又要投入?

要算下总账,租还是自己买更合算,更合理
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
云南省
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
zoomer 发表于 2024-05-15 11:54
这种真心建议走云GPU了,无非是在哪里租的事情。
本地处理图片视频,1W¥,最多2W¥的PC就很够用了,剩下的钱去租用云GPU。

请问为什么租更好?是更便宜还是这个预算买到的pc性能不胜任这个需求?
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
陈年泡菜
泡网分: 44.017
主题: 96
帖子: 7900
注册: 2002年6月
这种真心建议走云GPU了,无非是在哪里租的事情。

本地处理图片视频,1W¥,最多2W¥的PC就很够用了,剩下的钱去租用云GPU。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
云南省
老坛泡菜
泡网分: 44.617
主题: 21
帖子: 13197
注册: 2002年3月
Tery 发表于 2024-05-14 15:15
10000美金啊,这个给整不会了,除非上品牌机的工作站,不然很难花掉这么多

同不会,只能旁观了。
这辈子没接触过7万淫民币自己攒机的场景,真不会。
瞎掺和也是露怯,只能围观助威了。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
ChK
陈年泡菜
泡网分: 51.691
主题: 21
帖子: 12702
注册: 2003年1月
tarus 发表于 2024-05-15 09:06
医学图像,数据量会比较大
如果图片尺寸不大,只是数量多,那就是需要比较多的算力,如果单图尺寸大,就算做个简单的UNET模型,显存也是瓶颈,总之要自己摸一段时间才会有比较深的体会。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
ChK 发表于 2024-05-15 07:21
要看具体的应用和数据,比如我想训练个简单的分割模型来处理大图,显存就明显不够用,24g的卡也只能训练1000多点的素材,就算只做推理,也只能跑1600点左右的图。而我需要至少能对3000点以上的图做精确分割,差了四倍的数据量。

医学图像,数据量会比较大
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
泡菜
泡网分: 2.172
主题: 5
帖子: 2070
注册: 2020年5月
tarus 发表于 2024-05-15 04:52
这个似乎超预算啦

嗯,我也是随便举个例子,大概思路是这样的

先选 A 家的 U(一分钱一分货,没有绝对好坏)
- 线撕Pro支持全血的PCIe通道和8通道内存
- 服务器版霄龙主打超多核心但低主频
- 普通线撕PCIe通道和内存带宽都比Pro减半
- 普通锐龙PCIe通道和内存带宽和普通线撕一样,核心数上限16个

线撕 Pro:绝对性能
- 入门丐版不贵,设计和做工非常好
- 可以从DIY市场另外买内存SSD显卡扩充
- 缺点:线撕Pro没有零售,需要一次买到位(中配开始极贵)
- 线撕Pro 7000(DDR5):Lenovo P8, Dell 7875, HP Z6 G5 A
- 线撕Pro 5000(DDR4):Lenovo P620, Dell 7865, 超微 A+(估计明年能捡垃圾)

服务器版霄龙:性价比无敌
- 放地下室可保留服务器机架式机箱
- 普通家用有超大机箱加4x 4090 分体水
- 普遍进入捡垃圾模式,咸鱼满地
- 缺点:只有DDR4,而且CPU主频不高

普通线撕虽然能DIY,但节省有限
- 配足显卡之后恐怕会纠结,为何当初不上 Pro
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
上海
ChK
陈年泡菜
泡网分: 51.691
主题: 21
帖子: 12702
注册: 2003年1月
tarus 发表于 2024-05-14 23:07
tensorflow, cnn, rnn ......

要看具体的应用和数据,比如我想训练个简单的分割模型来处理大图,显存就明显不够用,24g的卡也只能训练1000多点的素材,就算只做推理,也只能跑1600点左右的图。而我需要至少能对3000点以上的图做精确分割,差了四倍的数据量。
发布自 安卓客户端
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
Trompette 发表于 2024-05-14 15:35
Lenovo Thinkstation P8 吧,颜值性能和散热设计无可挑剔。大头是CPU和显卡,你可先定个分配比例
全给CPU的话:7975wx(32核64线),16G,无显卡,512G SSD,1400W电源,8274刀
剩下加内存显卡SSD,基...

这个似乎超预算啦
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
ChK 发表于 2024-05-14 22:39
如果单卡够用就买大显存的单卡吧,大多数的模型其实对CPU的要求并不高,直接用普通PC的架构上DDR5高速内存就行了。总之,先评估需求再去找硬件,您这看起来都没有明确的需求

tensorflow, cnn, rnn ...
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
资深泡菜
泡网分: 41.453
主题: 57
帖子: 9317
注册: 2005年2月
ChK 发表于 2024-05-14 22:55
就算只需要高算力几乎也没法同时用两张4090做一个模型的训练,最多是并发同时训练两套模型。两卡之间用PCIE交换数据瓶颈限制太大了

.....你自己研究数据ML就行

自己的程序自己的数据源自己ML 可以调用很多个GPU
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
ChK
陈年泡菜
泡网分: 51.691
主题: 21
帖子: 12702
注册: 2003年1月
瞬间的震撼 发表于 2024-05-14 22:48
因为楼主没有说是什么软件什么环境Deep Learning
很多数据训练环境 是不需要高显存 但需要多算力的。这东西分很多个方向,情况不一样。
我以前训练过一些数据 不需要大显存 但需要一定算力 当年用的是2张1080Ti
就算只需要高算力几乎也没法同时用两张4090做一个模型的训练,最多是并发同时训练两套模型。两卡之间用PCIE交换数据瓶颈限制太大了
ChK 编辑于 2024-05-14 22:56
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
资深泡菜
泡网分: 41.453
主题: 57
帖子: 9317
注册: 2005年2月
ChK 发表于 2024-05-14 22:36
你这4090只能单张使用,买这么多只能提供多几个并发应用,对需要大显存的训练或应用并没有帮助啊

因为楼主没有说是什么软件什么环境Deep Learning

很多数据训练环境 是不需要高显存 但需要多算力的。这东西分很多个方向,情况不一样。

我以前训练过一些数据 不需要大显存 但需要一定算力 当年用的是2张1080Ti
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
ChK
陈年泡菜
泡网分: 51.691
主题: 21
帖子: 12702
注册: 2003年1月
tarus 发表于 2024-05-14 22:14
我也没用过多卡,没经验。就现有的需求似乎单卡够用
如果单卡够用就买大显存的单卡吧,大多数的模型其实对CPU的要求并不高,直接用普通PC的架构上DDR5高速内存就行了。总之,先评估需求再去找硬件,您这看起来都没有明确的需求
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
ChK
陈年泡菜
泡网分: 51.691
主题: 21
帖子: 12702
注册: 2003年1月
瞬间的震撼 发表于 2024-05-14 17:54
既然是Deep Learning用途,因为不知道运行于何种软件环境中 按当下主流的CUDA加速环境来配置
暂时也不清楚这个电脑是放在家中还是放在工作室环境中,姑且按照家用环境拟定了一个DeepLearning计算平台
CPU AMD EPYC 774...
你这4090只能单张使用,买这么多只能提供多几个并发应用,对需要大显存的训练或应用并没有帮助啊
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
北京
资深泡菜
泡网分: 41.453
主题: 57
帖子: 9317
注册: 2005年2月
tarus 发表于 2024-05-14 22:09
非常感谢!EPYC+supermicro这个很棒

我推荐的这配置挺好的,稳定性好 有一定计算力 适合家用 价格也合适

因为这套配置有3个GPU,功耗比较大,执行计算任务时需开空调降温。

很多服务器机箱和电源或者类似的准系统配置,噪音很大,放家里受不了,只能放机房或者单独给他准备一个房间/地下室之类。
这也是为什么没有给你推荐Supermicro的机箱电源以及类似的服务器准系统的原因。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
ChK 发表于 2024-05-14 15:15
这里好像没人讨论过多卡机的配置问题,你得先说说需求吧,单卡的显存够不够,比如A6000 48G,如果够,直接买一块插普通PC上最省事。
如果要96G,那就X宝找那些做二手的买4卡3090整机,这你预算肯定够。问题是4卡的组合可能软件配置会复杂一些,也...

我也没用过多卡,没经验。就现有的需求似乎单卡够用
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
泡菜
泡网分: 0.191
主题: 7
帖子: 121
注册: 2020年1月
瞬间的震撼 发表于 2024-05-14 17:54
既然是Deep Learning用途,因为不知道运行于何种软件环境中 按当下主流的CUDA加速环境来配置
暂时也不清楚这个电脑是放在家中还是放在工作室环境中,姑且按照家用环境拟定了一个DeepLearning计算平台
CPU AMD EPYC 774...

非常感谢!EPYC+supermicro这个很棒
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
资深泡菜
泡网分: 41.453
主题: 57
帖子: 9317
注册: 2005年2月
tarus 发表于 2024-05-14 13:17
用途是deep learning,预算上限10000美元。有以下几点考虑:
1、这个预算有点尴尬,买工作站不够。自己攒PC又有点多。所以,不必一定用满预算,合理即可。
2、用linux,不考虑apple
3、主板有点难选,不想用游戏主板,但是没有看到...


既然是Deep Learning用途,因为不知道运行于何种软件环境中 按当下主流的CUDA加速环境来配置
暂时也不清楚这个电脑是放在家中还是放在工作室环境中,姑且按照家用环境拟定了一个DeepLearning计算平台

CPU AMD EPYC 7742 64C128T  
主板 SuperMicro H12SSL-I服务器主板
内存 DDR4 64G ECC *8(最高支持2TB)
硬盘 Micro NVME SSD 2T
显卡GTX 4090 24G *3
电源 SeaSonic Prime 1600W
机箱 Lianli V3000 Plus

这个配置 整体技术较为成熟,按GPU性能优先 兼顾运行稳定性进行配置,散热方案为风冷。

因为主板PCI-E插槽布局,GTX4090要上三张,就买公版的卡,非公版散热器厚度比较厚 可能会有遮挡。

如果有自行安装调试水冷散热器的余力。可以上四张GTX4090,电源不用动。这个机箱空间大 而且安静 而且有一定的水冷安装空间  多GPU环境可以稳定长期运行。
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
美国
泡菜
泡网分: 57.067
主题: 84
帖子: 18624
注册: 2006年3月
内容贡献勋章
tarus 发表于 2024-05-14 13:17
用途是deep learning,预算上限10000美元。有以下几点考虑:
1、这个预算有点尴尬,买工作站不够。自己攒PC又有点多。所以,不必一定用满预算,合理即可。
2、用linux,不考虑apple
3、主板有点难选,不想用游戏主板,但是没有看到更好的选择,主要考虑是稳定可靠。
4、最好是128G内存,没有找到太合适的,单条64G的似乎没看到
5、考虑AMD的CPU,过去几年没用过Intel的CPU...


DIY 市场的话刚才说了华擎的 790 主板,其实阿索斯的价格也差不多,不过你要按摩店就不太清楚

btw. W790 不是 Z790,后者是电竞主板,前者是 DIY 工作站主板
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广西
泡菜
泡网分: 57.067
主题: 84
帖子: 18624
注册: 2006年3月
内容贡献勋章
Tery 发表于 2024-05-14 15:15
10000美金啊,这个给整不会了,除非上品牌机的工作站,不然很难花掉这么多

你就算买个华擎这种牌子的 790 主板都要一千刀,加上 32 核 4 代志强,楼主预算能去掉一半多 再把机箱电源内存硬盘啥的配上,剩下那点钱买个老黄的算力强点的 GPU 都够呛(790+Xeon 是举个荔枝,楼主要的貌似是按摩店)
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
广西
泡菜
泡网分: 2.172
主题: 5
帖子: 2070
注册: 2020年5月
如果Deep learning(训练),不是普通推理的话,直接买云GPU机时吧
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
上海
泡菜
泡网分: 2.172
主题: 5
帖子: 2070
注册: 2020年5月
Lenovo Thinkstation P8 吧,颜值性能和散热设计无可挑剔。大头是CPU和显卡,你可先定个分配比例

全给CPU的话:7975wx(32核64线),16G,无显卡,512G SSD,1400W电源,8274刀
剩下加内存显卡SSD,基本10000刀用完

其实我建议等AI PC形势明朗再说,后面CPU很可能集成NPU,就不怕被NV敲骨吸髓了
(0)
(0)
只看该作者
不看该作者
加入黑名单
举报
返回顶部
个人图文集
个人作品集
上海
回复主题: 预算$10000以内PC配置求推荐
功能受限
游客无回复权限,请登录后再试