日本电子维修技术 显卡实验室要弄一台新的服务器做深度学习,g
预算10w
要求4张显卡(目前想用RTX 2080Ti)
CPU核心数目至少8(目前想LGA2066)
64-128RAM
1-5T disk
比较纠结的事GPU怎么选,2080Ti适合Deep learning么,4张Titan V又超过预算了
评论
如果20系能干专业活还要Quadro干啥?肯定驱动锁死。
评论
主要是预算问题…… Quadro的物理规格还是不如同价位的GTX/RTX
评论
the more you buy the more you save4个titan volta走起
评论
现在好像买不到32G的titan V吧
所以还是quadro走起
评论
Quadro的话…… 4*P5000会比4*2080Ti好么
就目前实验室1080Ti和M4000相比,相同的训练花费时间M4000要用1080Ti的2.5倍,所以感觉略纠结
评论
同样价格的quadro肯定不会比geforce好。。。
但如果要超大显存,只有quadro。。。
评论
买个二手矿机不就行了。。。。
评论
非常适合,但有些问题。现在在外面回去跟你详细讨论。我遇到一样的问题。
评论
才1t的数据要那么大算力?
评论
搬个小板凳坐好,很好奇2080Ti算起这些玩意来是个啥效果
评论
就一句:目前不带nvlink交换机芯片,没法做多卡nvlink互联
我的意见还是RTX专业卡两张。
另外就我对大学实验室一贯尿性的了解,你弄一套特别好的,不如三台一般的,要一起用分布式训练便是。参考:
https://www.tensorflow.org/deploy/distributed
评论
问题是dl很吃内存
评论
性价比肯定 2080ti.
5张RTX80ti 价钱才刚好凑够一张RTX6000
4张R80ti 显存叠加也够44G,R6000才24G
期待评测对比
评论
赞成,不过10w拿来做两套dl的差不多。
评论
2080ti不是有tensorcore 肯定可以 可以对比一下titan V
评论
每台机器单卡2080ti+9900k+64G内存,三套应该差不多,不过没有外扩显卡的能力了;
RTX5000的话则只能2套
评论
谢谢~框架一般我们也用tensorflow哈哈哈
评论
嗯呐,关键4张卡和2张卡的显存算起来是差不多的……上面预算给的紧就很难受
评论
其实最大好处是,如果你之后还有其他人做,三台电脑,你们不会互相抢
评论
深度学习机器至少要64G内存的,不然随便用用就没了。cpu一般不是瓶颈,我写的程序只用4个核就够了,所有计算都放在显卡上
评论
老板说是什么就是什么了
如果你自己是新手老板,看学校有什么合作伙伴
如果不是学校,看公司的章程,问IT部门
评论
取决于是否需要11GB以上的显存,需要的话只能买Quadro
Titan V支持FP16,如果能用上的话还行,用不上就尴尬了
另外可能还需要双电源,4张卡预留1200W
评论
nv控制消费级的显存大小,是为了有深度学习需求的公款消费者去买专业卡,看看aws上的p2, p3显存多大
评论
1,不推荐买titan v,titan v是用于通用科学计算,而非单一类别的科学计算。特别是深度学习用不上的fp64单元大量占用晶体管。
2,不推荐买不带tensor core的显卡,目前很多框架已经支持无缝tensor core调用了,不需要以前那种繁琐的编程,需要自己算tile展开之类,以后tensor core的利用率会越来越高。
3,不推荐买无法nvlink统一寻址的显卡。这也是拒绝titan v的原因,不支持nvlink统一寻址的话,跨gpu访问将会面对极高的延迟,基本上别用了,亲测。这其实是一种劣等的分布式设计。
所以,根据上面的描述,所有volta架构前的显卡全部否决。然后根据上面的描述,titan v否决,除非你能搞到volta ceo版,他有32GB显存。v100不是预算内能买到的。
那么可选的只有quadro rtx系列和rtx 20系。
不推荐quadro rtx系列的原因当然一个是价格,你的预算只买得起5000,sp性能可能只跟2070差不多(我没具体了解)。第二,如果铁了心花高价买quadro rtx,不如等真正的图灵计算卡(如果有的话)或post图灵计算卡。
rtx 2080ti基本上是唯一的选择,rtx的sp与tensor core性能是非常值得一看的,标称已经接近titan v,而且超频能力据称比titan v强,另外它还有多倍int能力,推理性能强到爆表了(当然实验室未必会用到极限推理能力,刷paper当然需要数据好看,除了专门做模型压缩降维或推理性能优化的)。
当然它有些限制,比如它的nvlink只能连两张卡,所以如果买4张,你需要组两组,这种奇葩的非对称结构可能需要自己调整分布式的代码吧。
最大的担心当然是老黄在软件上封锁rtx 2080ti的深度学习能力,或封锁虽然可怜但很有用的1way nvlink,虽然可能性很低。不过等卡发售了马上就知道了。
评论
Tesla T4的ppt上有一项提到Tensor Core 混合精度,应该是支持FP16了
老黄要砍一刀很可能在这里下手,只限制显存容量似乎太良心了
评论
十分感谢
评论
干货满满,感谢分享~❤
评论
硬件上都是支持的,T4主要还是推理卡。
评论
行家啊!兄弟论坛应该有打赏机制 这个答案是值钱的
评论
才发现这个成年老帖了
评论
多卡得买涡轮散热的吧? 电路 电子 维修 求创维42c08RD电路图 评论 电视的图纸很少见 评论 电视的图纸很少见 评论 创维的图纸你要说 版号,不然无能为力 评论 板号5800-p42ALM-0050 168P-P42CLM-01 电路 电子 维修 我现在把定影部分拆出来了。想换下滚,因为卡纸。但是我发现灯管挡住了。拆不了。不会拆。论坛里的高手拆解过吗? 评论 认真看,认真瞧。果然有收
·日本中文新闻 唐田绘里香为新剧《极恶女王》剃光头 展现演员决心
·日本中文新闻 真子小室夫妇新居引发隐私担忧
·日本中文新闻 前AKB48成员柏木由纪与搞笑艺人交往曝光
·日本学校 {日本国际学校}梅田インターナショナルスクール
·日本学校 LINE:sm287 陳雨菲、20歳、台湾からの留学生、東京に来たばかり
·日本留学生活 出售平成22年走行48000km 代步小车
·日本华人网络交流 円相場 一時1ドル=140円台まで上昇?
·日本华人网络交流 问日本华人一个问题
·日本旅游代购 富山接机
·生活百科 英国转澳大利亚转换插头
·汽车 【求助】修车遇到困难怎么办?