购买建议
价格适中
价格适中
1400块,能跑125B的大模型? 不是段子。B站UP主「ZZ是画渣」用X99魔改板、E5-2673 V3、DDR3服务器内存和一张16G的Tesla P100,把Qwen3.8-Flash-Next的IQ3量化版跑到了平均30+ token/s、峰值50 token/s;知乎上的同款配置单把预算压到1500元以内,同样能跑到30+ token/s。哔哩哔哩知乎为什么一张老卡能塞下125B? 因为
10 月 21 日柏林 GTC 上,英伟达把一整套 AI 工厂装进了集装箱:场地准备好之后,从 6 个月缩短到最快 14 天就能开始跑训练和推理。跟它配套的那套液冷,进液温度最高 45 摄氏度,比浴缸里的水还烫,冷却用水却号称接近零。集装箱装的不只是服务器这次发布的是 DSX POD 参考设计:基于 Vera Rubin 系统的整套 AI 工厂被集成进模块化集装箱,系统集成和验证都在出厂前做完,运
快科技10月21日消息,英伟达在柏林GTC上发布了DSX Pod,简单说就是把一座完整的AI工厂在工厂里装进集装箱,运到场地接上电就能跑。主要矛头指向工期,按英伟达的说法,常规数据中心项目光是把机架、布线、管路、供电和冷却集成起来就要耗几个月,现场工人多、工序杂,任何一环卡住,整条线都得等。DSX Pod把这些活全搬回了工厂,布线、管路、机架集成乃至功能测试都在出厂前做完,到了场地只剩接电、接冷却
虽然芯片产能依旧有些许供不应求,但已不是制约AI算力发展的最大阻碍。如今,很多数据中心中,芯片有了,电力供应也充足,但集群却跑不满。中国信通院的数据显示,大规模分布式训练中,网络通信耗时占比高达30%到50%。换句话说,企业花大价钱买来的GPU,有将近一半的时间在等数据。华为副总裁王雷在2026中国互联网大会上说得更直接:当前国内Token实际流通效率仅60%,剩余40%因为丢包、时延抖动、数据损
已收藏
去我的收藏夹