硬盘涨上天 闪存贵如金

爱特百科 百科资讯 2

TomsHardware的编辑测算了PCIe 4.0/5.0 NVMe固态盘的净重均值(显然,仅针对无散热片型号),在记录了超过一百个样本后得出结论:8TB M2固态盘均重8.2克,4TB均重8克——双面贴片高容量盘并未显著增重。

由于8TB固态盘的售价不成比例地较4TB型号贵上不少,每根均价高达1476美元,按每克价值计算已超过黄金(184美元 vs 148美元)。即便是4TB型号,某些牌号的NVMe SSD也接近8克黄金的价值(1184美元),比如企业盘,每克价值贵过黄金毋庸置疑。

硬盘涨上天 闪存贵如金

(昔日所谓金盘如今绝非戏言)

TomsHardware的编辑指出,目前大部分消费级4TB SSD的价位不到800美元,克重计价低于金价——不如黄金那般金贵,但售价较前两年则翻了一番不止。

许多人不明白为何闪存(Flash)也会搭上AI顺风车价格一路狂飙,最流行的说法是厂商扩产内存(RAM)挤占了闪存产线,实际上这个说法并不准确。

以群联aiDAPTIV+技术为代表的AI计算加速平台使用闪存作为辅助内存池,可有效缓解GPU VRAM不足导致的效率损失。

经研究人员测算,DGX Spark用于推理时TTFT(首个token生成时间)约为40 秒,使用aiDAPTIV后降为9 秒;Strix Halo的TTFT用时36秒,使用aiDAPTIV降为6 秒。

在模型训练场景下,NVIDIA平台会将所有内容加载至GPU内存,比如70B参数的LLM需要20x70B=1.4TB显存,需动用18块H100或10块H200/8块B200/5块B300,用上aiDAPTIV技术后,训练被分解为多个部分,16GB显存就能跑,性能损失只有10%左右。

(主控厂商)群联电子曾演示过一个更极端的例子,只使用两块RTX Pro 6000进行Llama 3.1 405B模型训练,硬件部分仅仅是192GB显存配8TB aiDAPTIV SSD缓存池,硬件成本在5万美元左右。

如果不用SSD缓存池,把显存扩充至8TB要买一大堆NVIDIA AI卡,硬件成本接近400万美元。

aiDAPTIV的代价是……写入量极大,SSD必须配置为SLC模式——按8TB SLC等于32TB TLC来算,闪存产线都忙不过来了!全行业普遍供不应求,缺口在15%-20%左右。

标准aiDAPTIV SSD的额定寿命是100DWPD,而2TB消费级SSD的寿命大概是0.3DWPD(用于aiDAPTIV只能坚持一个星期),从这个角度看,aiDAPTIV缓存池里的SSD等同于耗材,进一步加剧了供应短缺局面。

由于扩建闪存工厂需要两年时间,即便厂商现在就扩产,产能要到2028年方可释放。前两年闪存价格持续走低,没有厂家愿意投资扩产,导致如今供不应求局面难以缓解。

硬盘市场同理,数据中心遍地开花,对大容量企业级硬盘的需求也水涨船高,但硬盘厂商这几年一直抱残守缺,根本没有扩产的念头,只有苦了松鼠党。硬盘价格平均上涨46%,容量越大上涨越厉害——希捷24TB酷鱼曾低至239美元,如今现货要卖499美元,很多电商平台还缺货。

抱歉,评论功能暂时关闭!