
新年开始,焱融科技再次在存储性能领域得到打破。通过最新的实践室测试,焱融 AI 存储居品——焱融追光全闪存储一体机 F9000X,搭载 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡,并集会自主研发的 Multi-Channel 多网卡团聚技巧,已毕了 1.6Tb/s 的网罗带宽团聚。3 节点存储集群的测试截止涌现,性能达到 480GBps 带宽和 750 万 IOPS,相较市集同类居品提高了 3 倍。 这一打破性有缱绻不仅大幅提高了性能,还灵验裁减了企业的总领有资本:每 GB/s 资本减少 75%,每 IOPS 资本裁减 30%。焱融科技凭借业界顶级性能,为大鸿沟 AI 诡计提供了理思的存储惩处有缱绻,加速了 AGI 期间的全面到来。 AI 技巧发展催生活储性能升级 连年来,AI 技巧止境是生成式 AI 迎来了赶快发展的黄金时期,不竭刷新着能力范围。跟随而来的是不竭提高的对数据处理速率和恶果的条件,这也在引发一场新的存储技巧改进,对存储性能的条件不竭提高。 AI 模子复杂度不竭提高,存储性能需求攀升 跟着生成式 AI 技巧的捏续创新,基础大模子已迈入多模态期间,模子参数和诡计复杂度均呈指数级增长。这种发展权臣提高了对存储带宽、容量和诡计性能的条件。此外,跟着模子鸿沟和查考精度的不竭提高,Checkpoint 也变得更大,进一步加重了对存储微辞量的压力。如若存储性能无法匹配模子的复杂度,所有 AI 查考链条将因“存储瓶颈”而受阻,影响模子迭代的恶果。 而在模子推理要领,更大的数据量、更浩荡的模子,以及更长的凹凸文窗口大略权臣提高东谈主工智能的效率。但是,推理经由需要搪塞大批并发央求且对反馈时期条件极高。同期,AI 模子粗拙更新和快速部署的需求也在不竭加多。这使得存储系统必须具备低延长和高微辞量,以应允不竭增长的应用需求。 算力资源紧缺,GPU 哄骗率提高需求伏击 AI 技巧的发展激动了算力需求的急剧增长,GPU 等算力资源供需矛盾隆起。跟着模子参数和复杂度的提高,模子查考所需的 GPU 算力也随之加多,现在最高已扩张到万卡乃至十万卡鸿沟的大型 AI 算力集群。但现存基础设施在算力资源的可用性和优化方面仍存在诸多挑战。粗拙的 CheckPoint 数据写入和断点续训形成算力资源闲置,算力集群的哄骗率偏低,加多了查考时期和诡计资本。 在这种情况下,若大略将 GPU 哄骗率提高,就特别于加多了特别算力,从而能在更短的时期内完成更多的诡计任务,裁减模子查考的时期资本和经济资本。而提高 GPU 哄骗率的环节之一即是存储性能的升级。通过提高数据加载恶果、加速断点续训速率,权臣减少查考经由中的恭候时期,提高算力资源的使用恶果。 焱融存储全面引发大鸿沟 AI 诡计集群效率开释 动作国内专注于 AI 存储领域的跳跃存储惩处有缱绻提供商,焱融科技针对日益复杂的 AI 模子查考和推理需求,不竭进行存储技巧创新,捏续带来存储性能打破,以应允不竭提高的 AI 诡计需求。这次,焱融科技推出的 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡的存储有缱绻,依托于焱融追光全闪存储一体机 F9000X,通过公司自主研发的 Multi-Channel 多网卡团聚技巧,提供 1.6Tb/s 网罗带宽接入能力,完好意思适配 PCIe 5.0 NVMe 闪存,大幅提高数据考核速率和处理恶果,开释 AI 算力的全新潜能。 焱融全闪 F9000X 3节点存储集群带宽性能对比 上图展示了焱融全闪散布式文献存储 F9000X 分离搭载 2 张和 4 张 NVIDIA 400Gbps NDR InfiniBand 网卡的 3 节点存储集群的实测性能。不错看到,秉承 4 张 InfiniBand 400Gbps 网卡的焱融全闪 F9000X 存储有缱绻,3 节点存储集群的带宽性能达到了 480GBps, 相较于 2 卡有缱绻性能提高了近 80%,比较市集同类居品质能提高 3 倍;同期,其 IOPS 性能也达到了 750 万,保捏业界跳跃水平。 在性能大幅提高的同期,用户的资本效益也得到了权臣优化,年省算力资本达到千万级。每 GB/s 的资本裁减了 75%,每 IOPS 的资本裁减了 30%。这一资本上风意味着,企业在享受高性能存储带来的业务恶果和竞争力提高的同期,还大略灵验裁减总体领有资本,是大鸿沟 AI 诡计场景下的理思全闪存储惩处有缱绻。 先进的 AI 存储需紧要跟技巧发展的顺序,应允日益增长的诡计需求,提高用户体验。继在海外巨擘 AI 测评舞台 MLPerf Storage 中崭露头角后开云体育(中国)官方网站,焱融全闪 F9000X 再次已毕性能飞跃。这不仅再次彰显了焱融科技在 AI 高性能存储领域的跳跃地位,也为行业设立了新的标杆,为不竭迭代的大鸿沟 AI 模子查考和推理等种种复杂诡计任务提供强有劲的支捏。面向改日,焱融科技将陆续深耕 AI 存储技巧创新,捏续提供跳跃的 AI 存储居品,为 AI 大模子、智算中心、自动驾驶、生信分析、金融量化等领域提供更刚劲的数据存储基座,激动这些领域的捏续发展和创新。
|