大模型技術(shù)創(chuàng)新加速,落地到廣泛應(yīng)用場(chǎng)景中,都需要推理算力的支撐。作為驅(qū)動(dòng)AI向前的“三駕馬車(chē)”之一,算力是AI大模型訓(xùn)練的基礎(chǔ),并加速了整個(gè)人工智能算法的訓(xùn)練和推理過(guò)程。
智微智能致力于應(yīng)用最新的技術(shù),并推出了一系列AI超算服務(wù)器,包括4U10卡、5U8卡、4U4卡、2U7卡等豐富的產(chǎn)品線,旨在滿(mǎn)足訓(xùn)練和推理的指數(shù)級(jí)需求增長(zhǎng),并幫助客戶(hù)解決平衡算力與能耗開(kāi)支,并高效地利用和管理算力資源,釋放更大的價(jià)值。
大模型和AI集群服務(wù)器推薦
模型訓(xùn)練完成后,推理算力需求呈指數(shù)級(jí)增長(zhǎng),推理屬于訪存密集型任務(wù),尤其側(cè)重更低的延遲,因此需要強(qiáng)大的計(jì)算芯片和高速的內(nèi)存訪問(wèn)技術(shù)。智微智能4U機(jī)架式SYS-60415WG 和5U機(jī)架式SYS-8043系列,可用于智算中心,在分布式訓(xùn)練等場(chǎng)景下,支持AI集群訓(xùn)練,高性能算力集群及調(diào)度讓用戶(hù)能夠?qū)崿F(xiàn)算力、存儲(chǔ)力、運(yùn)力協(xié)同感知,實(shí)現(xiàn)算力資源充分供給、靈活部署、異構(gòu)算力最優(yōu)調(diào)度,讓企業(yè)用好算力資源。
4U機(jī)架式SYS-60415WG AI服務(wù)器,基于Intel高性能服務(wù)器W790芯片組,支持Sapphire Rapids系列W3400 Processor系列處理器,性能提升顯著,最大支持10張全高全長(zhǎng)雙寬度的專(zhuān)業(yè)圖形卡或加速卡,最高可支持12塊3.5英寸熱插拔硬盤(pán),內(nèi)存容量及讀寫(xiě)速度也有顯著增強(qiáng),為用戶(hù)提大規(guī)模數(shù)據(jù)處理能力和復(fù)雜的計(jì)算任務(wù)處理能力。
5U機(jī)架式SYS-8043系列服務(wù)器,擁有INTEL(支持2顆Intel Xeon 3rd可擴(kuò)展處理器)和AMD(7002/7003 EPYC處理器)兩個(gè)平臺(tái)產(chǎn)品,支持8張全高全長(zhǎng)雙寬的專(zhuān)業(yè)圖形卡或AI加速卡,提供更具性?xún)r(jià)比的推理平臺(tái),保障推理高效準(zhǔn)確的同時(shí)助力用戶(hù)降本增效。支持前置2塊2.5寸SAS/SATA硬盤(pán)(可擴(kuò)展一個(gè)硬盤(pán)籠,支持1xU.2),內(nèi)置2塊M.2 NVME可提供多種數(shù)據(jù)存儲(chǔ)解決方案。豐富的I/O接口,為用戶(hù)各行業(yè)推理的多種應(yīng)用提供豐富的選配支持。
訓(xùn)算一體服務(wù)器推薦
4U4卡和2U7卡系列AI算力服務(wù)器為訓(xùn)練和推理任務(wù)提供高性能計(jì)算和存儲(chǔ)能力,以及卓越的并行處理能力。是部署在邊緣側(cè),進(jìn)行AI推理任務(wù)的最佳選擇。
4U機(jī)架式4卡系列包含SYS-60415WG-4、SYS-8049RG-4和SYS-80413RG-4三款型號(hào),提供強(qiáng)大的計(jì)算能力,打造推理平臺(tái)新標(biāo)桿。
SYS-60415W基于Intel高性能工作站W(wǎng)790芯片組,采用Sapphire Rapids系列W2400 Processor 64L和W3400 Processor 112L處理器的單路高性能GPU服務(wù)器,可以支持最多4塊雙寬度GPU計(jì)算卡和12塊3.5英寸熱插拔硬盤(pán)。
SYS-8049RG-4高性能雙路4U服務(wù)器采用Intel C621高性能服務(wù)器芯片組,基于英特爾至強(qiáng) 1/2代可擴(kuò)展系列處理器。支持4張標(biāo)準(zhǔn)雙槽GPU卡,外置8個(gè)3.5英寸6G SATAIII熱插拔硬盤(pán)插槽,內(nèi)置2個(gè)3.5/2.5英寸6G SATAIII硬盤(pán)插槽,為企業(yè)應(yīng)用提供多種存儲(chǔ)解決方案。
SYS-60413RG-4是基于Intel高性能服務(wù)器C621A芯片組的單路高性能超算服務(wù)器,支持英特爾至強(qiáng)第三代可擴(kuò)展系列處理器和英特爾至強(qiáng)W-3300系列處理器;可支持最多4塊雙寬度GPU計(jì)算卡,適用于復(fù)雜神經(jīng)網(wǎng)絡(luò)的訓(xùn)練需求,最大支持12塊3.5英寸熱插拔硬盤(pán)。
2U機(jī)架式7卡系列包括SYS-60215W-E和SYS-60213R-E,分別基于Intel W790芯片組和Intel C621A芯片組設(shè)計(jì),可支持最多7塊半高半長(zhǎng)GPU卡。高算力支持可大規(guī)模用于端側(cè)的數(shù)據(jù)處理與推理,確保高效的實(shí)時(shí)數(shù)據(jù)處理。2U高度可在空間有限的場(chǎng)景中使用,并在擴(kuò)展性和計(jì)算性能方面都有很大的提升。
夯實(shí)AI底座
垂直應(yīng)用場(chǎng)景正在不斷豐富和擴(kuò)展,持續(xù)精進(jìn)算法、優(yōu)化推理算力,將是產(chǎn)業(yè)的重點(diǎn)突破點(diǎn)。作為AI算力提供商,智微智能將持續(xù)加大AI算力服務(wù)器產(chǎn)品線的投入,發(fā)揮自身技術(shù)和產(chǎn)業(yè)優(yōu)勢(shì),為產(chǎn)業(yè)提供更豐富的高品質(zhì)、更具性?xún)r(jià)比的算力解決方案,攜手產(chǎn)業(yè)鏈更廣泛的生態(tài)伙伴,夯實(shí)AI底座,助力千模萬(wàn)態(tài)落地千行萬(wàn)業(yè),加速AI的落地和發(fā)展。