企業(yè)數(shù)據(jù)存儲(chǔ)領(lǐng)域領(lǐng)導(dǎo)者 Solidigm正式揭幕其 AI 中央實(shí)驗(yàn)室。該實(shí)驗(yàn)室配備了專為多種AI工作負(fù)載量身打造的高性能、高密度的存儲(chǔ)測(cè)試集群。

這座先進(jìn)的 AI 中央實(shí)驗(yàn)室坐落于美國(guó)蘭喬科爾多瓦的 FarmGPU 設(shè)施內(nèi)，緊鄰 Solidigm 總部。在這里，Solidigm 能夠利用NVIDIA B200 和 H200 圖形處理器，運(yùn)行并研究真實(shí)的 AI 工作負(fù)載。這不僅為我們理解前沿存儲(chǔ)技術(shù)如何最大限度地提升集群效率，提供了獨(dú)到的見(jiàn)解，更讓 Solidigm 在 AI 生態(tài)系統(tǒng)中的重要合作伙伴，有機(jī)會(huì)在先進(jìn)的硬件平臺(tái)上充分開(kāi)展實(shí)驗(yàn)。

Solidigm AI生態(tài)系統(tǒng)與合作伙伴關(guān)系高級(jí)總監(jiān)Avi Shetty強(qiáng)調(diào)：“Solidigm AI 中央實(shí)驗(yàn)室將當(dāng)前強(qiáng)大的 GPU 與領(lǐng)先的存儲(chǔ)基礎(chǔ)設(shè)施融合，為客戶和開(kāi)發(fā)者社區(qū)開(kāi)啟了前所未有的測(cè)試與聯(lián)合創(chuàng)新篇章。Solidigm 希望這些能力可以惠及更多用戶，同時(shí)證明了存儲(chǔ)與 GPU 緊密集成的重要性與價(jià)值?！?/p>

該實(shí)驗(yàn)室在建設(shè)之初便秉持通用參考架構(gòu)理念，客戶可以在一個(gè)與全球大型數(shù)據(jù)中心保持一致標(biāo)準(zhǔn)的環(huán)境中，利用 Solidigm SSD測(cè)試其解決方案。此外，實(shí)驗(yàn)室還將大力推動(dòng)存儲(chǔ)研究，超越傳統(tǒng)的組件級(jí)測(cè)試范疇，更深層次地理解服務(wù)器、機(jī)架乃至集群層面的真實(shí)應(yīng)用場(chǎng)景。

Shetty 進(jìn)一步指出：“如今，僅僅進(jìn)行存儲(chǔ)測(cè)試已遠(yuǎn)遠(yuǎn)不夠。在AI 中央實(shí)驗(yàn)室，我們能夠運(yùn)行真實(shí)場(chǎng)景的AI 工作負(fù)載，并借助尖端遙測(cè)技術(shù)來(lái)優(yōu)化系統(tǒng)性能和效率，以便更深刻地理解新興工作負(fù)載對(duì)存儲(chǔ)的實(shí)際需求?！?/p>

AI中央實(shí)驗(yàn)室配備了最新的高性能計(jì)算硬件，包括：

●   高性能存儲(chǔ)測(cè)試集群：采用超高速Solidigm? D7-PS1010 SSD，在MLPerf存儲(chǔ)（AI模型訓(xùn)練）測(cè)試中達(dá)到了創(chuàng)紀(jì)錄的每節(jié)點(diǎn)116 GB/s吞吐量，可靈活擴(kuò)展至多個(gè)節(jié)點(diǎn)。

●   高密度存儲(chǔ)測(cè)試集群：配備了192塊Solidigm D5-P5336 SSD，每塊容量高達(dá)122TB，僅占用16U機(jī)架空間即可帶來(lái)23.6PB的總存儲(chǔ)容量。

●   其他配置：實(shí)驗(yàn)室還配備NVIDIA B200和H200 GPU、800 Gbps以太網(wǎng)絡(luò)以及領(lǐng)先供應(yīng)商的存儲(chǔ)服務(wù)器。Solidigm也在不斷擴(kuò)展和探索新技術(shù)。

實(shí)驗(yàn)室可供測(cè)試的工作負(fù)載包括：

●   AI特定及新興工作負(fù)載，例如真實(shí)場(chǎng)景下的GPU密集型的AI模型訓(xùn)練和推理，以及KV緩存卸載和VectorDB調(diào)優(yōu)等創(chuàng)新方法。

●   實(shí)驗(yàn)室能夠?qū)Σ煌渲眠M(jìn)行功耗基準(zhǔn)測(cè)試，從而開(kāi)發(fā)出能夠高效利用能源的架構(gòu)。

●   實(shí)驗(yàn)室可深入研究如何快速向價(jià)格高昂的GPU加速器傳輸數(shù)據(jù)，使其盡可能保持高負(fù)載狀態(tài)，最大限度釋放其算力。

●   AI 中央實(shí)驗(yàn)室所產(chǎn)生的數(shù)據(jù)，有助于將SSD的硬件規(guī)格，轉(zhuǎn)化為系統(tǒng)層級(jí)、與行業(yè)應(yīng)用緊密相關(guān)的 AI 效率指標(biāo)，例如每美元可處理的token和每瓦特可處理的token。

目前，該實(shí)驗(yàn)室已與多家機(jī)構(gòu)建立了合作。其中之一是，Solidigm 與 Metrum AI 的專家們攜手攻關(guān)，成功開(kāi)發(fā)出一種創(chuàng)新技術(shù)，能夠?qū)?AI 數(shù)據(jù)從內(nèi)存卸載至SSD，從而在使用 RAG（檢索增強(qiáng)生成）進(jìn)行推理時(shí)，將DRAM的使用量降低高達(dá) 57%。

與 FarmGPU 的合作也讓 Solidigm 得以持續(xù)助力其優(yōu)化 AI 基礎(chǔ)設(shè)施性能和效率。