在MLPerf v5.1基準(zhǔn)測(cè)試中，英特爾至強(qiáng)6處理器和銳炫Pro B系列GPU為工作站和邊緣系統(tǒng)提供強(qiáng)大、低延遲的AI推理能力。

近日，MLCommons公布最新的MLPerf推理v5.1基準(zhǔn)測(cè)試結(jié)果，英特爾提交了基于英特爾?至強(qiáng)? 6性能核處理器、英特爾?銳炫? Pro B60顯卡的GPU系統(tǒng)，及其代號(hào)Project Battlematrix（戰(zhàn)斗陣列）的推理工作站在六項(xiàng)關(guān)鍵測(cè)試中的結(jié)果。其中，Llama 8B的測(cè)試結(jié)果顯示，英特爾銳炫Pro B60顯卡展現(xiàn)出1.25-4倍于市場(chǎng)同類型產(chǎn)品的成本效益1。這些測(cè)試結(jié)果展現(xiàn)出英特爾產(chǎn)品組合兼具性能優(yōu)勢(shì)與易于部署性，能夠滿足高端工作站與邊緣應(yīng)用中各種新興的AI推理工作負(fù)載需求。

英特爾公司副總裁兼軟件、GPU與NPU IP事業(yè)部總經(jīng)理Lisa Pearce表示：“全新MLPerf測(cè)試結(jié)果充分展現(xiàn)了英特爾GPU與AI戰(zhàn)略的前瞻性。通過搭載全新優(yōu)化的推理軟件棧，英特爾銳炫Pro B系列GPU可以幫助開發(fā)者和企業(yè)以性能卓越、部署簡便、性價(jià)比高且可擴(kuò)展的推理工作站，輕松開發(fā)和部署AI應(yīng)用”。

在專業(yè)人士在選擇平臺(tái)時(shí)，通常會(huì)面臨一個(gè)挑戰(zhàn)：他們既需要高推理性能和大型語言模型（LLM）的部署能力，又不能犧牲數(shù)據(jù)隱私，還要避免高昂的專屬AI模型訂閱成本。因此，能滿足這些條件的平臺(tái)選擇非常有限。

而代號(hào)為“Project Battlematrix”的全新英特爾GPU系統(tǒng)，專為滿足現(xiàn)代AI推理需求而設(shè)計(jì)，并提供一個(gè)軟硬件全面驗(yàn)證的一體化推理平臺(tái)。

該系統(tǒng)意在通過專為Linux環(huán)境構(gòu)建的全新容器化解決方案，簡化部署流程。經(jīng)過優(yōu)化的方案，可提供領(lǐng)先的推理性能，不僅支持多GPU擴(kuò)展與PCIe P2P數(shù)據(jù)傳輸，而且集成了企業(yè)級(jí)的可靠性和可管理性功能，諸如ECC糾錯(cuò)、SRIOV虛擬化、遙測(cè)及遠(yuǎn)程固件更新等。

同時(shí)，CPU 在 AI 系統(tǒng)中繼續(xù)發(fā)揮著至關(guān)重要的作用。作為整個(gè)系統(tǒng)的協(xié)調(diào)中心，CPU 負(fù)責(zé)數(shù)據(jù)預(yù)處理、傳輸和整體系統(tǒng)調(diào)度。過去四年間，英特爾持續(xù)提升CPU運(yùn)行AI工作負(fù)載的性能，使英特爾至強(qiáng)處理器成為搭載和管理GPU驅(qū)動(dòng)AI工作負(fù)載的理想CPU。

英特爾仍是唯一向MLPerf提交CPU結(jié)果的服務(wù)器處理器供應(yīng)商，這充分展現(xiàn)了其在通用計(jì)算和專用加速器領(lǐng)域全面加速AI推理能力的領(lǐng)導(dǎo)力和決心。值得注意的是，與上一代相比，英特爾至強(qiáng) 6性能核處理器在此次MLPerf推理v5.1測(cè)試結(jié)果中，亦展現(xiàn)出1.9倍的性能提升。