豐富的Xeon 6產品組合
Intel Xeon 6性能核心處理器設計用於計算密集型工作負載,提供高度靈活的配置選項。核心計數從16到128不等,客戶可以為其特定應用程序選擇最佳配置。對於需要高速連接性和多核並行處理的傳統大型數據庫等工作負載,新的Xeon 6700/6500 Performance-Core處理器可在核心數,I/O帶寬和內存容量方面有了顯著改善。此外,他們現在支持四向和八向服務器配置,利用高速UPI互連以完全釋放多核性能,使其非常適合高性能數據庫應用程序。
像最高128個內核的Xeon 6900 Performance-Core處理器一樣,Xeon 6700/6500 Performance-Core處理器支持高達6400mt/s DDR5內存,8800mt/s mrdimm內存和64 CXL 2.0車道。CXL擴展內存使用戶可以以較低的成本擴展服務器內存容量。借助CXL 2.0技術,英特爾還提供了“平坦內存模式”功能,該功能自動移動存儲在CXL內存,平衡性能和容量中的熱數據和熱數據。
對於需要大規模存儲解決方案(SSD)和依靠內容傳遞網絡(CDN)提供流暢視頻體驗的企業,I/O連接至關重要。此外,AI服務器需要多個GPU連接,要求增強的CPU和平台I/O可伸縮性。Xeon 6700/6500 Performance-core處理器在單個插座平台上最多可支持136個PCIE車道,可提供可靠的可擴展性,以滿足高連接性需求。
數據中心頭節點
在現代AI系統中,GPU和CPU都扮演關鍵角色。Head Node CPU必須提供出色的I/O速度,功能強大的單線程性能以及高內存帶寬和容量,同時滿足可靠性,可用性和可用性(RAS)要求在大型系統中24/7操作。此外,對各種形式和配置的靈活支持對於優化數據中心空間利用率,提高冷卻效率以及適應各種工作量至關重要。
作為AI系統中的HEAD節點CPU,Xeon 6與GPU無縫配對,提供更快的I/O速度和提高的單核性能,以最大程度地發揮GPU潛力。在典型的雙插槽頭節點配置中,Xeon 6700性能核心處理器平台最多可提供172個CPU內核(344個線程),並具有16個DDR5高速內存通道(32個存儲器插槽)和176個PCIE 5.0泳道(其中128個可以為CXL 2.0 Lanes配置)。
強大的AI推理性能
對於AI推斷,Xeon 6處理器利用Intel Advanced矩陣擴展(AMX),可提供高達1.5倍的AI推理性能改善1,而核心更少。這一優勢使它們對於傳統的機器學習,小型生成AI模型和GPU加速工作負載非常有效。對於常規的AI應用程序,例如建議引擎,語音助手和圖像識別,Xeon 6提供了強大的計算支持。即使對於少於200億個參數的生成AI模型,Xeon 6仍會表現出令人印象深刻的性能。
此外,小語言模型的AI推斷不僅需要高計算能力來產生第一個令牌,而且還需要在整個推理過程中大量的內存帶寬。Xeon 6處理器是該行業第一個支持MRDIMM技術的行業,其超高記憶速度高達8800mt/s。借助MRDIMM技術,帶寬顯著增加,從而無縫執行小型LLM,傳統的深度學習和推薦系統。這釋放了Xeon 6性能核心處理器的全部潛力。