继客岁9月重磅推出英特尔® 至强® 6900机能核处置器后,英特尔进一步裁减至强6产物家属,于近期宣布了包含至强6700机能核处置器及至强6500机能核处置器在内的多款新品,以更丰盛的产物组合、出色机能与杰出能效,应答高出数据核心、收集与边沿的普遍任务负载需要。本文援用地点:丰盛的至强6产物组合英特尔至强6机能核处置器专为盘算麋集型任务负载而计划,供给高度机动的设置选项。从最低16个中心到最高128个中心,客户可依据现实利用抉择最佳设置。针对传统年夜型数据库等对衔接速率跟多核并行处置才能有较高请求的场景,全新至强6700/6500机能核处置器不只在中心数目、I/O带宽跟内存容量上带来了明显晋升,还新增了对四路跟八路效劳器运转的支撑,经由过程高速UPI互联,充足开释多核机能,更好地满意客户对高机能数据库利用的需要。
与最高装备128个中心的至强6900机能核处置器一样,至强6700/6500机能核处置器也支撑高达6400MT/s的DDR5内存、8800MT/s的MRDIMM内存跟64条CXL 2.0通道,CXL扩大内存让用户能365bet亚洲体育以更低的本钱拓展效劳器的内存空间。经由过程CXL 2.0技巧,英特尔还供给了“Flat Memory Mode”功效,能够主动切换热数据跟存储在CXL内存上的温数据,实现机能跟容量之间的均衡。对须要年夜范围存储处理计划(SSD)的企业,以及依附内容散发收集(CDN)供给流利视频休会的平台,I/O衔接才能十分主要。别的,AI效劳器须要衔接多个GPU,也对CPU跟平pg电子麻将胡了免费版台的I/O扩大性提出了更高请求。至强6700/6500机能核处置器支撑多达136条PCIe通道的单插槽平台,供给强盛的可扩大性,满意了对高衔接性的需要。数据核心的机头节点在古代AI体系中,GPU与CPU都施展着十分主要的感化。机头节点CPU不只须要具有出色的 I/O 速率、强盛的单线程机能以及高内存带宽跟容量,还须要满意年夜型体系全天候运转所必须的牢靠性、可用性的可保护性( RAS)需要。别的,机动支撑种种差别的形状跟设置,对优化数据核心的空间应用率、晋升散热效力、以及顺应多样化的任务负载也很主要。
作为AI体系的机头节点CPU,至强6可与GPU搭配,经由过程供给更快的I/O速率跟更好的单核机能,充足施展GPU的潜力。在典范的双路CPU机头节点设置下,至强6700机能核处置器平台最高可供给172个CPU中心(344线程),并装备16个DDR5高速内存通道(32个内存插槽)、176条PCIe 5.0链路(此中128条可设置为CXL 2.0链路)。强盛的AI推感性能在AI推理方面,至强6处置器凭仗内置的AI减速引擎AMX(英特尔高等矩阵扩大)的杰出才能,能够让体系以更少的中心,获取高达1.5倍的AI推感性能晋升1。这一上风使其在传统呆板进修、小型天生式AI模子跟GPU减速任务负载中表示杰出。对传统的AI利用,如推举引擎、语音皇冠真人官方网站助手、图像辨认等,至强6能够供给强盛的盘算支撑。即便面临参数小于20B的小型天生式AI模子,至强6仍然能展示杰出的机能。别的,对小型言语模子的AI推理来说,不只在天生首个Token时须要高强度盘算,后续推理进程同样对内存带宽有着极高的请求。至强6处置器率先在业界支撑MRDIMM技巧,供给高达8800MT/s的超高速内存。在MRDIMM技巧的加持下,带宽实现倍增,使得小型LLM、传统深度进修跟推举体系等AI任务负载可能在至强平台下流畅运转,极年夜开释了至强6机能核处置器的潜力。