Este é o 2U4

Jan 17, 2024

Na Computex 2023, vimos um servidor NVIDIA Grace Superchip 2U de 4 nós da ASUS. Apelidado de ASUS RS720QN-E11-RS24U, ele combina o chassi 2U de 2,5 ″ de 24 baias que vimos em várias análises da ASUS com quatro nós NVIDIA Grace Superchip.

Algo interessante é que o módulo NVIDIA Grace Superchip parece impressionante, mas não é o que estamos vendo sendo implantado em muitos servidores. Ainda assim, aqui está o módulo em sua pele de beleza.

Como uma atualização rápida, uma CPU NVIDIA Grace é um design Arm Neoverse V2 de 72 núcleos. A NVIDIA diz que dois desses processadores de 72 núcleos na configuração chamada "Grace Superchip" devem obter um SPECint_rate_2017 de cerca de 740. Esse é um número estimado, pois não são resultados oficialmente enviados. Algumas publicações disseram que esta solução de chip duplo com 144 núcleos é a CPU mais rápida (ou configuração de CPU dupla) existente. ASUS com um único AMD EPYC 9654 está em 898 aqui como exemplo. Dados os números estimados da NVIDIA, a solução dual Grace deve ser competitiva com AMD EPYC "Genoa" de soquete único de 84-96 núcleos no lado inteiro.

O que esta solução tem é uma interconexão chip-a-chip de alta velocidade, bem como memória LPDDR5X com ECC integrado.

Em 500 W, com memória incluída nessa figura, é bastante eficiente em termos de energia. Esse AMD EPYC 9654 possui um TDP de 360 ​​W, mas também possui 12 canais de memória que podem usar outros 60 W +. O que a NVIDIA obtém com isso, no entanto, são 960 GB de memória ECC com cerca de 1 TB/s de largura de banda de memória. Portanto, o NVIDIA Grace Superchip foi realmente projetado para alta largura de banda de memória sem usar memória HBM como a CPU Intel Xeon MAX.

Como esta é nossa primeira peça em um sistema com o NVIDIA Grace Superchip, queríamos esclarecer um pouco sobre os chips desde que a NVIDIA se tornou popular e os sites de consumidores estão dizendo que este é o chip mais rápido sem explicar como ele é o mais rápido.

Aqui estão as especificações rápidas do ASUS RS720QN-E11-RS24U. Algo interessante é que a ASUS diz LPDDR5 em 512G/ 256G. Os módulos estão programados para entrar com LPDDR5X em configurações de 240 GB, 480 GB e 960 GB (com ECC).

O sistema se parece com a maioria dos nós ASUS, com I/O traseiro e gerenciamento. Uma grande diferença é que não obtemos o LED do código POST aqui.

Dentro do sistema, temos dois slots PCIe Gen5, bem como um slot OCP NIC 3.0. Também podemos ver o ASPEED BMC a bordo.

O NVIDIA Grace Superchip possui um enorme dissipador de calor personalizado para o chassi e percorre toda a largura do nó. Na verdade, esse é um grande diferencial em relação aos servidores x86 atuais, onde os dissipadores de calor são limitados à área ao redor do soquete dos slots DIMM. De uma perspectiva refrescante, Grace faz muito sentido.

Outro recurso interessante é que, além das seis baias frontais de 2,5″ por nó, há um módulo M.2 duplo para unidades de inicialização.

O nó se conecta ao chassi por meio de conectores de alta densidade.

Não vamos nos concentrar muito no chassi, já que é algo que vimos antes.

No geral, foi ótimo ver o sistema NVIDIA Grace Superchip pessoalmente. A memória LPDDR5X integrada oferece a esta solução muita largura de banda de memória junto com os 144 núcleos Arm Neoverse V2. O que provavelmente subestimamos antes de ver os sistemas é o quanto ter memória integrada muda como as soluções de resfriamento podem ser criadas para esses servidores, uma vez que eles não precisam levar em consideração a altura dos slots DIMM.

Esperamos ver mais desses sistemas no laboratório STH em breve.