NVIDIA Grace CPU

A solução dos maiores problemas de IA e HPC requer memória de alta capacidade e alta largura de banda (HBM). O NVIDIA NVLink-C2C oferece 900GB/s de largura de banda bidirecional entre a CPU NVIDIA Grace e as GPUs NVIDIA. A conexão fornece um espaço de endereço de memória unificado e coerente com cache que combina memória de GPU HBM e do sistema para uma programação simplificada. Essa conexão coerente e de alta largura de banda entre CPU e GPUs é fundamental para acelerar soluções para os problemas mais complexos do futuro.

A NVIDIA Grace é a primeira CPU de servidor a usar memória LPDDR5X com confiabilidade de classe de servidor por meio de mecanismos como o código de correção de erros (ECC). Isso permite que ela atenda às demandas do data center, oferecendo alta largura de banda de memória e eficiência energética até 10 vezes melhor em comparação com a memória de servidor atual. O design LPDDR5X atinge o equilíbrio ideal entre largura de banda, eficiência energética, capacidade e custo para cargas de trabalho de IA, HPC e nuvem em larga escala.

Conforme os recursos de computação paralela das GPUs continuam avançando, as cargas de trabalho ainda podem ser limitadas por tarefas seriais executadas na CPU. Uma CPU rápida e eficiente é um componente essencial do design do sistema para permitir a aceleração máxima da carga de trabalho. A CPU NVIDIA Grace integra os núcleos Arm Neoverse V2 com o NVIDIA Scalable Coherency Fabric para oferecer alto desempenho em um design com eficiência energética, facilitando o trabalho de cientistas e pesquisadores.

A IA generativa exige muita memória e computação. O Superchip NVIDIA GB200 usa 380GB de memória HBM, oferecendo mais de 4,5 vezes a largura de banda de memória de GPU da GPU NVIDIA H100 Tensor Core. A memória de alta largura de banda no Grace Blackwell é conectada à memória da CPU pelo NVLink-C2C para fornecer quase 860GB de memória de acesso rápido à GPU. Isso oferece a capacidade de memória e a largura de banda necessárias para lidar com as cargas de trabalho de IA generativa e computação acelerada mais complexas do mundo.