Nvidia on Monday announced a new configuration of its advanced artificial intelligence chip designed to speed up generative AI applications. The new version of the Grace Hopper superchip increases the amount of high-bandwidth memory to provide the capacity to run larger AI models, according to Ian Buck, vice president of hyperscale and HPC at NVIDIA. This configuration is optimized to perform AI inference functions that effectively power generative AI applications like ChatGPT.

엔비디아가 8일(현지시간) 생성형 AI 애플리케이션의 속도를 높이기 위해 설계된 고급 인공 지능 칩의 새로운 구성을 발표했다. 엔비디아의 하이퍼스케일 및 HPC 담당 부사장 이안 벅에 따르면 그레이스 호퍼 슈퍼칩의 새 버전은 고대역폭 메모리의 양을 늘려 더 큰 AI 모델을 구동할 수 있는 용량을 제공한다. 이 구성은 ChatGPT와 같은 생성형 AI 애플리케이션을 효과적으로 구동하는 AI 추론 기능을 수행하도록 최적화되어 있다.