Dell·슈퍼마이크로, xAI의 슈퍼컴퓨터에 서버 랙 제공

AI model training requires tens of thousands of GPUs. Tesla CEO Elon Musk said on his social media platform. Musk recently told investors that his artificial intelligence startup xAI plans to build a supercomputer to run the next version of its AI chatbot Grok. Dell's CEO Michael Dell also posted separately on his social media. He said that training AI models like xAI's Grok requires tens of thousands of power-hungry chips, which are in short supply. Earlier this year, Musk said that training the Grok 2 model would require about 20,000 Nvidia H100 graphics processing units (GPUs), and that the Grok 3 model and later versions would require 100,000 Nvidia H100 chips.

AI 모델 훈련에는 수만 개의 GPU가 필요하다. 일론머스크 테슬라 최고경영자(CEO)는 자신의 엑스 계정에 "델 테크놀로지스가 xAI가 구축 중인 슈퍼컴퓨터를 위한 랙의 절반을 조립하고 있다"고 말했다. 머스크는 최근 투자자들에게 자신의 인공지능 스타트업 xAI가 AI 챗봇 Grok의 다음 버전을 구동하기 위해 슈퍼컴퓨터를 구축할 계획이라고 밝힌 바 있다. 델의 최고경영자 마이클 델(Michael Dell) 또한 자신의 엑스에 별도의 게시물을 올려 "회사가 인공지능 강자인 엔비디아와 함께 AI 공장을 구축하고 있으며, 이는 xAI의 챗봇 Grok의 다음 버전을 구동할 것"이라고 밝혔다. xAI의 Grok와 같은 AI 모델의 훈련에는 전력 소모가 큰 수만 개의 칩이 필요하며, 이 칩들은 공급이 부족한 실정이다. 올해 초 머스크는 Grok 2 모델의 훈련에 약 20,000개의 Nvidia H100 그래픽 처리 장치(GPU)가 필요했으며, Grok 3 모델 및 그 이후 버전에는 100,000개의 Nvidia H100 칩이 필요할 것이라고 말한 바 있다.

앨리스

ai@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by 테크42 무단전재 및 재배포 금지

관련 기사

"공모 물량 6배 청약 폭발" 앤트로픽 IPO 흥행 돌풍… 역대 최대 상장 기록 정조준

인공지능 개발 기업 앤트로픽의 기업공개(IPO)에 공모 예정 물량의 약 6배에 달하는 매수 주문이 몰리며 글로벌 자본시장에서 폭발적인 흥행 돌풍을 일으키고 있다.

트럼프, 젠슨 황 후임 엔비디아 CEO로 팀 쿡 깜짝 추천

도널드 트럼프 미국 대통령이 사생활 및 안보 스캔들로 물러난 젠슨 황 엔비디아 최고경영자(CEO)의 후임으로 팀 쿡 애플 이사회 의장을 공개 추천했다.

"엔비디아의 입 잃었다" 젠슨 황 축출 여파, 글로벌 AI 산업 5대 핵심 동력 흔들

엔비디아의 창업자 젠슨 황 최고경영자(CEO)가 사생활 및 중국 스파이 연루 스캔들로 이사회에서 전격 축출되면서, 글로벌 인공지능 산업 전반의 성장 동력이 약화할 수 있다는 우려가 커지고 있다.

"아이폰 잠금화면서 실시간 타격·승부 확인" 애플 스포츠, UFC 생중계 데이터 지원

애플이 자사의 스포츠 정보 애플리케이션인 '애플 스포츠'에 세계 최대 종합격투기 단체 UFC의 실시간 경기 데이터 업데이트 기능을 새롭게 도입했다.