유튜브 추천 BJ
경제속보
전세계 경재 핫 이슈들을 업데이트 해드립니다.
주식 시장 분류

Nvidia, AI 시스템 훈련 가속화하는 새로운 칩 데이터 공개

638 조회
0 추천
0 비추천
본문
© Reuters.

Investing.com — Nvidia의 최신 칩이 상당한 규모의 인공지능(AI) 시스템 훈련에 진전을 보였다는 데이터가 수요일에 발표되었습니다. 이 데이터는 대규모 언어 모델 훈련에 필요한 칩 수를 크게 줄일 수 있음을 시사합니다.

이 데이터는 AI 시스템의 벤치마크 성능 결과를 공유하는 비영리 단체인 MLCommons에서 발표했습니다. 이 기관은 AI 훈련에 사용되는 Nvidia (NASDAQ:NVDA) 및 얼라인테크놀로지를 비롯한 여러 회사의 칩에 대한 새로운 정보를 제공했습니다. 이 과정은 AI 시스템이 학습할 수 있도록 대량의 데이터를 제공하는 것을 포함합니다. 주식 시장의 관심은 AI 시스템이 사용자 쿼리에 응답하는 AI 추론으로 옮겨갔지만, 시스템 훈련에 필요한 칩 수는 여전히 중요한 경쟁 요소입니다. 예를 들어, 중국의 DeepSeek는 미국 경쟁사보다 훨씬 적은 칩으로 경쟁력 있는 챗봇을 만들 수 있다고 주장합니다.

최근 결과는 MLCommons가 AI 시스템 훈련에서 칩 성능에 대해 공유한 첫 번째 결과입니다. 이 칩은 메타가 개발한 오픈 소스 AI 모델인 Llama 3.1 405B와 같은 AI 시스템 훈련에서 테스트되었습니다. 이 모델은 상당한 양의 "매개변수"를 가지고 있어 칩이 수조 개의 매개변수를 포함할 수 있는 세계에서 가장 복잡한 훈련 작업에서 어떻게 수행될 수 있는지에 대한 아이디어를 제공합니다.

Nvidia와 파트너사만이 이 대규모 모델 훈련에 대한 데이터를 제출했습니다. 데이터에 따르면 Nvidia의 새로운 Blackwell 칩은 칩당 기준으로 이전 Hopper 칩 세대보다 두 배 이상 빠릅니다.

Nvidia의 새로운 칩에 대한 가장 빠른 결과에 따르면 2,496개의 Blackwell 칩이 27분 만에 훈련 테스트를 완료했습니다. 이 성능은 Nvidia의 이전 세대 칩보다 3배 이상 많은 칩의 성능보다 빠른 것으로 데이터에 나타났습니다.

CoreWeave의 최고 제품 책임자인 Chetan Kapoor는 기자 회견에서 Nvidia와 함께 일부 결과를 작업하면서 AI 산업에 변화가 있다고 말했습니다. 추세는 10만 개 이상의 동종 그룹을 만드는 대신 별도의 AI 훈련 작업을 위해 더 작은 칩 그룹을 하위 시스템으로 조립하는 방향으로 나아가고 있습니다. Kapoor는 이러한 접근 방식을 통해 수조 개의 매개변수 모델 크기를 훈련하는 데 필요한 시간을 계속 가속화하거나 줄일 수 있다고 언급했습니다.

이 기사는 인공지능의 도움을 받아 번역됐습니다. 자세한 내용은 이용약관을 참조하시기 바랍니다.

관련자료
댓글 0
등록된 댓글이 없습니다.
경제속보

경제속보

헤드라인
공급자
해선코리아
새 글
새 댓글
  • 글이 없습니다.
  • 댓글이 없습니다.
포인트랭킹
회원랭킹
텔레그램 고객센터
텔레그램
상담신청
카카오톡 고객센터
카카오톡
상담신청
먹튀업체 고객센터
먹튀업체
제보하기
알림 0