AWS, AI 훈련과 실행용 최신 칩 「Tranium 2」와 「Graviton 4」 공개

아마존 웹 서비스(AWS)가 미국 라스베이거스에서 지난 28일 개최한 연례 이벤트 ‘AWS re:Invent 2023’의 기조연설을 통해 새로운 칩 「Tranium 2」와 「Graviton 4」를 공개했다. 이들 최신형 칩은 기계학습 훈련과 생성형 AI 애플리케이션을 비롯한 고객들의 다양한 워크로드에서 가격 대 성능과 에너지 효율 향상을 제공하기 위해 개발됐다.

「Tranium 2」는 2020년 열린 연례 이벤트에서 발표한 「Tranium」의 2세대 기계학습 훈련용 프로세서다. 최대 10만 개의 칩을 EC2 UltraCluster에 활용할 수 있어서 1세대와 비교해 최대 4배까지 훈련 속도를 높일 수 있다. AWS는 이를 통해 베이스 모델이나 LLM 모델의 훈련 시간을 크게 줄일 수 있게 되어 에너지 효율이 최대 2배 높아진다고 설명했다.

「Graviton 4」는 Arm 기반의 클라우드용 프로세서다. 2015년에 인수한 이스라엘의 Annapurna Lab이 설계와 제조를 맡았고 첫 모델은 2018년에 발표됐다. 2021년에 발표된 「Graviton 3」와 비교하면 컴퓨팅 성능이 최대 30%, 코어는 50% 늘었으며 메모리 대역은 75% 향상되어, Amazon EC2의 다양한 워크로드 실행 시 최고의 가격 대 성능과 에너지 효율 향상을 제공한다고 한다.

또한, 모든 물리적인 인터페이스가 암호화되어 고객의 워크로드와 데이터 안정성을 높였다.

「Graviton 4」는 현재 테스트 중이며 몇 달 이내에 일반 제공될 예정이다. 「Tranium 2」의 출시 시기는 아직 발표되지 않았다.