AI 반도체 시장의 새로운 흐름: 애플의 선택이 던진 파장

인공지능(AI) 기술의 발전과 함께 AI 반도체 시장에 큰 변화의 바람이 불고 있습니다. 최근 애플이 AI 모델 학습에 엔비디아의 그래픽처리장치(GPU) 대신 구글이 설계한 '텐서 처리 장치(Tensor Processing Unit·TPU)'를 선택했다는 소식이 업계에 큰 파장을 일으키고 있습니다. 이는 현재 빅테크 기업들이 직면한 AI 사업의 낮은 수익성과 엔비디아 GPU 및 HBM(고대역폭메모리)의 높은 가격이 주요 원인으로 지목되고 있습니다.

애플은 최근 공개한 논문 '애플 인텔리전스 파운데이션 언어 모델(AFM)'에서 향후 AFM 학습에 2015년부터 구글이 자체 설계해 온 AI 반도체 TPU를 사용한다고 공식적으로 언급했습니다. TPU는 구글의 맞춤형 AI 전용 프로세서로, 애플이 엔비디아 GPU의 대안으로 이를 선택한 것으로 보입니다.

이러한 선택의 배경에는 GPU의 엄청나게 비싼 가격이 있습니다. 현재 엔비디아 GPU는 개당 최대 4만 달러(약 5000만 원)를 호가하며, 시간당 사용료도 국내에서 1만7000원을 넘는 수준입니다. 반면 클라우드 형태로 제공되는 구글의 최신 TPU는 시간당 사용료가 2달러 미만인 것으로 알려져 있어 큰 차이를 보입니다.

 

• 비용 효율성: 엔비디아 GPU의 높은 가격과 비교해 구글 TPU의 상대적으로 저렴한 사용료
• 클라우드 인프라 활용: 애플은 자체 데이터센터가 없어 구글의 클라우드 서비스를 이용
• 기술 다변화: 엔비디아에 대한 의존도를 줄이고 기술 선택의 폭을 넓히는 전략

최근 빅테크 기업들은 AI 투자 비용 증가에 대해 회의적인 입장을 보이고 있습니다. 미국의 벤처 캐피탈 업체인 세쿼이아(Sequoia)에 따르면, 현재까지 AI 부문에 투자된 금액은 6000억 달러라는 천문학적인 규모인 반면, AI 매출은 단돈 40억 달러에 불과한 실정입니다. 이러한 상황에서 애플의 TPU 선택은 비용 절감을 위한 전략적 결정으로 해석됩니다.

애플의 이번 선택은 AI 반도체 시장에 일어날 변화의 시작점이 될 수 있다는 평가도 나오고 있습니다. 특히 메모리 업계에서는 HBM이 확보한 AI용 메모리 시장 지위에 어떤 변화가 생길지 주목하고 있습니다. HBM은 서버용 D램보다 5배 이상 비싼 가격으로, GPU의 높은 가격 형성에 한몫하고 있습니다.

이러한 흐름에 맞춰 최근 일부 기업들은 AI 가속기에 HBM 대신 다른 메모리를 적용하는 시도를 하고 있습니다. 예를 들어, 텐스토렌토가 최근 공개한 AI 가속기에는 HBM 대신 그래픽 D램(GDDR)을 적용했으며, 네이버와 삼성전자가 공동 개발 중인 '마하'는 저전력 D램인 'LPDDR'을 탑재했습니다.

그러나 업계에서는 구글 TPU가 HBM을 완벽하게 대체하기는 쉽지 않을 것이라는 의견도 있습니다. 구글의 TPU 역시 메모리로 HBM을 사용하고 있으며, 최근 출시된 6세대 TPU는 전작 대비 메모리 용량과 대역폭이 2배로 확장되어 더 많은 HBM이 사용되고 있습니다.

 

한 업계 관계자는 "현재 AI 학습에서 고성능 연산을 수행하기 위한 메모리로 아직 HBM만한 것이 없다"며 "당분간 HBM이 AI 반도체 시장의 70~80%를 차지하는 상황이 지속될 것"이라고 전망했습니다. 다만 "추론 시장이 커질수록 GPU 대체재는 더 많이 나올 수밖에 없다"며 "HBM 파이가 더 커지는 데 한계가 있을 것"이라고 덧붙였습니다.

현재 업계 추정에 따르면, 올해 HBM을 메모리로 사용하는 AI 가속기 생산량은 최대 932만 개(엔비디아 473만 개 포함)로 예상됩니다. 이를 반영한 HBM의 올해 최대 수요량은 8억8000만GB(기가바이트)입니다. 그러나 이는 올해 HBM 반도체 3사의 생산 계획(13억8000만GB)에 비해 크게 낮은 수준으로, 공급 과잉에 대한 우려도 제기되고 있는 상황입니다
AI 기술의 발전과 함께 반도체 시장도 빠르게 변화하고 있습니다. 성능 향상과 비용 절감이라는 두 가지 목표를 동시에 추구해야 하는 상황에서, 기업들은 다양한 전략을 모색하고 있습니다. GPU, TPU, 그리고 새로운 형태의 AI 가속기 등 다양한 옵션들이 경쟁하면서, 기술 혁신과 시장 경쟁이 더욱 가속화될 것으로 예상됩니다.

앞으로 AI 반도체 시장은 더욱 다양한 플레이어들의 참여로 역동적으로 변화할 것으로 예상됩니다. 기존의 강자들과 새로운 도전자들 간의 경쟁, 그리고 이를 통한 기술 혁신은 AI 기술의 발전을 더욱 가속화할 것입니다. 이러한 변화 속에서 기업들은 비용 효율성과 성능 향상이라는 두 가지 목표를 어떻게 균형 있게 달성할 것인지에 대한 고민을 계속해 나갈 것입니다.