엔비디아 GPU vs 구글 TPU의 경쟁력 비교와 미래 전망

728x90

시총 4조달러가 넘는 미국 주식시장 시총 1위의 엔비디아 GPU가 구글의 TPU가 등장하면서 그 경쟁력과 함께 미래 전망이

궁금해 제미나이에 물어 보았습니다.

1. 엔비디아와 구글의 주가 추이

2025년 1월부터 11월까지 미국 S&P 500은 16.45%가 상승하고 NASDAQ은 21%가 상승하였습니다. 이러한 가운데
엔비디아는 호실적과 AI의 기대감으로 31.8%가 상승했고 구글은 최근 GPU와 경쟁하는TPU의 등장으로 69.14%의 상승을
보였습니다.

엔비디아는 2025년 11월 28일(금) 종가로 177$를 기록해 박스권에서 어느 방향으로 갈지 기로에 있습니다.

GPU는 범용성, 편리함으로 개발 속도를 높일 수 있다. 반면 TPU는 대규모 연산의 가성비와 효율 추구로 획기적인
비용절감이 가능하며, 최신 모델은 TPU가 GPU 대비 2~4배의 가성비가 있다.

시간당 가격(칩/단위당)을 비교하면 최신 모델인 엔비디아 H100은 5~10달러로 현재 최고 성능을 가지고 있지만 비싸고
구하기 힘든 단점이 있다. 이에 비해 TPU v6e(Trillium)은 2~3달러로 최신 모델이며 전작 대비 성능이 대폭 향상되었다.

엔비디아 A100은 3.6~4달러로 여전히 강력한 현역이다. 학습과 추론 모두에 적합하다. 구글의 TPU v5p는 4.2달러로
대규모 AI 학습에 최적화된 고성능 칩이다.

엔비디아 L4는 0.2~0.5달러로 가성비의 추론용이다. 기벼운 모델 돌리기에 최적이다. 구글의 v5e는 1.0~1.2달러로
가성비의 추론 및 경량 학습용으로 가격이 싸다.

같은 돈을 썼을 때 얼마나 효과를 나타내는 지를 비교하는 가성비를 살펴 보면, 추론(Inference)은 TPU v5e가 우위에 있다.
같은 돈을 썼을 때 TPU v5e가 엔비디아의 A100 대비 2~2.5배, H100 대비로는 4배의 추론 처리가 가능하다.

반면 학습(Training)에서는 TPU v5p와 TPU v6e가 엔비디아를 추격하고 있다. 초거대 모델 학습에서는 엔비디아 H100이
절대 성능으로 가장 빠르다. 성능 대비 가격은 구글 TPU가 경쟁력이 있다.

GPU와 TPU는 향후 5~10년내 7:3 또는 6:4의 비율이 될 전망이다. 2025년 현재 엔비디아가 시장을 85~90%
차지하고 있다. 하지만 AI 시장의 파이가 폭발적으로 커질 것이기 때문에 엔비디아의 매출액은 계속 증가할 것이다.

학습시장은 엔비디아의 절대 우세(80% 이상)가 지속될 전망이다. 엔비디아는 S/W 생태계(CUBA)가 독점상태이기
때문이다. 기존 엔지니어들도 새로운 환경을 쉽게 받아들이기가 쉽지 않다.

반면 추론시장은 TPU와 ASIC의 대약진이 예상된다. 이미 만들어진 AI 모델로 채팅, 검색, 추천 등의 서비스를
돌리는 단계에서는 구글 TPU 등 전용 칩의 비중이 40~50% 이상으로 크게 증가할 전망이다. 비용과 전력 효율이
핵심이 된다.

엔비디아 칩으로 전세계 유튜브 추천 알고리즘을 돌리면 전기세와 칩 구매 비용이 감당불가능한 수준이 된다. 이에
구글, 메타, 아마존 등 빅테크 기업들은 서비스용 칩을 자체 개발 칩으로 대체할 것으로 예상된다.

공부를 하고 보니 전기차와 FSD의 테슬라 처럼 시장을 구글 등에 조금씩 내주면서 엔비디아는 시장의 절대 강자 자리를
계속 유지할 전망이다. 요즘 공매도들이 엔비디아를 맹렬히 공격하고 있는데 그렇게 걱정할 것은 아니라는 결론이다.

< 엔비디아와 구글의 10년 후 모습 >

구 분	엔비디아(GPU)	구글(TPU)
핵심 목표	AI 인프라의 표준이 되는 것	자사 서비스 비용 제로화 및 수직계열화
시장 위치	'곡갱이와 청바지' 판매상. 모든 기업이 AI를 개발할 때 엔비디아를 거쳐감	최고의 자급자족 농부. 세계 최고 성능의 AI를 싼 값에 직접 운영
예상 리스크	빅 테크 기업들(구글, MS, 아마존 등)이 엔비디아 구매를 줄이고 자체 칩 비중을 늘이는 것	엔비디아의 기술 발전 속도가 너무 빨라 자체 칩 개발 효용이 떨어지는 상황

728x90