“엔비디아 칩은 공급이 부족하고 비용이 여전히 문제여서 고객은 인공지능(AI) 칩 가격 대비 성능 한계를 뛰어넘어 달라고 요청하고 있다.”

앤디 재시 아마존 최고경영자(CEO)는 최근 주주 서한에서 이렇게 밝혔다. AI 개발을 위해 엔비디아 AI 칩을 대량 구매해온 빅테크 사이에선 높은 운영비를 두고 이른바 ‘엔비디아 세금’이라는 얘기도 나온다. AI 반도체 시장 패권을 쥔 엔비디아에 맞서 가격과 성능 면에서 대안을 찾으려는 ‘탈(脫)엔비디아’ 흐름이 본격화되고 있다. 선두에 선 기업은 구글이다. 자체 개발 칩 TPU(Tensor Processing Unit·텐서처리장치)를 2016년 선보인 구글은 내부 활용을 넘어 최근엔 엔비디아 핵심 고객사들에 TPU 도입을 제안하는 등 본격적인 시장 확장에 나섰다.

TPU는 GPU보다 효율↑ 범용↓ 

AI 칩 개발에서 핵심 과제는 효율성 향상이다. AI 모델이 커질수록 계산량이 많아지고 처리 시간도 늘어나기 때문이다. 그래픽처리장치(GPU)는 본래 게임용 그래픽을 위해 개발돼 대규모 병렬연산에 강점을 보인다(표 참조). 다만, AI 모델이 복잡해질수록 성능 향상 속도가 더디고 효율성도 떨어진다.

이를 대체하고자 구글은 2013년부터 AI 전용 칩 TPU 개발을 시작했다. TPU는 딥러닝 학습에 최적화된 연산 장치로, 처음부터 AI 연산만을 위해 설계된 맞춤형 칩이다. 텐서(다차원 데이터)라는 명칭처럼 다량의 데이터를 처리하는 데 강하다. 같은 전력을 쓰고도 AI 학습 속도를 최대 2배 가까이 높이고, 전력 소모는 절반 수준으로 줄였다. 그러나 아직은 GPU에 비해 범용성이 떨어진다. 구글 생태계 내에선 최적의 효율성을 보이지만, 초기 학습 환경 설정이나 커스텀 모델 실험 등에선 유연성이 떨어진다는 평가가 있다.

TPU는 과거 알파고가 이세돌 9단과 바둑 대국을 벌일 때 사용되면서 대중 앞에 본격적으로 모습을 드러냈다. 구글 검색·번역기·포토 등 다양한 서비스에 활용되고 있으며, 외부 개발자들의 채택도 늘었다. 9월 2일 미국 투자사 D.A. 데이비드슨에 따르면 구글 클라우드에서 TPU를 기반으로 한 개발자 활동이 지난 6개월 동안 약 96% 증가한 것으로 나타났다.



TPU 성능 개선에 따라 구글은 TPU 확산 전략도 강화하고 있다. 9월 5일 미국 정보기술(IT) 전문매체 ‘디인포메이션’은 구글이 클라우드업체 플루이드스택의 뉴욕 데이터센터에 TPU를 설치하는 계약을 체결했다고 밝혔다. 운영비 최대 32억 달러(약 4조4000억 원)를 보증하는 조건도 내걸었다. 시장조사기관 옴디아의 알렉산더 해로웰 수석연구원은 “구글 TPU는 엔비디아의 시장점유율을 위협할 정도로 빠르게 성장 중”이라며 “출하량이 예상보다 적더라도 엔비디아의 독점 구도에 의미 있는 균열을 낼 수 있다”고 평가했다.

중국도 ‘포스트 엔비디아’ 속도전

AI 반도체 독립을 선언한 기업은 구글만이 아니다. 오픈AI도 지난해부터 브로드컴과 협력해 자체 AI 칩 개발에 나섰다. 호크 탄 브로드컴 CEO는 올해 2분기 실적 발표에서 “100억 달러(약 13조9000억 원) 규모의 맞춤형 AI 칩 생산 주문을 확보했다”며 칩 이름을 ‘XPU’라고 밝혔다. 오픈AI는 해당 칩을 외부 판매보다 내부 운영용으로 우선 사용할 계획이다. 메타 역시 올해 4분기 브로드컴과 손잡고 ASIC(에이식·주문형 반도체)을 출시할 계획이다.

중국도 자체 AI 칩 개발에 힘을 쏟고 있다. 대표 주자는 화웨이가 내놓은 ‘어센드 시리즈’다. AI 모델 학습에 활용할 수 있는 고성능 칩이다. 젠슨 황 엔비디아 CEO가 저성능AI 칩 ‘H20’의 대중국 수출 재개 필요성을 주장하며 “우리가 수출하지 않으면 화웨이 기술 개발이 오히려 빨라질 수 있다”고 말했을 만큼 그 기술력은 위협적이다. 알리바바 역시 9월 TSMC가 아닌 중국 내 업체에서 자체 AI 칩을 생산하며 공급망 자립에 나서고 있다.

하지만 단기간에 엔비디아 의존도를 낮추기는 쉽지 않으리라는 전망도 나온다. 채민숙 한국투자증권 연구원은 “아마존·구글·메타 등이 모두 자체 AI 칩을 개발하겠다고 밝혔지만, 그 후에도 TSMC의 CoWoS(칩 온 웨이퍼 온 서브스트레이트: 칩을 더 작고 빠르게 만들 수 있는 첨단 공정 방식) 할당 중 엔비디아 비중이 40%에서 60%로 오히려 확대됐다”며 “엔비디아 데이터센터 매출도 늘어나고 있다”고 설명했다. 

_{*유튜브와 포털에서 각각 ‘매거진동아’와 ‘투벤저스’를 검색해 팔로잉하시면 기사 외에도 동영상 등 다채로운 투자 정보를 만나보실 수 있습니다.}