거대언어모델(LLM)을 개발하는 글로벌 빅테크 기업들이 자체 인공지능(AI) 반도체를 생산하기 위해 고삐를 당기고 있다.

현재 AI 반도체 시장의 90%는 엔비디아가 장악하고 있다. 엔비디아의 B100 등은 1개당 5000만원 이상에 달하지만 대안책이 없어 초고가에도 불구하고 수요 대비 공급 속도가 따라가지 못하는 상황이다.

이에 글로벌 빅테크 기업들이 우려스럽도록 높은 엔비디아 의존을 낮춰 비용을 절감하는 한편, 자사 AI에 최적화 한 자체 AI 반도체 개발에 나서고 있는 것이다.

12일 IT업계에 따르면 주요 글로벌 빅테크 기업들이 자체 AI 반도체 개발에 나서며 설계, 개발, 생산 기업들과 합종연횡 하고 있다.

주요 외신에서는 마이크로소프트(MS), 알파벳(구글), 아마존, 메타 등 미국 빅테크 4곳이 올해 지출한다고 밝힌 3200억달러(463조원)의 상당수가 IDC 건립과 주문형반도체(ASIC) 개발에 투입될 것으로 보고 있다.

특히 메타가 자체 AI 반도체 생산에 나서면서 국내 AI 반도체 설계업체 퓨리오사AI 인수를 저울질하고 있는 것도 이 같은 배경 때문인 것으로 알려졌다.

퓨리오사AI는 데이터센터 서버용 AI 추론 연산 특화 반도체를 개발하는 팹리스(반도체 설계 전문 회사) 스타트업이다. 메타의 퓨리오사AI 인수 타진은 앞서 공개한 자체 AI 반도체가 엔비디아의 AI 반도체를 따라잡지 못하면서 기술력 확보가 필요해진 탓으로 풀이된다.

메타는 2023년 AI 반도체 v1을 공개한 후 지난해 4월 차세대 AI 반도체 MTIA를 공개했다. 메타는 대역폭 확장과 서버 컴퓨터용 랙 개발은 물론 엔비디아의 강점인 쿠다(CUDA)와 경쟁할 수 있는 소프트웨어 생태계도 직접 개발하면서 자체 맞춤형 IDC 건립의 가능성을 내비쳤다.

MTIA 공개 당시 메타는 "칩의 역량을 확장해 자체 대규모언어모델(LLM)인 '라마'와 같은 생성형 AI를 훈련하는 것이 목표"라며 "컴퓨팅, 대역폭, 메모리 용량의 균형에 초점을 두고 있다"고 밝혔다.

오픈AI는 오는 2026년 TSMC에서 자체 맞춤형 AI 반도체를 대량 생산한다는 목표를 세우고 TSMC에 생산을 시작할 예정이다.

오픈AI의 자체 AI 반도체는 TSMC의 3나노 공정을 활용하며 엔비디아의 GPU와 마찬가지로 고대역폭메모리(HBM) 및 시스톨릭 어레이(Systolic Array) 아키텍처를 활용하는 것으로 알려졌다. 시스톨릭 어레이는 데이터를 효율적으로 처리하기 위해 여러 셀을 일렬 배치하는 구조로, HBM과 함께 배치함으로써 속도와 처리 효율성을 극대화 하겠다는 의도로 해석된다. 브로드컴이 설계 기술을 협력하고 있다.

TSMC를 통해 생산하는 자체 반도체 칩의 양산 및 대외 판매 여부와 '스타게이트(Stargate)' 프로젝트 사용 여부는 알려지지 않았다.

알파벳(구글)도 지난해 자체 AI 반도체인 '클라우드 텐서프로세서유닛(TPU v5p)'을 공개했다. TPU는 애플이 7월 공개한 논문에서 애플 인텔리전스 기반 AFM 온디바이스와 AFM 서버모델 학습에 활용한 사실이 드러난 바 있다. 인텔의 AI 가속기 '가우디'가 선방하지 못한 반면, TPU가 괄목할 성과를 내면서 엔비디아 한계설이 돌기도 했다.

IT업계에서는 주요 빅테크 기업의 행보를 비추어 챗GPT 이후로 이어진 하드웨어(반도체) 성장 중심의 국면이 계속 될 것으로 보고 있다. 현재 LLM 개발 경쟁이 일단락 되면서 소프트웨어(SW) 경쟁으로 시장이 변화하고 있지만 AI 기업들로서는 엔비디아에 대한 높은 의존도가 부담스러울 수밖에 없다는 평가다.