캐피털원, AI 비용 폭증에 ‘탈 AWS’ 고민했나… 엔비디아·네오클라우드까지 저울질

캐피털원, AI 비용 폭증에 ‘탈 AWS’ 고민했나… 엔비디아·네오클라우드까지 저울질

#캐피털원 #AI비용 #AWS #엔비디아 #네오클라우드 #기업AI전략

미국 대형 은행 캐피털원이 생성형 AI 도입 과정에서 클라우드 비용 폭증을 심각하게 우려하며 대안을 검토했던 정황이 드러났습니다. 비즈니스 인사이더가 입수한 엔비디아 내부 문건을 통해 알려진 내용인데, 요즘 기업들이 AI 앞에서 어떤 현실적인 고민을 하고 있는지를 그대로 보여주는 사례라 주목받고 있습니다.

문건에 따르면 캐피털원은 AI 인프라 비용이 감당하기 힘들 정도로 커질 가능성을 염두에 두고, 기존에 사용하던 아마존웹서비스(AWS)를 대체할 수 있는 방안을 내부적으로 논의한 것으로 보입니다. 단순한 가격 협상 차원을 넘어, 인프라 구조 자체를 바꿀 수 있는 시나리오까지 검토했다는 점이 눈에 띕니다.

논의된 선택지는 크게 두 가지였습니다.
첫째는 엔비디아와 함께 자체 데이터센터, 이른바 ‘AI 팩토리’를 구축하는 방안입니다.

GPU를 직접 보유하고 운영하면서 장기적으로는 비용 통제력을 높이겠다는 구상이죠. 둘째는 AWS보다 비용이 저렴한 신생 클라우드 업체, 이른바 네오클라우드(Neo-cloud)를 활용하는 방안입니다. 최근 AI 특화 클라우드를 앞세운 신흥 업체들이 등장하면서, 대기업들도 무시하기 어려운 대안으로 떠오르고 있습니다.

다만 캐피털원은 공식적으로는 선을 그었습니다.
보도 이후 회사 측은 “AWS는 여전히 우리의 가장 중요한 파트너”라며 결별설을 부인했습니다. 실제로 금융권처럼 보안과 안정성이 중요한 산업에서는, 완전히 다른 인프라로 옮기는 결정이 쉽지 않다는 점도 사실입니다.

그럼에도 이번 이야기가 의미 있는 이유는 분명합니다.
생성형 AI를 도입하지 않으면 경쟁에서 뒤처질 것 같고, 도입하자니 클라우드 비용이 눈덩이처럼 불어나는 구조가 기업들을 압박하고 있기 때문입니다. 특히 GPU 사용량이 급증하는 AI 워크로드 특성상, 기존 클라우드 요금 체계가 장기적으로 지속 가능하냐는 의문이 커지고 있습니다.

결국 캐피털원의 사례는 한 은행의 고민을 넘어,
“AI는 쓰고 싶은데, 이 비용 구조가 맞는가?”라는 전 세계 기업들의 공통 질문을 상징적으로 보여줍니다. 앞으로 더 많은 기업들이 자체 데이터센터, 네오클라우드, 하이브리드 구조 등을 놓고 계산기를 두드리게 될 가능성이 커 보입니다.

캐피털원, AI클라우드비용, AWS대체, 엔비디아AI, 네오클라우드, 기업AI전략, 생성형AI, 데이터센터

다른글 더보기