AI 데이터센터의 급격한 투자 확대에 대한 우려(?)

얼마 전 AI 데이터센터(DC) 투자의 급격한 증가에 대한 우려를 담은 논의 자료(Discussion Material)를 준비하려고 했던 적이 있다. 이는 AI DC 수요 증가 자체에 대한 회의론에서 비롯된 것이 아니라, 국내외 다수 사업자들이 충분한 사업 타당성 검토 없이 코로케이션(Co-location) 중심의 DC 사업에 무분별하게 진출하는 현상에 대한 문제의식에서 비롯되었다.

 

(물론, 나는 작금의 AI 붐이 비이성적 광기라고 전혀 생각하지 않고, 현재까지는 AI를 거품보다는 폭발적 성장(boom)으로 생각하는 것이 가장 적절하다고 보는 편이다.)

'The AI boom is not a bubble'

https://www.ft.com/.../f2294add-f53a-4112-b284-29843a023b6f

 

당시 검토의 핵심은 AI 시장 전망과 기술 진화 경로를 고려한 중앙집중식 AI DC의 수급 분석이었다. 특히 AI 학습 및 추론 측면에서 AI 에이전트의 진화 방향, Physical AI 분야의 로봇 기술 발전 등이 AI DC의 데이터 처리 수요에 미치는 영향을 중점적으로 살펴보고자 했다.

이 과정에서 AI DC 자체 기술 변화도 중요하지만, ASIC 칩 모듈 기술의 발전과 모델 경량화 등 엣지/온디바이스 기술의 전망이 더욱 핵심적인 변수가 될 것으로 예상했다.

그러나 일본 파트너 인터뷰 및 몇 몇 시장 전문가들과의 논의 결과, 기술 진화보다는 가격 경쟁력 확보가 더 시급한 과제라는 의견이 지배적이어서 해당 작업은 일단 중단 되었었다.

그런데 최근 Physical AI 분야에서 Jetson Thor와 같은 차세대 칩 모듈이 등장하면서, 당초 가설이 점점 더 현실화되고 있다고 생각한다. 휴머노이드 로봇 시스템 아키텍처가 하이브리드 분산형으로 전환되면서, 각 계층(Layer)별 DC의 역할이 재정의되고 있는 것이다.

물론 World Foundation Model과 같은 대규모 모델 학습을 위한 중앙집중식 DC의 필요성은 여전하다. 하지만 향후 AI 시장의 주류는 추론(Inference) 영역이 될 것이며, 이는 온디바이스 엣지 컴퓨팅 형태와 위성 서버 통신 기반으로 발전할 가능성이 높다고 예상된다.

관건은 얼마나 시간이 걸리느냐와 AI 에이전트들이 얼마나 폭발적으로 증가할 것인가이겠다. 물론, 이 분야 기술 전문가들은 이미 이러한 패러다임 전환을 인지하고 있겠지만.