AI 인프라 구매 속도, 비용 측정 능력 훨씬 앞서간다

107개 기업을 대상으로 한 조사에서 AI 인프라 지출이 급속도로 증가하고 있으나, 기업들이 실제 비용 변화를 추적하고 관리할 능력이 크게 부족한 것으로 나타났다.

대다수 기업은 아마존, 마이크로소프트 등 클라우드 거인과 모델 제공업체의 API 서비스를 기반으로 AI를 운영 중이지만, 다음 단계 투자는 오늘날 거의 사용하지 않는 특화된 컴퓨팅 자원(GPU 칩, AI 가속기 등)으로 방향을 틀고 있다.

이는 기업들이 기존 인프라의 비용 효율성을 정확히 파악하지 못한 채 새로운 시스템으로 투자를 확대하고 있다는 의미로, IT 예산 관리 체계가 AI의 빠른 발전 속도를 따라잡지 못하고 있음을 시사한다.

국내 대형 IT 기업들과 삼성, LG 등 제조업체들도 AI 인프라 투자를 확대하는 상황에서, 클라우드 비용 최적화 및 ROI 추적 솔루션에 대한 수요가 커질 것으로 예상되며 이는 FinOps 관련 국산 솔루션 개발의 기회가 될 수 있다.

향후 기업들은 AI 인프라 구매와 동시에 비용 가시성 확보에 투자해야 하며, 클라우드 비용 관리 도구와 AI 비용 추적 플랫폼의 중요성이 더욱 높아질 것이다.