[지디넷 코리아] AI 시대, 경쟁 무게는 인프라에서 ‘AI OS’로

인공지능(AI) 경쟁의 무게추가 인프라에서 운영체제(OS)로 옮겨가고 있다. 수년간 글로벌 기업들은 대규모 그래픽처리장치(GPU) 확보와 슈퍼컴퓨터 구축을 통해 AI 패권을 다퉜지만, 이제는 AI를 효율적으로 운영하고 자율적으로 관리하는 ‘AI-레디 OS’가 새로운 격전지로 부상하고 있다.

9일 업계에 따르면 AI 생태계의 경쟁력은 단순히 대규모 인프라 확보가 아닌, 이를 얼마나 지능적으로 활용하고 연결할 수 있는가로 이동하고 있다.

특히 AI OS는 AI 모델이 데이터를 학습하고 추론하는 과정을 자동화하며 기존의 인프라 효율을 극대화하는 핵심 소프트웨어(SW) 계층으로 떠올랐다.

AI 시대 인프라 경쟁은 오랫동안 하드웨어(HW) 중심이었다. 엔비디아·AMD·인텔 등은 GPU와 AI 서버 시장을 장악하며 AI 산업의 토대를 구축했다. 그러나 최근에는 HW 성능만으로는 AI 서비스의 효율성을 확보하기 어렵다는 인식이 확산되면서 각 기업은 AI 전용 OS와 SW 생태계로 눈을 돌리고 있다.

대표적인 사례가 엔비디아의 ‘엔비디아 AI 엔터프라이즈’다. GPU 기반 병렬 컴퓨팅 기술인 ‘쿠다’를 넘어 AI 개발·배포·관리를 위한 통합 OS 플랫폼으로 진화했다. 엔비디아는 이를 통해 기업이 클라우드나 온프레미스 환경을 가리지 않고 동일한 AI 경험을 구현하도록 지원하며 사실상 AI용 OS의 표준으로 자리잡았다.

AI OS 경쟁의 확산은 전통적인 리눅스 진영으로도 번지고 있다. 수세는 최근 AI 내장형 리눅스 ‘SLES 16’을 공개하며 AI가 직접 OS 내부에서 실행·예측·관리되는 ‘에이전틱 AI’ 개념을 도입했다. 이 OS는 기업이 원하는 대형언어모델(LLM)을 자유롭게 연동하고 로컬 환경에서 자율 운영을 구현할 수 있는 개방형 구조를 제공한다.

레드햇 역시 ‘레드햇 엔터프라이즈 리눅스(RHEL) AI’ 배포판을 통해 전통적 리눅스 OS를 AI 워크로드에 최적화된 형태로 발전시켰다. RHEL AI는 AI 모델의 학습·서빙·배포를 안정화하는 LLM옵스 엔터프라이즈 OS로, 클라우드 환경에서의 AI 운영을 단일 체계로 통합하고 있다.

이 흐름은 SW 중심의 데이터 플랫폼 기업으로까지 확장되고 있다. 글로벌 데이터 인프라 기업 배스트 데이터는 AI 시대 전통적인 스토리지가 아니라, AI OS를 만든다고 선언했다. GPU 확장성과 데이터 최적화를 기반으로 AI 학습과 추론을 하나의 OS처럼 통합 관리하는 데이터 기반 OS를 공급 중이다.

배스트 데이터는 이미 SK텔레콤·LG·현대차그룹 포티투닷 등에 AI 플랫폼을 공급하고 있으며 일론 머스크의 xAI, 클라우드 기업 코어위브 등 글로벌 AI 기업도 이 시스템을 기반으로 대규모 GPU 클러스터를 운영하고 있다.

이처럼 HW 기업이 SW와 OS로 확장하는 현상은 단순 사업 다각화를 넘어 AI 생태계 주도권의 재편으로 풀이된다. 과거에는 GPU를 더 많이 보유한 기업이 우위를 점했지만, 이제는 데이터를 더 효율적으로 관리하고 에이전트를 통해 자율적 판단·추론을 수행하는 운영 시스템을 구축하느냐가 경쟁의 관건이 되고 있다.

글로벌 빅테크 역시 자사 OS에 AI를 깊숙이 통합하고 있다. 애플은 ‘애플 인텔리전스’를 iOS와 맥OS에 내재화해 기기 단위에서의 온디바이스 AI를 구현했고 마이크로소프트(MS)는 ‘코파일럿+PC’를 통해 윈도우를 AI 중심으로 재설계했다. 구글 역시 안드로이드 OS에 ‘제미나이’를 통합해 AI OS 전환을 본격화하고 있다.

업계는 이제 AI 경쟁의 본질이 규모에서 효율로 전환됐다고 입을 모은다. 단순히 GPU와 데이터센터를 확보하는 것보다 AI 모델이 스스로 판단하고 관리하는 OS를 얼마나 정교하게 설계하느냐가 기업 경쟁력의 핵심 지표로 떠올랐다

레넌 할락 배스트 데이터 최고경영자(CEO)는 최근 기자간담회에서 “AI 시대에는 하드웨어(HW)보다 데이터를 관리하고 활용할 수 있는 소프트웨어(SW) 계층이 중요하다”며 “AI가 단순히 질문에 답하는 수준을 넘어 사고하고 판단하는 에이전트의 역할을 하려면 이러한 OS적 접근이 필수”라고 강조했다.

국내 업계 관계자는 “AI 인프라 전쟁은 이미 HW 단계를 넘어섰다”며 “이제는 AI가 스스로 최적화하고 의사결정까지 수행하는 AI-레디 OS를 누가 선점하느냐가 미래 AI 패권을 좌우하게 될 것”이라고 말했다.