서달원 헤카톤에이아이 대표.
“AI 서비스를 실제 현장에 적용하려면 결국 GPU를 안정적으로 운영할 수 있는 인프라가 필요합니다. 하지만 기업 현장에는 AI를 활용할 수 있는 인프라가 턱없이 부족합니다. 소프트웨어를 넘어 AI 모듈러 데이터센터까지 직접 구축하게 됐습니다.”
서달원 헤카톤에이아이 대표는 AI 산업의 확산을 위해서는 소프트웨어뿐 아니라 이를 뒷받침할 인프라가 필요하다고 강조했다.
2022년 설립된 헤카톤에이아이는 초경량 추론 플랫폼 ‘Hflow’를 개발하며 AI 솔루션 사업을 시작했다. IT 분야에서 약 20년간 경력을 쌓은 서 대표는 은행에서 혁신 업무를 수행했고, 빅데이터 분야에서도 10여 년간 경험을 쌓았다.
서 대표는 AI 솔루션을 현장에 적용하는 과정에서 GPU를 설치하고 운영할 환경이 부족하다는 .에 주목했다. 헤카톤에이아이는 지난해 중반부터 AI 모듈러 데이터센터 개발에 착수했고, 올해 4월 구축을 완료하고 실증 사업을 진행하고 있다.
헤카톤에이아이의 핵심 사업은 Hflow와 AI 모듈러 데이터센터를 하나의 패키지로 제공하는 것이다.
바다이야기 낮 해파리
Hflow는 기업이 보유한 문서와 데이터를 AI가 활용할 수 있도록 구조화하고, 이를 바탕으로 질문에 대한 답변과 분석·추론 결과를 제공한다. 기업의 매출과 사업 실적, 시장 변화 등을 분석해 향후 집중해야 할 사업 분야를 제시하는 방식이다.
제조업에서는 생산설비의 센서 데이터를 분석해 이상 징후를 파악하고 생산량과 수요를 예측하는 등 활용 범위를 넓힐 수 있다. 다만 생성형 AI 기반 서비스를 운영하려면 고성능 GPU 인프라가 필수적이다.
헤카톤에이아이의 AI 모듈러 데이터센터.
헤카톤에이아이가 개발한 모듈러 데이터센터는 GPU와 NPU 등 고밀도 연산 장비를 수용하고 이에 필요한 전력·냉각 설비를 갖춘 소형 AI 전용 데이터센터다. 컨테이너 등 모듈 형태로 구축해 기존 대규모 데이터센터보다 구축 기간과 비용을 줄이는 것이 특징이다.
서 대표는 “대규모 데이터센터는 건축과 인허가 등을 거쳐 구축하는 데 4~5년이 걸릴 수 있지만, 우리는 3~5개월 내 고밀도 AI 장비를 바로 사용할 수 있는 환경을 구축하는 것을 목표로 한다”며 “지금 필요한 GPU를 바로 활용할 수 있다는 것이 모듈러 데이터센터의 가장 큰 장。”이라고 말했다
모바일 야마토노하우
. 헤카톤에이아이는 현재 셀트리온과 GPU 인프라 구축 관련 실증 사업을 진행하고 있다.
헤카톤에이아이는 제조업을 비롯해 대학·대학원과 국가 연구기관 등 교육·연구 분야, 국방 분야를 주요 시장으로 보고 있다. 특히 국방 분야에서는 고정된 데이터센터에 집중된 AI 인프라를 독립부대나 전방 등에 분산 배치할 수 있도록 이동형 모듈러 데이터센터를 공급한다는 구상이다. 현재 육군, 공군, 해군 등과 관련 논의를 진행하고 있다.
회사 측은 AI 데이터센터 구축 전 3D 디지털 트윈을 활용해 전력·냉각·장비 배치 등을 가상환경에서 검증하고 최적화하는 기술도 개발하고 있다.
헤카톤에이아이는 지난해 약 17억원의 매출을 기록했고, 내년에는 매출 100억원 달성을 목표로 하고 있다. 향후 미국과 일본 등 해외시장 진출도 추진할 계획이다.
서 대표는 “기업들이 AI를 도입해야 한다는 필요성은 분명하지만, 실제 현장에서는 인프라가 부족해 시작하지 못하는 경우가 많다”며 “AI를 필요로 하는 곳에 빠르게 설치하고 바로 활용할 수 있는 인프라를 제공해 기업의 AI 전환을 앞당기는 것이 헤카톤에이아이의 목표”라고 말했다.
결국 GPU를 안