[이데일리 신영빈 기자] 이노그리드가 인공지능(AI) 개발과 운영 전 과정을 하나의 워크스페이스에서 관리할 수 있는 AI·MLOps 실행 플랫폼 ‘에이아이큐브잇(AICubeit)’을 출시했다고 30일 밝혔다.

생성형 AI 도입이 확산되면서 기업의 과제는 AI 모델 개발뿐 아니라 데이터 준비와 학습, 실험, 배포, 운영 환경을 일관되게 연결하고 관리하는 방향으로 확대되고 있다.

실제 AI 프로젝트에서는 쿠버네티스와 레이, MLflow, 주피터허브, 시크릿 관리 도구 등 여러 기술을 개별적으로 구축하고 연동해야 한다. 이 과정에서 데이터 과학자와 AI 개발자가 모델 개발보다 환경 설정과 오류 대응에 많은 시간을 쓰는 경우가 적지 않다.

AICubeit은 데이터셋 관리와 노트북 개발, 모델 학습, 실험 결과 비교, 모델 등록, 서비스 배포, 워크플로우 자동화, 운영 모니터링을 하나의 포털로 연결한 플랫폼이다.

사용자는 프로젝트나 팀 단위로 워크스페이스를 생성하고, 해당 공간에서 사용자 권한과 실행 자원, 데이터, 모델, 학습 및 배포 이력을 분리해 관리할 수 있다. 여러 조직과 프로젝트가 같은 플랫폼을 사용하면서도 각각의 AI 개발 환경과 리소스를 독립적으로 운영할 수 있는 구조다.

핵심은 복잡한 인프라 실행 환경을 사용자 화면에서 추상화한 점이다. 워크스페이스를 생성하면 쿠버네티스 네임스페이스와 권한, 개발 환경, 실험 관리 공간, 시크릿 저장 경로 등 필요한 요소가 자동으로 구성·연계된다. 사용자가 쿠버네티스 매니페스트나 레이 실행 설정을 직접 작성하지 않아도 플랫폼이 필요한 구성을 처리한다.

AI 개발자는 웹 기반 주피터랩 환경에서 데이터 분석과 모델 개발을 시작할 수 있다. S3와 허깅페이스 등 외부 저장소의 데이터를 연결해 버전별로 관리할 수 있으며, 모델 학습은 사용자 코드 기반 커스텀 방식과 오토ML, 대규모언어모델(LLM) 파인튜닝 방식을 지원한다.

학습 결과는 실행 단위로 기록된다. 사용자는 파라미터와 성능 지표를 비교해 배포에 적합한 후보 모델을 선별할 수 있다. 검증된 모델은 모델 레지스트리에 등록한 뒤 서비스 API 형태로 배포할 수 있고, 학습과 배포 등 반복 작업은 워크플로우로 연결해 자동화할 수 있다.

기업 환경에 필요한 보안과 운영관리 기능도 담았다. AICubeit은 시크릿 관리 기능을 통해 비밀번호와 토큰, 접근 키 등 민감정보를 별도로 관리한다. 워크스페이스와 역할 기반 권한 제어를 통해 사용자별 접근 범위도 설정할 수 있다.

운영자는 프로메테우스 기반 모니터링 체계를 통해 워크스페이스와 노트북, 학습, 배포, 워크플로우 실행 상태와 CPU·메모리 등 주요 자원 사용 현황을 한 화면에서 확인할 수 있다. 이를 통해 이상 상태를 파악하고 관련 리소스와 실행 이력을 추적할 수 있다.

AICubeit은 온프레미스 환경부터 다양한 클라우드 환경까지 적용할 수 있도록 설계됐다. 이노그리드는 단일 워크스페이스, AI 전 과정 연결, 인프라 추상화를 핵심 가치로 내세워 기업의 AI 개발 환경 구성 시간과 운영 부담을 낮춘다는 계획이다.

이노그리드는 AICubeit을 AI 개발·학습·배포·운영 환경을 담당하는 핵심 플랫폼으로 고도화할 방침이다. 향후 기업 맞춤형 LLMOps 기능을 강화하고, 대규모 멀티클러스터 관리와 GitOps 기반 배포 체계도 단계적으로 적용한다.

장기적으로는 사용자의 프롬프트를 기반으로 AI 에이전트가 학습과 배포, 운영 업무를 지원하는 지능형 AI 플랫폼으로 발전시킬 계획이다.

김명진 이노그리드 대표는 “xPU 인프라부터 AI 서비스까지 하나의 컨트롤 플레인으로 연결·제어하는 기술 역량을 지속 고도화해 고객이 AI를 더 빠르고 안정적으로 비즈니스에 적용할 수 있도록 지원하겠다”고 밝혔다.