오케스트로-퓨리오사AI, RNGD 기반 AI 인프라 사업 확대 협력

NXT RNGD 서버 기반 기능·성능 검증… CONCERTO A.I., RNGD 지원 확대
GPU 기반 AI 추론 운영 기술 NPU까지 확장… 이기종 AI 컴퓨팅 환경 지원
고객 BMT·실증 거쳐 공공·금융·기업 AI 인프라 공동 사업 추진

AI 인프라 소프트웨어 전문 기업 오케스트로 그룹(의장 김민준)이 퓨리오사AI(대표 백준호)와 손잡고 국산 NPU 기반 AI 인프라의 상용화와 시장 확대에 나선다. 오케스트로 그룹은 AI 반도체 기업 퓨리오사AI와 지난 18일 서울 강남구 퓨리오사AI 본사에서 ‘NPU 기반 AI 인프라 및 플랫폼 기술·사업 협력’을 위한 업무협약(MOU)을 체결했다고 21일 밝혔다.

양사는 올해 초부터 퓨리오사AI의 2세대 NPU ‘RNGD(레니게이드)’와 오케스트로 AI 인프라 소프트웨어 간 긴밀한 기술 협력을 이어왔다. 퓨리오사AI NXT RNGD 서버를 오케스트로 AI 인프라 환경에 구축해 호환성과 주요 기능을 검증하고, RNGD 기반 LLM을 실제 서비스 환경에서 안정적으로 배포·서빙·운영하기 위한 기술을 단계적으로 구현해 왔다.

그 성과로 오케스트로는 기존 GPU 중심으로 제공해 온 AI 추론 운영 플랫폼 ‘콘체르토 AI(CONCERTO A.I.)’의 지원 범위를 퓨리오사AI RNGD까지 확장했다. CONCERTO A.I.는 AI 모델의 배포와 서빙, 컴퓨팅 자원 관리, 서비스 모니터링 등을 통합 지원하는 AI 추론 인프라 플랫폼이다. 양사의 기술 협력을 통해 고객이 NPU 기반 LLM 서빙 환경을 직접 구성해야 하는 부담을 줄이고, NPU에서도 AI 서비스를 보다 손쉽게 구축·운영할 수 있는 기반을 마련했다.

CONCERTO A.I.는 단순한 NPU 기반 모델 구동을 넘어, 실제 서비스 운영에 필요한 지능형 라우팅(Intelligent Routing)과 토폴로지 기반 스케줄링(Topology-aware Scheduling) 기능도 지원한다. 요청 특성과 가속기 자원을 고려해 적합한 추론 경로를 구성하고, GPU·NPU 등 이종 AI 가속기를 서비스와 워크로드 특성에 맞춰 활용할 수 있도록 한다.

이번 MOU는 그동안 축적한 기술 검증 성과를 실제 고객 사업으로 연결하기 위한 협력의 다음 단계다. 양사는 다양한 AI 모델과 워크로드를 대상으로 퓨리오사AI RNGD 기반 AI 인프라의 성능과 안정성을 지속 검증하고, 고객 대상 BMT(벤치마크테스트)와 실증을 통해 실제 서비스 환경에 적합한 구축·운영 모델을 구체화할 계획이다.

아울러 검증을 마친 기술의 시장 안착을 도모하기 위해 사업적 협업 체계도 대폭 강화한다. 공공·금융·산업 분야 고객별 요구사항과 업무 특성을 다각도로 분석하여 RNGD 기반 AI 인프라를 맞춤형으로 공동 설계·제안하고, BMT 및 실증 사업을 성공적인 상용 구축으로 연계함으로써 업종별 대표 레퍼런스를 구축할 방침이다. 이에 더해 공동 마케팅과 영업, 밀착 기술 지원을 유기적으로 연계해 RNGD 인프라의 시장 도입을 가속화하고 혁신적인 비즈니스 모델 창출에도 적극 나선다.

• 11년만 미국 국빈방문으로 ‘건강이상설’ 잠재운 시진핑[영상]
• “치대생 본분 망각”…반바지 입었다고 ‘반성문’ 공개 게시, 이게 맞나요?[이슈픽]

향후에는 다채로운 AI 모델과 복잡한 워크로드에 유연하게 대응 가능하도록 차세대 AI 추론 인프라 대상의 공동 기술 검증 작업 역시 한층 확대 진행한다. AI 모델부터 추론 런타임, 가속기를 아우르는 통합 관리·모니터링 체계를 한 단계 끌어올리는 한편, GPU와 NPU 등 다종 가속기를 업무 성격에 따라 최적의 상태로 배분·활용하는 이기종 AI 컴퓨팅 인프라 환경으로 파트너십을 확장해 나갈 구상이다.

오케스트로는 이러한 기술 협력을 자체 AI 인프라 풀스택 소프트웨어 역량과도 연계한다. 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’, 클라우드 네이티브 운영 관리 플랫폼 ‘비올라(VIOLA)’, 멀티·하이브리드 클라우드 통합 관리 플랫폼 ‘오케스트로 CMP(OKESTRO CMP)’, 데브옵스 솔루션 ‘트럼본(TROMBONE)’ 등을 기반으로 AI 인프라의 구축부터 플랫폼 운영, 통합 관리까지 아우르는 역량을 강화하고 NPU를 포함한 다양한 AI 컴퓨팅 자원을 활용하는 사업으로 영역을 넓힌다.

특히 양사는 국산 AI 모델과 국산 AI 가속기, 이를 실제 서비스로 연결하는 AI 인프라 소프트웨어를 결합한 ‘K-AI 인프라’ 생태계 확산에도 협력한다. 퓨리오사AI의 RNGD 하드웨어 및 소프트웨어와 오케스트로의 AI 인프라 기술을 기반으로 공공·금융·기업의 프라이빗 AI 및 소버린 AI 구축 수요를 공략하고, 기술 검증과 구축 경험을 축적해 국산 NPU 기반 AI 인프라의 적용 영역을 지속 확대할 방침이다.

백준호 퓨리오사AI 대표는 “AI가 실제 기업과 공공 환경에 확산되면서 AI 가속기의 성능과 전력 효율뿐 아니라, 다양한 AI 워크로드를 안정적으로 배포하고 운영할 수 있는 소프트웨어와 인프라 역량의 중요성이 더욱 커지고 있다”며 “오케스트로의 AI 인프라 소프트웨어 스택과 RNGD를 결합해 대규모 AI 데이터센터와 토큰 팩토리를 최적으로 운영할 수 있는 풀스택 솔루션을 구현하고, 공공·금융·기업 고객의 실제 서비스 환경에서 상용 구축을 지속 확대해 나가겠다”고 말했다.

김민준 오케스트로 그룹 의장은 “올해 초부터 퓨리오사AI와 긴밀한 기술 협력을 이어오며 NPU에서도 AI 모델을 손쉽게 배포·서빙하고 운영할 수 있는 기술 기반을 마련하고, GPU와 NPU를 아우르는 AI 추론 인프라로 CONCERTO A.I.의 기술 범위를 확장해 왔다”며 “이번 협약을 계기로 기술 검증을 고객 실증과 사업화로 연결하고, 양사의 기술 경쟁력을 결합해 공공·금융·기업 시장에서 새로운 AI 인프라 레퍼런스를 만들어 나가겠다”고 말했다.

류정임 리포터

세줄 요약

• 오케스트로-퓨리오사AI, RNGD 기반 협력 MOU 체결
• CONCERTO A.I.의 NPU 지원 확대와 기술 검증 완료
• 공공·금융·산업 대상 상용 구축과 K-AI 확산 추진