【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][K-AX는 지금] “GPU를 몇 개 가졌느냐가 아니라 얼마나 많은 가치를 뽑아내는지가 중요”…신정규 래블업 대표가 말하는 AI 인프라의 ‘운영체제’

온카뱅크관리자

2026-10-01 09:07:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="xg6yYzEoSD">
          <div contents-hash="91fa4aeb96fc318dae9ab8db2689bc0b677df58acdaeaaac1743ddca45e910fb" dmcf-pid="yFSxREzthE" dmcf-ptype="general">
           <h5>연구실 GPU 공유 문제에서 출발한 Backend.AI…분할 GPU·AI 전용 오케스트레이터로 자원 효율 극대화</h5>
           <h5>504장에서 1000장 이상 GPU까지 분산학습 운영…“대규모 클러스터에서는 장애가 필연”</h5>
           <h5>MLxcel·AI·Continuum으로 개인 PC부터 데이터센터까지… ‘AI 인프라 표준화의 매개자’ 역할</h5> 
          </div>
          <hr class="line_divider" contents-hash="06644b0e95794abb7a7eb5bb1e4cf8f3523f0a76bce70248e6ad07871e8d1c71" dmcf-pid="W3vMeDqFlk" dmcf-ptype="line">
          <div contents-hash="0eb2dd1856a9245ba86f01f0d19c994d1142200e214dea716720a3e8e492d743" dmcf-pid="YmL3p6SrCc" dmcf-ptype="general">
           <em>[편집자 주] 인공지능(AI)이 국가와 기업의 경쟁력을 좌우하는 핵심 인프라로 자리 잡는 상황에서 정부의 지원 하에 민간 중심 협력체로 출범한 K-AI PARTNERSHIP의 활동이 기대를 모으고 있다. 지난 4월 본격적인 활동을 시작한 K-AI PARTNERSHIP은 AI 기업과 제조·금융 등 수요기업, 관련 기관이 참여해 AI 생태계 강화와 산업 AI 전환(AX), 글로벌 진출을 추진하고 있다. 이에 테크42는 ‘K-AX는 지금’ 시리즈를 통해 참여 기업들의 목소리를 듣고 AX 전략과 미래 비전을 조명한다.</em> 
          </div>
          <hr class="line_divider" contents-hash="2b70149d71924a8558263556001eef5fb82f790e5ab4785d55be4db4dfe03701" dmcf-pid="Gso0UPvmSA" dmcf-ptype="line">
          <div contents-hash="20df2cc39c8912feed6ef2a2df700a81733cb709ac2652eeae6f7f8fa0cf83ef" dmcf-pid="HOgpuQTsvj" dmcf-ptype="general">
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="bfc95f0ed62570a27189930dff83553e0dbe224314b82c60f1e22e39a2a80105" dmcf-pid="XIaU7xyOCN" dmcf-ptype="figure">
           <p class="link_figure"><img alt="물리학과 컴퓨터공학을 공부하고 뇌과학으로 박사학위를 받은 신정규 래블업 대표는 연구실에서 여러 연구자가 GPU 서버를 함께 사용하는 과정에서 반복되는 자원 충돌과 환경 설정 문제를 경험했다. 당시 신 대표는 딥러닝이 성장하면 이 문제가 연구실을 넘어 기업과 산업 전체로 확대될 것이라고 판단했고, 2015년 ‘연구실을 업그레이드한다’는 뜻을 담아 래블업을 창업했다. (사진=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090053023owux.jpg" data-org-width="1024" dmcf-mid="0HisI1LxWZ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090053023owux.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            물리학과 컴퓨터공학을 공부하고 뇌과학으로 박사학위를 받은 신정규 래블업 대표는 연구실에서 여러 연구자가 GPU 서버를 함께 사용하는 과정에서 반복되는 자원 충돌과 환경 설정 문제를 경험했다. 당시 신 대표는 딥러닝이 성장하면 이 문제가 연구실을 넘어 기업과 산업 전체로 확대될 것이라고 판단했고, 2015년 ‘연구실을 업그레이드한다’는 뜻을 담아 래블업을 창업했다. (사진=래블업)
           </figcaption>
          </figure>
          <div contents-hash="5ffcdf164b88515bbc6d851460f3028138764b1502d55d447359ac14264788a7" dmcf-pid="ZCNuzMWICa" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="97bd356bbc0315b6f34a6329e33d71191d3efd0b2cf10f8e3f52f521095c519d" dmcf-pid="5hj7qRYCWg" dmcf-ptype="general">인공지능 경쟁이 치열해질수록 그래픽처리장치(GPU)는 국가와 기업의 AI 역량을 가늠하는 핵심 자원처럼 언급된다. 더 많은 GPU를 확보하고 더 큰 데이터센터를 구축하려는 경쟁도 이어진다. </p>
          <p contents-hash="d01bdec3ae7701f53e56af3edf1c60e37f600cddcf28761e300ed83af0be746d" dmcf-pid="1lAzBeGhCo" dmcf-ptype="general">하지만 값비싼 GPU를 들여놓는 것만으로 AI 서비스가 만들어지는 것은 아니다. 수백·수천 개의 GPU를 동시에 묶어 모델을 학습시키고, 개발자와 연구자에게 필요한 자원을 배분하며, 장애가 발생하면 학습을 복구해야 한다. 하나의 클러스터에서 학습과 추론을 함께 운영하면서 비용까지 통제해야 하는 문제도 쉽지 않다. 이렇듯 확보한 연산 자원을 실제 AI의 가치로 바꾸는 또 하나의 기술 영역 바로 ‘AI 인프라 운영 소프트웨어’다. </p>
          <p contents-hash="470ccc3390bb835e7ed8d55c08adec48e160ff6d625dd769afc9f4539503ed85" dmcf-pid="tScqbdHlvL" dmcf-ptype="general">래블업(Lablup)은 이 문제를 딥러닝 붐이 본격화되기 전부터 풀어온 기업이다. 물리학과 컴퓨터공학을 공부하고 뇌과학으로 박사학위를 받은 신정규 래블업 대표는 연구실에서 여러 연구자가 GPU 서버를 함께 사용하는 과정에서 반복되는 자원 충돌과 환경 설정 문제를 경험했다. 당시 신 대표는 딥러닝이 성장하면 이 문제가 연구실을 넘어 기업과 산업 전체로 확대될 것이라고 판단했고, 2015년 ‘연구실을 업그레이드한다’는 뜻을 담아 래블업을 창업했다. </p>
          <p contents-hash="5ec27d83051afe89858b5fd3bcbda1c51681f111e29c16ff35f247578b2cf7d6" dmcf-pid="FvkBKJXSCn" dmcf-ptype="general">그로부터 10여년, 현재 래블업의 중심에는 GPU·신경망처리장치(NPU) 클러스터에서 AI 학습·추론 워크로드를 배치하고 관리하는 소프트웨어 정의 AI 인프라 플랫폼 백엔드닷에이아이(Backend.AI)가 있다. 여기에 개인 디바이스에서 AI를 실행하는 MLxcel과 AI:GO, 여러 AI 모델의 사용과 비용을 관리하는 컨티넘 라우터(Continuum Router)·컨티넘 허브(Continuum Hub)를 더해 개인 PC의 GPU 한 장에서 수천 장 규모 데이터센터까지 아우르는 제품 체계를 구축하고 있다. </p>
          <p contents-hash="9a8e7efb83e8cacb485923a55fbed6571993d203477c7d1357232c878f044590" dmcf-pid="3TEb9iZvhi" dmcf-ptype="general">테크42와 만난 신 대표가 말하는 AI 인프라 경쟁의 기준은 명확했다. 확보한 GPU의 숫자가 아니라, ‘그 안에서 얼마나 많은 학습과 추론, 서비스 가치를 만들어낼 수 있느냐’다. </p>
          <div contents-hash="c3f24668e0fbb18a6b6f74329fc933361754d9bbf1680e1a2725276d608a3e22" dmcf-pid="04pkDYRfyJ" dmcf-ptype="general">
           <strong>연구실 GPU 공유 문제에서 시작된 11년…AI 인프라의 ‘운영체제’를 만들다</strong> 
          </div>
          <figure class="figure_frm origin_fig" contents-hash="823ad59b63beb90f1afafbb2f599daf9f8c07112905cb72edc9db7d257111039" dmcf-pid="p8UEwGe4Td" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090054534ncwp.png" data-org-width="774" dmcf-mid="pWGBKJXSlX" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090054534ncwp.png" width="658"></p>
          </figure>
          <p contents-hash="0e21724b6e1b54db35966050bbb169396a6d875a8c577d9ee362710a6e62dee7" dmcf-pid="U6uDrHd8ve" dmcf-ptype="general">래블업의 출발점은 거대한 데이터센터가 아니라 연구실이었다. 신 대표가 대학원에서 복잡계 뇌과학을 연구할 당시 시뮬레이션과 데이터 분석에는 상당한 연산 자원이 필요했다. 문제는 제한된 GPU 서버를 여러 연구자가 함께 사용해야 한다는 점이었다. 누가 어느 GPU를 사용하는지 제대로 관리하기 어려웠고, 연구자마다 다른 소프트웨어 환경이 충돌하면서 실험 자체가 중단되는 일도 생겼다. </p>
          <div contents-hash="a6b40fb4c9cabc093009ebee7ff7fea7cb3c605d53a76d523b69838026dd051f" dmcf-pid="uP7wmXJ6WR" dmcf-ptype="general">
           신 대표는 뇌의 연결 구조를 시뮬레이션하는 과정에서 필요한 대규모 병렬 연산이 GPU 가속과 맞닿아 있다는 점에도 주목했다. 당시에는 지금과 같은 생성형 AI 시장이 존재하지 않았지만, AI 연산 수요가 폭발적으로 증가하면 GPU 관리 문제도 함께 커질 것이라고 판단했다. 다만 창업 당시에는 AI 인프라 플랫폼에 비용을 지불할 시장이 거의 없었다. 
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="3e36d123751a0939100e034134889bd30b1a3604e114dea5086f6785dee300b3" dmcf-pid="7QzrsZiPyM" dmcf-ptype="figure">
           <p class="link_figure"><img alt="래블업이 처음 내놓은 제품은 웹 브라우저에서 코드를 작성하고 실행할 수 있는 클라우드 코딩 서비스 ‘CodeOnWeb’이었다. (이미지=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090056049znbs.png" data-org-width="839" dmcf-mid="UXcV4gFYhH" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090056049znbs.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            래블업이 처음 내놓은 제품은 웹 브라우저에서 코드를 작성하고 실행할 수 있는 클라우드 코딩 서비스 ‘CodeOnWeb’이었다. (이미지=래블업)
           </figcaption>
          </figure>
          <div contents-hash="2fc3cddd3e68261182fcef90be74003657112dc98680f41cf66d8c6fb348976e" dmcf-pid="zxqmO5nQyx" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="3a9ddbc916cd8fd4a4232ad31c939002f5c5eaa6a76e97bbd22b1a60c6795d17" dmcf-pid="qMBsI1LxyQ" dmcf-ptype="general">이에 래블업이 처음 내놓은 제품은 웹 브라우저에서 코드를 작성하고 실행할 수 있는 클라우드 코딩 서비스 ‘CodeOnWeb’이었다. 이 서비스 아래에서 컴퓨팅 자원을 관리하던 엔진을 별도로 떼어낸 것이 ‘Backend.AI’의 시작이다. </p>
          <div contents-hash="ac88a8e1ba5540f9b9eaf58a9a0c37e37de6f813da746c2438354939d9cb70d6" dmcf-pid="BRbOCtoMSP" dmcf-ptype="general">
           전환점은 역사적인 순간으로 기록된 2016년 알파고와 이세돌 9단의 대국 이후 찾아왔다. AI 개발 수요가 급증하면서 개인용 코딩 환경보다 기업과 연구기관이 보유한 GPU를 효율적으로 통합 관리하는 문제가 더 큰 시장으로 부상했다. 변화에 발맞춰 래블업은 이듬해인 2017년 Backend.AI를 오픈소스로 공개했고, 2019년 국민대학교 도입을 시작으로 엔터프라이즈 시장에 진입했다. 이후 2023~2024년 생성형 AI 확산과 함께 대규모 GPU 클러스터 운영 수요가 급증하면서 창업 초기부터 개발해 온 기술의 적용 범위도 넓어졌다. 신 대표는 ‘CodeOnWeb’과 ‘Backend.AI’의 차이를 설명하며 말을 이어갔다. 
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="cca69b92f8300c80c2bd06dc653e6c0290861437ca6572b71ae5f6137c320a6a" dmcf-pid="beKIhFgRh6" dmcf-ptype="figure">
           <p class="link_figure"><img alt="CodeOnWeb이 ‘사용자에게 코딩 환경을 제공하는 서비스’였다면 ‘Backend.AI’는 ‘그 환경 아래의 연산 자원 전체를 운영하는 OS’라고 할 수 있다. (이미지=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090057605owpk.png" data-org-width="1024" dmcf-mid="ua5kDYRfSG" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090057605owpk.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            CodeOnWeb이 ‘사용자에게 코딩 환경을 제공하는 서비스’였다면 ‘Backend.AI’는 ‘그 환경 아래의 연산 자원 전체를 운영하는 OS’라고 할 수 있다. (이미지=래블업)
           </figcaption>
          </figure>
          <div contents-hash="18a26b1a9ded29c3b090cc75c1c214ce07a9e6a1227e02abf2cec9c83bde365f" dmcf-pid="KV3Akyx2v8" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="1becc91dcd6bb3118d531d373440881caeac0de65c1e062d338c0f16f30d876a" dmcf-pid="9f0cEWMVT4" dmcf-ptype="general">“CodeOnWeb이 ‘사용자에게 코딩 환경을 제공하는 서비스’였다면 ‘Backend.AI’는 ‘그 환경 아래의 연산 자원 전체를 운영하는 OS’라고 할 수 있습니다. 전환 이유는 시장이 알려줬습니다. 알파고 이후 AI 수요가 폭증하면서 개인 코딩 서비스보다 기업과 연구소의 GPU 인프라 관리 문제가 훨씬 크고 급한 시장이라는 점이 명확해졌습니다. 초기에는 시장이 열리기 전이라 제품 방향을 잡기 어려웠고 기업 고객의 요구사항과 오픈소스 커뮤니티의 기대치 사이에서 리소스 배분을 잘못한 적도 있었습니다. 그러나 결국 시장이 오기 전에 기술을 깊이 다듬어 놓은 것이 가장 큰 자산이 됐습니다.” </p>
          <p contents-hash="708c8732dbee88c1410359640100c81817df554da9456c5162081d93b754720d" dmcf-pid="24pkDYRfTf" dmcf-ptype="general"><strong>GPU 한 장을 여러 명이 쓴다…‘확보 경쟁’ 다음은 자원 효율</strong> </p>
          <p contents-hash="a492de5c9a779bd3b092895cabf666309b68a349b223c7a7d61b990891bf1e3a" dmcf-pid="V8UEwGe4vV" dmcf-ptype="general">AI 인프라 운영에서 래블업이 처음부터 집중해 온 문제는 유휴 자원이다. 일반적인 개발 환경에서는 연구자 한 사람에게 GPU 한 장을 배정하더라도 실제 GPU 연산이 계속 발생하는 것은 아니다. 코드를 수정하거나 디버깅하고 데이터를 전처리하는 동안에는 GPU가 사용되지 않을 수 있다. </p>
          <p contents-hash="819023ad6acf7e1d761c02cdc7ea763b97a85699721190ab369eea19a246b9a6" dmcf-pid="f6uDrHd8y2" dmcf-ptype="general">래블업은 이를 줄이기 위해 자체 개발한 분할 GPU(fGPU·Fractional GPU) 기술을 ‘Backend.AI’에 적용했다. 신 대표의 설명에 따르면 CUDA 응용프로그램 인터페이스(Application Programming Interface, API) 수준에서 GPU를 가상화해 하나의 물리 GPU를 여러 사용자가 각각 격리된 환경에서 나눠 쓰도록 하는 방식이다. </p>
          <div contents-hash="559a1ceb4b6835a823bb6af41525cadf7cf87f462d2126758fd61135836451e0" dmcf-pid="4P7wmXJ6W9" dmcf-ptype="general">
           즉 래블업이 제시한 ‘GPU 활용률 최대 400%’는 기존에 GPU 한 장을 사용자 한 명에게 할당하던 환경과 비교해 동일한 수의 GPU로 최대 네 배 많은 사용자가 동시에 작업할 수 있다는 의미다. 모든 사용자가 동시에 GPU에 100% 부하를 거는 환경에서는 적용되기 어렵고, 코딩·디버깅·데이터 전처리 등 유휴 시간이 발생하는 실제 개발 환경을 전제로 한다. 신 대표는 GPU 12장으로 80명이 함께 연구할 수 있도록 구축한 고객 사례를 제시하며 “이런 자원 효율 문제가 AI 경쟁의 본질과도 맞닿아 있다”고 강조했다. 
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="40cb1b26ebdf0c09548b7f31c6dbc7850c6611e3616a78971c83ccf4d9b1f435" dmcf-pid="8QzrsZiPyK" dmcf-ptype="figure">
           <p class="link_figure"><img alt="GTC 2026에서 발표를 진행하고 있는 신정규 대표. (사진=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090059256sqtl.png" data-org-width="1024" dmcf-mid="7KvnoIV7WY" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090059256sqtl.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            GTC 2026에서 발표를 진행하고 있는 신정규 대표. (사진=래블업)
           </figcaption>
          </figure>
          <div contents-hash="d9ad7ec72bb363a0570e27aa5e3deb2a4cb903ba84e247e5c17a3ee0a871a4d8" dmcf-pid="6xqmO5nQvb" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="492b85b0b96e0466a8e52c05a797a8b8deacc5e12fc0fcc38855c9d185b717fa" dmcf-pid="PMBsI1LxWB" dmcf-ptype="general">“좋은 모델과 좋은 GPU가 있어도 그것을 효율적으로 운영하지 못하면 결과물이 나오지 않습니다. 실제로 많은 기업이 GPU를 확보하고도 평균 활용률이 한 자릿수에 머무르는 경우가 드물지 않습니다. 수천만 원짜리 GPU가 대부분의 시간 동안 놀고 있는 셈이죠. 모델은 오픈소스로 공개되고 GPU는 돈을 내면 살 수 있지만, 그 사이를 연결해서 실제로 돌아가게 만드는 소프트웨어는 직접 구축해야 합니다. 결국 AI 시대의 경쟁력은 ‘GPU를 몇 개 가졌느냐’가 아니라 ‘보유한 GPU에서 얼마나 많은 가치를 뽑아내느냐’로 결정된다고 생각합니다.” </p>
          <p contents-hash="3c6772e40b25db477cdd314efb873d12d2244105dde7fa605b6a573505c3c699" dmcf-pid="QRbOCtoMWq" dmcf-ptype="general">‘Backend.AI’ 내부에서 자원을 배치하는 역할은 자체 개발한 AI 전용 오케스트레이터 소코반(Sokovan)이 담당한다. 범용 컨테이너 오케스트레이터 쿠버네티스(Kubernetes)나 고성능컴퓨팅(High Performance Computing, HPC) 작업 스케줄러 슬럼(Slurm)과 달리 처음부터 AI 워크로드를 중심으로 설계했다는 것이 신 대표의 설명이다. </p>
          <p contents-hash="47e1e3c6829334c28fa8e01138138c56a72f6fae676afe277ebfe80df65615d8" dmcf-pid="xRbOCtoMhz" dmcf-ptype="general">지원 대상도 엔비디아(NVIDIA) GPU에 머물지 않는다. ‘Backend.AI’는 AMD·인텔(Intel)의 GPU와 리벨리온·퓨리오사AI 등 국산 NPU를 포함한 여러 AI 가속기를 하나의 플랫폼에서 통합 관리하는 전략을 취하고 있다. 신 대표는 ‘소버린 AI’를 언급하며 말을 이어갔다. </p>
          <p contents-hash="dc1af8ef74a0d5fadedae57ff4f02eb01350a95f8704b059e11631a0cf966cd9" dmcf-pid="yYr2fotWh7" dmcf-ptype="general">“국산 NPU 기업이 좋은 하드웨어를 만들더라도 그 위에서 돌아가는 소프트웨어 생태계가 부족하면 실제 도입은 어렵습니다. 저희가 여러 종류의 가속기를 지원하는 이유 중 하나는 기업이 특정 하드웨어 벤더에 종속되지 않고 상황에 맞는 가속기를 선택할 수 있게 하는 것입니다. 동시에 국산 NPU 기업에는 검증된 소프트웨어 플랫폼을 제공해 하드웨어 채택의 진입 장벽을 낮출 수 있습니다. 하드웨어를 만드는 것과 그것이 실제 환경에서 쓰이게 만드는 것은 별개의 문제이고, 저희가 그 사이의 간극을 메우는 역할을 하고 있다고 생각합니다.” </p>
          <p contents-hash="3c39ac93df0256bdb5aab7903977c5de3d2d54ff3b7a0244793e7cbb10780ee6" dmcf-pid="WGmV4gFYlu" dmcf-ptype="general"><strong>504장에서 1000장 이상으로…“대규모 학습에서는 장애가 필연이 된다”</strong> </p>
          <p contents-hash="1c0ddc7a903c6cfe420af6254fba495ec030792ba83e07216eef5e034dc08e94" dmcf-pid="YHsf8a3GSU" dmcf-ptype="general">운영 소프트웨어의 중요성은 GPU 규모가 커질수록 더 분명해진다. 래블업은 업스테이지 컨소시엄의 독자 AI 파운데이션 모델 프로젝트에 인프라 파트너로 참여해 대규모 GPU 클러스터를 운영하고 있다. </p>
          <p contents-hash="dd10bf5b353f4ee238bed8dab1352fb1d40f38ce3f43f4a56cbee4067938f68b" dmcf-pid="GXO46N0HWp" dmcf-ptype="general">신 대표에 따르면 1차에서는 엔비디아 B200 GPU 504장 규모 클러스터를 73일간 운영하며 ‘Solar Open 100B’ 모델의 학습을 지원했다. 이후 2차수에서는 규모가 훨씬 커져서, H100과 B200 등으로 구성된 약 1,000장 규모의 클러스터를 운영하며 Solar Open 2 250B 모델 학습을 지원했다. </p>
          <div contents-hash="e18a7250673ca4c61ca05601d171b1ac9c4c389dcca974da67da20989bb4db85" dmcf-pid="HZI8PjpXv0" dmcf-ptype="general">
           수백 장에서 1000장 이상의 GPU를 동시에 동기화하면 운영의 성격도 달라진다. GPU 한 장의 오류가 전체 분산 학습을 중단시킬 수 있고, 중단된 작업을 어느 체크포인트부터 얼마나 빠르게 복구하느냐가 전체 학습 시간에 영향을 미친다. 노드 사이 통신 최적화와 장애 노드 자동 감지·격리, 체크포인트 저장과 복구가 모두 핵심 운영 기술이 된다. 
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="da9e1767c9eaca80de967add24d60e68409881108dcb595fe0bc1f2ce9cfef2d" dmcf-pid="X5C6QAUZl3" dmcf-ptype="figure">
           <p class="link_figure"><img alt="GTC 2026 현장에서 참관객들이 래블업 부스를 찾아 높은 관심을 드러내고 있다. (사진=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090101022rbwq.png" data-org-width="1024" dmcf-mid="zYYdimKphW" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090101022rbwq.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            GTC 2026 현장에서 참관객들이 래블업 부스를 찾아 높은 관심을 드러내고 있다. (사진=래블업)
           </figcaption>
          </figure>
          <div contents-hash="270098de24f15013ea4172d4a9cef9d61dbbe899fd4180b92ce7b0f2dd89ce57" dmcf-pid="Z1hPxcu5CF" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="71177c6187fd9c301da19532824536c0513f2a1dca9a7e9c3774f4e4a06caa42" dmcf-pid="5tlQMk71ht" dmcf-ptype="general">이 실전 운영 경험은 단순한 프로젝트 수행 실적 이상의 의미를 갖는다는 것이 신 대표의 설명이다. 래블업은 해당 과정에서 확보한 방법론을 보고서로 정리하고 GTC 2026에서도 관련 사례를 공개했다. 최신 GPU의 특성과 한계를 실제 대규모 워크로드에서 확인하고 이를 Backend.AI에 다시 반영하는 제품 개선 과정도 이어가고 있다. </p>
          <p contents-hash="0d17e45b4c6cb003b33c305cb4b3b373b22417d56b4298645b29c3d426b09f16" dmcf-pid="1FSxREztW1" dmcf-ptype="general">한편 래블업은 핵심 플랫폼을 오픈소스로 공개하면서 대규모 조직을 위한 엔터프라이즈 버전은 GPU 수량에 따른 연간 구독 방식으로 제공한다. 오픈소스가 무료 배포에 그치지 않는 이유는 커뮤니티가 기술 검증과 고객 유입 경로로 작동하기 때문이다. </p>
          <p contents-hash="09d1f410a975f7feb8c23aec233a36d386457ceda24e6e9f646ee492f9eb7439" dmcf-pid="t3vMeDqFl5" dmcf-ptype="general">“Backend.AI의 오픈소스 버전은 개발자들이 자유롭게 사용하고 기여할 수 있는 커뮤니티 에디션입니다. 이 과정에서 세계적으로 인지도를 높이고 기술 검증을 받으면서 잠재 고객도 확보할 수 있습니다. 실제로 오픈소스를 먼저 사용한 뒤 엔터프라이즈 도입을 결정하는 고객이 많습니다. 기업 입장에서 AI 인프라는 한 번 구축하면 계속 운영해야 하기 때문에 일회성 납품보다 지속적인 구독 관계가 자연스럽게 만들어집니다. 고객의 GPU가 늘면 구독 규모도 함께 커지는 구조여서 AI 인프라 시장의 성장과 사업 성장이 연결됩니다.” </p>
          <p contents-hash="ae3b28c271df1f722235be20be0e2fa793ca9ec1af791dd47b165c321f5ff61f" dmcf-pid="FGmV4gFYCZ" dmcf-ptype="general"><strong>GPU에서 ‘모델 사용’까지 관리한다…Continuum과 에이전트 시대</strong> </p>
          <p contents-hash="31f1e8d0ab35b36e70363ffa590c7a4b60f7dc72f0fccd07250b027c21c806b5" dmcf-pid="3Hsf8a3GTX" dmcf-ptype="general">AI 인프라가 복잡해지는 이유는 GPU 숫자만 늘어서가 아니다. 기업이 사용하는 AI 모델 자체도 다양해지고 있다. 모든 업무를 하나의 거대언어모델(Large Language Model, LLM)로 처리하기보다 성능과 가격, 데이터 보안에 따라 여러 외부 API와 자체 구축 모델을 함께 사용하는 형태가 늘어나면 기업은 또 다른 관리 문제를 마주한다. </p>
          <p contents-hash="f179ef371f82b85987bca5944b3b1a89ea966a03577fa7c34616b5fa553fe585" dmcf-pid="0XO46N0HTH" dmcf-ptype="general">어떤 요청을 어떤 모델로 보낼 것인지, 특정 API에 장애가 발생했을 때 어디로 우회할지, 어느 부서가 어떤 모델을 얼마나 사용했는지, 토큰 비용은 얼마나 발생했는지를 통제해야 한다. </p>
          <p contents-hash="f355df918e60520178293efb05b091aec96a32cd4422b1c164668215ec01434a" dmcf-pid="pZI8PjpXWG" dmcf-ptype="general">래블업이 Backend.AI 다음 사업 축으로 키우는 Continuum이 이 영역을 담당한다. Continuum Router는 외부 클라우드 AI API와 기업 내부의 추론 서버를 하나의 오픈AI(OpenAI) 호환 인터페이스로 연결한다. Continuum Hub는 조직에 배포된 라우터의 API 키와 사용량, 비용을 중앙에서 관리한다. </p>
          <p contents-hash="b50059699af5794f97f556b2e5886cb08952e69a268f90fe8daa517b5ca91d7c" dmcf-pid="U5C6QAUZvY" dmcf-ptype="general">“기업이 AI를 본격적으로 도입하면 하나의 모델만 사용하는 경우는 거의 없습니다. 용도별로 다른 모델을 쓰고 비용과 성능의 균형을 맞춰야 하며, 보안 정책에 따라 민감한 데이터는 자체 모델로, 일반 작업은 외부 API로 분배해야 합니다. 이런 복잡성을 관리하지 않으면 AI 비용이 통제 불능 상태에 빠지게 됩니다. 저희는 이 시장을 ‘인프라 관리의 자연스러운 확장’으로 보고 있습니다. Backend.AI가 GPU 인프라를 관리한다면 Continuum은 그 위에서 돌아가는 모델의 사용과 비용을 관리합니다.” </p>
          <div contents-hash="4ce12ea5999db69eaeecf0fff9b6268dab7f4655c8ac60d4eb6d240266f50fda" dmcf-pid="u1hPxcu5hW" dmcf-ptype="general">
           래블업의 시야는 데이터센터에서 개인 PC까지 확장된다. 올해 공개한 MLxcel은 애플 실리콘(Apple Silicon)에 최적화한 LLM·비전언어모델(Vision-Language Model, VLM) 추론 엔진으로, 아파치 라이선스 2.0(Apache License 2.0) 기반 오픈소스다. AI는 개인 PC에서 소형언어모델(Small Language Model, SLM)을 직접 실행하고 필요하면 클라우드나 데이터센터의 대형 모델에 연결할 수 있도록 설계됐다. 
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="ae241c9186d96b1cd979a3dcffdc9e430a7b262485b5e8a1e44bce1665008170" dmcf-pid="7tlQMk71Ty" dmcf-ptype="figure">
           <p class="link_figure"><img alt="GTC 2026에서 발표를 진행하고 있는 신정규 대표. (사진=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090102666hxjw.jpg" data-org-width="1024" dmcf-mid="qHQWGqDghy" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090102666hxjw.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            GTC 2026에서 발표를 진행하고 있는 신정규 대표. (사진=래블업)
           </figcaption>
          </figure>
          <div contents-hash="8615863834caba733693274897cda8d99889ce302368f71db852f99bba7447ed" dmcf-pid="zFSxREztST" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="5116ecfa17cddf2c4a6cd8e35d8847ded11bff415771e71f3aa29c5b5a6329ad" dmcf-pid="q3vMeDqFCv" dmcf-ptype="general">“궁극적인 목적은 GPU 한 장부터 수천 장 클러스터까지 어디서든 동일한 AI 경험을 제공하는 것입니다. 개인 개발자가 맥북에서 MLxcel로 모델을 돌려보고 AI:GO에서 더 큰 모델을 자기 PC에서 관리하다가 본격적인 학습이나 대규모 서빙이 필요하면 Backend.AI 클러스터에 연결하는 흐름입니다. 중요한 것은 이 모든 단계에서 사용자 경험이 일관돼야 한다는 점입니다. AI가 데이터센터에만 머물러서는 안 된다고 생각합니다. 프라이버시가 중요한 작업은 로컬에서, 대규모 연산이 필요한 작업은 클러스터에서 수행하면서 그 경계를 자유롭게 넘나드는 것이 저희가 생각하는 ‘Make AI Accessible’의 완성된 형태입니다.” </p>
          <p contents-hash="e3a4ff91be9d3628970ea360d50b589665fc24eb0a482b4bddb63ed0d475bb2c" dmcf-pid="B0TRdwB3yS" dmcf-ptype="general">에이전틱 AI(Agentic AI)의 확산은 이 인프라의 복잡성을 한 단계 더 높일 가능성이 있다. 기존 생성형 AI가 사람이 질문하면 모델이 응답하는 형태였다면, AI 에이전트는 하나의 업무를 처리하는 과정에서 모델과 외부 도구를 여러 차례 호출하고 다른 에이전트와 협업할 수 있다. </p>
          <p contents-hash="1f6fcc2762570b638d67d90efd76b457a850c8787d33120559ed19c0a842b029" dmcf-pid="bP7wmXJ6Sl" dmcf-ptype="general">“지금까지 AI 워크로드는 사람이 요청하면 모델이 응답하는 비교적 단순한 구조였습니다. 하지만 에이전트가 보편화되면 AI가 스스로 판단하고 도구를 호출하며 다른 에이전트와 협업하는 복잡한 워크로드가 됩니다. 에이전트 하나가 수십 번의 모델 호출을 연쇄적으로 일으키고 여러 에이전트가 동시에 작동하면 추론 요청의 패턴도 완전히 달라집니다. 래블업은 이런 환경에서 동적 스케줄링과 fGPU 가상화를 통한 인프라 최적화, Continuum Router와 Hub를 통한 모델 라우팅·비용 제어가 중요해질 것으로 보고 있습니다.” </p>
          <p contents-hash="89f1b64fe8c27503609a4a8b772f08ee6d824c78fc8a81853ba76518ceff8102" dmcf-pid="KQzrsZiPyh" dmcf-ptype="general"><strong>“소버린 AI는 소프트웨어 주권까지”…K-AX에서 글로벌 시장으로</strong> </p>
          <p contents-hash="2a86d126609d436d3768f331e00eefdecef4422938fa956df880dbbf077fac30" dmcf-pid="9xqmO5nQlC" dmcf-ptype="general">래블업이 2026 K-AI PARTNERSHIP의 AX 확산 분과(K-AX)에 참여한 이유도 실제 산업 현장의 AI 운영 문제를 직접 확인하기 위해서다. 기존 고객이 대학·연구소·통신·대기업 중심이었다면 K-AX를 통해 제조·금융·공공 등 다양한 수요 기업이 AI 인프라를 구축하면서 겪는 문제를 제품에 반영하겠다는 구상이다. </p>
          <p contents-hash="e79684073821587710f426f550311ebd216972f396aacbd308b8dc186785480f" dmcf-pid="2MBsI1LxhI" dmcf-ptype="general">신 대표가 꼽은 현장의 장벽은 크게 세 가지다. 무엇을 얼마나 구축해야 할지 결정하기 어렵다는 점, 민감한 데이터를 외부로 보낼 수 없는 산업의 보안·규제 문제, 그리고 개념검증(Proof of Concept, PoC) 이후 인프라와 모델을 지속적으로 운영할 전문 인력의 부족이다. </p>
          <p contents-hash="40b64bda07b1b884933be6f03997caa153deac9e692fab7c2e4a094691e515b4" dmcf-pid="VRbOCtoMyO" dmcf-ptype="general">특히 제조 현장의 생산 정보, 금융 거래 데이터, 공공 개인정보처럼 외부 반출이 제한된 데이터는 클라우드 AI 활용에 제약이 생길 수 있다. 이 경우 AI가 데이터와 만나기 위해 모델과 연산 인프라를 조직 내부로 가져오는 온프레미스(on-premises) 환경이 필요할 수 있고, 이를 지속적으로 유지·운영할 소프트웨어 역시 요구된다. </p>
          <p contents-hash="f530b37c5741a429d51c6cdc821294a175d57e55537bac261c24b444e710129d" dmcf-pid="feKIhFgRSs" dmcf-ptype="general">특히 올해 래블업은 제품과 글로벌 생태계, 사업 실적 측면에서도 성과를 이어가고 있다. 2025년 미국 산호세에 법인을 설립해 북미 엔터프라이즈 시장을 공략하고 있으며 일본에서도 추론 솔루션을 판매하고 있다. ‘Backend.AI’는 전 세계 120여 개 사이트에서 운영되고 있으며, 래블업은 엔비디아 GTC 등 글로벌 개발자·기술 행사를 통해 제품과 기술을 공개해 왔다. </p>
          <p contents-hash="f84397f8c491f0c4a916bb6b8a5937ff9b2fcb2f7ff62ba289a982c21f920360" dmcf-pid="4d9Cl3aeTm" dmcf-ptype="general">이 외에도 앞서 언급된 개인용 AI 워크스테이션 ‘Backend.AI:GO(AI:GO)’를 CES 2026에서 정식 출시했으며, 리눅스재단 산하 에이전틱 AI 파운데이션(Agentic AI Foundation, AAIF)에 참여해 OpenAI·Google·Microsoft 등과 함께 AI 에이전트의 개방형 표준과 상호운용성 논의에도 참여하고 있다. </p>
          <div contents-hash="23dbca0ec4aa0a25bdef79339a66cc1d3fc1a74c3672bc34b2057f86ed20a043" dmcf-pid="8J2hS0NdSr" dmcf-ptype="general">
           사업적으로는 2020년 흑자 전환 이후 2025년까지 6년 연속 흑자를 기록했고, 2025년 기준 구독 매출 비중은 82%, 반복 매출 비중은 95%까지 높아졌다. 이를 바탕으로 래블업은 기업공개(IPO) 절차도 진행 중이다. 이미 올해 5월 코스닥 상장예비심사를 청구한 뒤 약 두 달 만인 7월 심사를 통과했다. 이는 올해 코스닥 기술특례상장 기업 가운데 최단 기간 승인이다. 
           <div> 
           </div>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="7ea6bca36c05381388f74e423913a8cd58901482a8f53e05a5079299674fcf77" dmcf-pid="6iVlvpjJCw" dmcf-ptype="figure">
           <p class="link_figure"><img alt="신 대표가 인터뷰 말미 언급하는 래블업의 미래는 단순한 GPU 관리 솔루션 기업을 넘어 ‘AI 시대의 인프라 표준을 만드는 회사’라는 비전에 닿아 있다. (이미지=래블업)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090104177grbi.png" data-org-width="1024" dmcf-mid="QF2hS0Ndhw" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/01/552816-OGTrtXj/20261001090104177grbi.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            신 대표가 인터뷰 말미 언급하는 래블업의 미래는 단순한 GPU 관리 솔루션 기업을 넘어 ‘AI 시대의 인프라 표준을 만드는 회사’라는 비전에 닿아 있다. (이미지=래블업)
           </figcaption>
          </figure>
          <div contents-hash="250ccf803603c4348fd3c78e773d42a580b05a02a843631952460692130d6be7" dmcf-pid="PnfSTUAiTD" dmcf-ptype="general">
           <div> 
           </div> 
          </div>
          <p contents-hash="48a0726079647c1a62c5f18d39f77b14ea5e697360ccde9a3c14b7b7e27df860" dmcf-pid="QIaU7xyOvE" dmcf-ptype="general">이처럼 다양한 성과를 만들어 가고 있는 신 대표가 인터뷰 말미 언급하는 래블업의 미래는 단순한 GPU 관리 솔루션 기업을 넘어 ‘AI 시대의 인프라 표준을 만드는 회사’라는 비전에 닿아 있다. </p>
          <p contents-hash="88bc0e51696e32a44db63d6f045a78939895fd130490facd3a8e9781b10e6c8f" dmcf-pid="xCNuzMWIlk" dmcf-ptype="general">“래블업이 지향하는 기업상은 ‘AI 시대의 인프라 표준을 만드는 회사’입니다. 과거 PC 시대에 운영체제가 하드웨어의 복잡성을 감추고 모든 사람이 컴퓨터를 쓸 수 있게 했듯이, AI 시대에도 GPU와 가속기의 복잡성을 감추고 누구나 AI를 활용할 수 있게 만드는 것이 저희의 역할입니다. 한국이 반드시 확보해야 할 첫 번째 경쟁력은 소프트웨어 주권입니다. 두 번째는 수천 대 GPU를 동시에 운영하는 경험이고, 세 번째는 특정 벤더에 종속되지 않는 개방형 생태계입니다. GPU 한 장짜리 개인 PC부터 수천 장 규모 데이터센터까지 하나의 일관된 AI 인프라 경험을 제공하는 것이 저희가 지향하는 모습입니다.” </p>
          <p contents-hash="6158a73fb0609af860313eca93c4fadfcd4d374caf2da6ccc51d9253a683c320" dmcf-pid="yf0cEWMVWc" dmcf-ptype="general">저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지</p>
         </section> 
        </div>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기