다트크리에이티브 IT & CG Magazine

지코어코리아, 국내 최초 H100 기반GPU 전용 데이터센터 오픈… NHN클라우드와 함께 AI 클라우드 서비스 본격화

글로벌 퍼블릭 클라우드, 엣지 컴퓨팅 및 엣지AI 전문기업 지코어(Gcore)가 4일 국내 최초로 엔비디아의 H100을 기반으로 한 데이터센터 개소와 함께 AI 퍼블릭 클라우드 서비스를 오픈했다고 밝혔다.

글로벌 퍼블릭 클라우드, 엣지 컴퓨팅 및 엣지AI 전문기업 지코어(Gcore)는 4일 ‘한국 AI시장에 가속도 붙여줄 새로운 시작’ 이라는 주제 하에 기자간담회를 갖고, 국내 최초로 엔비디아의 H100을 기반으로 한 AI 퍼블릭 클라우드 서비스를 오픈, 한국시장에 첫 선을 보인다고 밝혔다.

오는 4월 15일 인천 가좌동에 개소되는 지코어코리아의 GPU 전용 데이터센터는 AI 학습에 있어서 현존하는 가장 효과적인 GPU로 인정받는 엔비디아 H100 서버 40대가 설치되며, 이는 서버당 GPU가 8개씩 모두 320개의 GPU를 갖는다. GPU에 특화된 GPU전용 데이터센터는 기본적인 클라우드 서비스 운용을 위한 인프라 스트럭처 또한 갖추고 있으며, 데이터를 안전하게 저장하기 위한 스토리지 인프라 공간도 준비됐다. 이를 통해 AI 추론과 학습이 가능한 AI 기반 GPU 퍼블릭 클라우드 서비스를 제공한다.

이날 기자간담회에는 자크 플리스 주한 룩셈부르크 초대 대사 내정자가 참석해 룩셈부르크 소재의 글로벌 IT 기업인 지코어가 한국 기업고객들에게 혁신적인 기술을 전하고 협력 기회를 확대할 수 있기를 기대한다며 축사를 전했다.

국내 AI 기업들, 지코어가 제공하는 엣지 클라우드 통해 초고성능 AI 컴퓨팅 자원 활용

GPU 기반의 AI 클라우드 서비스 센터는 그 동안 국내 AI 기업들이 AI 모델을 개발하고 학습시키는데 있어 필수적인, 고성능 GPU 확보에 큰 어려움을 겪는 문제를 비롯해, 한국 AI기업들의 다양하고도 특별한 요구사항들을 반영했다. 한국의 AI 전문기업들은 더 이상 대규모의 GPU를 확보하기 위해 오랜 기간을 기다리거나 외국에 위치한 자원을 활용하지 않고도, 국내에서 초고성능 AI 컴퓨팅 자원을 지코어의 엣지 클라우드를 통해 쉽게 확보하고 활용할 수 있게 됐다.

이번에 국내 최초로 선보이는 지코어의 H100 기반 AI 퍼블릭 클라우드 서비스는 ▲’SMX5 타입의 H100 GPU’를 각 8개씩 탑재한 서버들을 대규모 클러스터로 구성해 강력한 컴퓨팅 능력을 제공한다. AI학습 성능에 가장 큰 영향을 미치는 ▲GPU간 연결을 모두 인피니밴드 NDR(400Gbps)로 구성함으로써 각 서버 당 대역폭이 3.2Tbps에 달하는 것이 특징이다. 또한, ▲UFM(Unified Fabric Manager)으로 관리되는 non-blocking 클러스터는 핫 스페어와 콜드 스페어가 각각 구성 되어 서비스 품질도 GDPR의 기준을 충족하며, ▲각 서버당 2TB에 달하는 메모리와 112개에 달하는 CPU코어로 대용량 데이터 처리 및 고성능 컴퓨팅 작업 환경을 제공한다.

지코어는 인천지역에 데이터센터를 둔 이유로 12KW에 달하는 전력량을 사용하는 GPU서버에 들어가는 전력 확보가 보다 용이하고, 향후 수십에서 수백대의 GPU 서버의 확장 가능성을 염두해 두고 안전한 전력량 확보가 필수였음을 밝혔다. 지코어는 향후 1000개 이상의 GPU를확충 계획을 비롯해 빠른 네트워크와 스토리지, 안전한 센터 설계 등 최상의 서비스를 구성해 고객이 원하는 GPU 리소스를 가장 빠르고 편리하고 효율적으로 운영 제공하겠다고 밝혔다. 또한 이를 위해 전문적인 서비스를 전담할 엔지니어를 포함 관련 세일즈 조직 등의 인력 확충도 단행할 계획이다.

NHN클라우드와의 파트너를 통한 긴밀한 공생과 한국시장의 AI 경쟁력

무엇보다 지코어는 이번 서비스를 준비하면서 한국의 대표 클라우드 기업인 NHN클라우드와 데이터센터 선정에서부터 한국고객들의 수요를 반영한 서비스 구성 및 설계에 이르기까지 긴밀히 협업했다. 특히 NHN클라우드는 판교 및 광주 등에 데이터센터를 비롯해 많은 GPU서버를 확보하고 있어서 한국 AI산업의 역량이 급부상함에 따라 국내 고객들이 원하는 특수한 요구사항을 잘 파악하고 있는 만큼 지코어 서비스를 현지화하고 고객 맞춤형으로 구성하는데 있어서 큰 역할을 담당했다. NHN클라우드는 지코어의 데이터센터 운영에도 안정적이고 지속적으로 공동으로 참여해 운영할 예정이다.

지코어 정현용 한국지사장은 “한국은 AI 반도체, 시스템, 서비스 등 AI 기술 전반에 걸쳐 세계적으로 엄청난 성장 잠재력을 지니고 있는 국가로, 이제는 국내 초고속 통신망 내에 위치한 지코어의 데이터센터는 물론, 전세계와 초저지연 네트워크로 상호 연결돼 있는 지코어의 글로벌 엣지 네트워크를 접목해 한국기업들이 글로벌 AI시장에서 선도적인 위치를 선점해 나갈 수 있기를 기대한다”고 말했다. 또한 “국내 AI시장 및 고객에 대한 전문적 이해와 경험을 보유한 NHN클라우드와의 지속적이고 긴밀한 협업을 통해 공공기관은 물론 연구소, 금융 및 제조업계 등을 비롯해 다양한 영역에서 급속히 증가하고 있는 국내 AI 수요에 빠르고 신속하게 대응해 나갈 것”이라고 강조했다.

NHN클라우드와 지코어의 전략적 파트너십은 2023년부터 시작됐다. 유럽에서 클라우드 서비스의 경쟁력을 가진 지코어가 작년 초 NHN클라우드와 파트너십을 맺고, NHN 클라우드의 유럽 진출에도 지코어의 도움을 받았다. 또한 두 회사는 양사가 게임회사로 출발해 현재는 높은 점유율의 클라우드 서비스를 운영하는 공통점도 있다.

지코어는 초창기 빠른 응답 속도가 중요한 게임업계를 위해 전세계 사용자에 더 가까운 위치에서 데이터를 처리하는 엣지 네트워크에 집중하였고, 이를 통해 기존 클라우드 제공업체들 보다 데이터 흐름의 가속화에 강점을 가질 수 있게 됐다.
지코어는 총 대역폭 110Tbps(Terabits Per Second)를 상회하는 폭 넓은 글로벌 네트워크를 기반으로 하여 전세계 평균 응답 시간 30밀리초(ms, 1000분의 1초) 미만의 지연시간으로 가장 신속하게 컨텐츠를 전송하고 있다. 또한 캐쉬의 적중률(Cache hit ratio)은 평균 85%로 컨텐츠의 재사용율을 높여 서비스 효율 향상을 비롯해, 현재 처리하는 초당 요청 처리 건 수(RPS, Request Per Second)는 200만 건에 달하는 등 최상의 서비스를 제공한다.
지코어는 모든 사람에게 더 나은 인터넷 경험을 제공하는 것을 목표로 1만 3천개 이상의 피어링(Peering)파트너와 연결되어 있으며, 다양한 산업 분야의 글로벌 리더에게 유연하고 합리적인 맞춤형 솔루션을 제공하고 있다.

게임사로 출발한 두 회사의 공통적인 특징을 비롯해 엣지 클라우드 서비스 기술력 및 데이터센터 클라우드 서비스 기술력, 네트워크 속도와 관리 능력, CDN 서비스 노하우와 AI기술력, 그리고 양사의 클라우드 서비스의 글로벌 확장 등이 결합돼 두 회사의 파트너십은 잘 맞아 떨어진 셈이다.

정용훈 대표는 간담회에서 “지코어는 본사가 있는 룩셈브루크를 제외한 지역에서 처음으로 아시아태평양 지역 중에서도 한국에서 처음으로 GPU 전용 데이터센터를 오픈했다”면서 지코어가 한국의 AI시장의 잠재력을 높게 평가하고 있음을 밝히며 “글로벌 AI 인덱스 지수에 따르면 한국의 AI 경쟁력은 세계 6위로, 올해 반도체를 비롯 국내 제조업 기업의 83%가 적극적으로 생성형 AI를 도입, 활용할 계획이 있어 수요가 매우 크다”고 덧붙였다.

이날 기자간담회에 함께 자리한 NHN클라우드 김동훈 대표는 “국내는 물론 글로벌 AI 인프라 시장의 패러다임이 급격히 변화하고 있는 만큼, NHN클라우드는 광주 국가 AI 데이터센터를 포함해 판교 데이터센터(NCC1) 등 자사 데이터센터에 1천 개 이상의 엔비디아 H100으로 구축하는 등 국내 최대 규모 GPU 클러스터를 구축해 나가고 있다”고 전했다.
이어, “지코어는 전세계 160개 이상의 네트워크 PoP(Point of Presence)를 기반으로 강력하고 안전한 클라우드 및 엣지 AI에 대한 노하우를 보유하고 있는 기업으로, 엔비디아의 최신 GPU인 H100을 발빠르게 한국에 도입함으로써 국내 AI 시장의 도약을 위한 새로운 국면을 맞게 한 일등공신이다”라며, “NHN클라우드는 지코어와의 파트너십을 통해 국내 AI 인프라 시장의 경쟁력을 강화하고, 글로벌 진출 및 시장 변화에 적극적으로 대응해 나갈 것”이라고 말했다.

지코어의 Edge AI(AI Platform)

지코어의 AI 플랫폼은 그래프코어(Graphcore)의 IPU(Intelligence Processing Unit, 지능형 처리장치로 불리는 AI 반도체) 및 엔비디아 GPU(Graphics Processing Unit, AI 기술에 효과적인 데이터센터용 그래픽처리장치)를 기반으로 머신 러닝을 가속화하는 클라우드 인프라이다. 지코어는 2022년부터 그래프코어의 IPU를 지코어 클라우드에서 사용, 사용한 만큼만 지불하는 PAYG(Pay as you go) 형태로 서비스해 왔으며, 2023년엔 엔비디아의 최신 GPU H100을 발빠르게 도입하여 서비스하고 있다.

지코어가 AI 플랫폼에 선택한 IPU, GPU 가속기는 업계 최신의 모델로서 세계 최고 수준의 자연어 처리 성능을 갖추었고, 가속기 간의 연결은 허용하는 최대 대역폭인 3.2Tbps/server의 인피니 밴드(Infini-Band)로 구성되었으며, 메모리 또한 최고로 장착해 최고 수준의 학습과 추론 능력이 가능하다. 또한 급격히 빨라진 IPU, GPU 가속기에 맞춰 기존 CPU에 단일 칩에서 128코어를 제공하는 Ampere사의 Altra ARM CPU까지 더해, 다양한 AI 업계의 요구조건에 넓은 선택의 폭을 제시한다. 이 밖에도 기업의 AI 도입 기업의 AI 도입과정 모든 단계에 도움을 주기 위해 완전 자동화된 AI 인프라, 다양한 관리도구, 안전하고 신뢰할 수 있는 보안체계 등을 갖춘 클라우드 플랫폼 환경을 서비스하고 있다.

지코어는 특히 한국 고객의 특별한 요구를 수용하기 위해 고객사의 데이터센터에 직접 설치되는 방식의 프라이빗 AI 플랫폼 클라우드 서비스도 제공하고 있다. 이 서비스에는 H100 8개가 장착된 GPU서버와 자체 클라우드 솔루션이 함께 제공되며, 완벽한 보안이 가능한 독립 네트워크에 더해 다양한 옵션의 선택이 가능하다.

지코어의 Edge Security

지코어의 엣지 보안은 DDos 방어와 WAF(Web Application Firewall)로 구성되어 있다. 지코어의 DDos방어는 자체 독점적인 솔루션으로 구현되어 L4레벨까지 방어가 가능한 온디멘드(On-Demand)보호 또는 L7까지 모든 레벨의 방어가 가능한 올웨이즈온(Always on)보호를 선택할 수 있다. 또한 전세계의 광범위한 애니캐스트(Anycast)를 사용하여, 공격 시발점에서의 대량공격을 거점에서 원천 차단할 수 있도록 구현하고 있다. 특히 한국은 자체 스크러빙(Scrubbing)센터를 구축하고 있어, 해외 발현 공격방어에 더해 국내 발현의 공격에 더해 추가로 1Tbps의 방어능력을 가지고 있다.

지코어의 WAF는 사전예방필터, 취약성 감지시스템, 가상패치 시스템 등으로 구현되어 있어 고객의 트래픽을 모니터링하고 필터링해서 웹 어플리케이션으로 접근하는 악성 트래픽을 차단하고, 어플리케이션에서 발생되는 데이터의 무단유출을 방지하여 시스템을 보호한다.
최근 시큐어IQ랩에서 리더로 인정을 받은 스택패스의 WAAP(Web Application API Protection)을 인수하여 API보안 및 봇 방어에까지 보안 포트폴리오를 강화했다. 스택패스 WAAP는 머신 러닝을 활용해 악의적인 공격을 감지하고 완화할 수 있어, HTTP패턴을 민첩하게 식별하고, 제로데이 공격에 대해 탁월함을 보이는 것이 특징이다.

이밖에도 지코어의 엣지 보안은 각 계정당 1Tbps 이상의 필터링 용량, IP주소가 아닌 세션을 차단, Low-frequency 공격의 첫번째 쿼리부터 보호, 오탐비율 0.01% 미만 등의 강력한 보안을 위한 주요 특징을 갖는다.

◈ 다트크리에이티브 | 한재현 기자 wowhjh@gmail.com

DAATKING

멀티미디어, 가상현실&컴퓨터그래픽을 전공한 크리에이티브 디렉터를 지향하는 콘텐츠 제작자겸 저널리스트입니다.
CG 콘텐츠를 제작하는 Media & Entertainment 업계 사람들과 진솔한 이야기와 창의적 지식을 모아서 올바르게 전달하고 소통하도록 노력하겠습니다.

Add comment

Advertisement

ADVERTISEMENT

CG기사 취재 및 관련 보도 요청! - 담당자

그리드 광고