SKT, 클라우드社와 GPU대여 사업 추진, GPU가 화두인 이유는?(24/01/13)

헤드라인

SKT, 클라우드社와 GPU 대여 사업

 

기사링크 : https://n.news.naver.com/article/newspaper/015/0005081152?date=20250113

본문

네이버·NHN 등과 공동 영업
최신 GPU만 SKT가 공급
"협업으로 시장 키울 시기"

SK텔레콤이 그래픽처리장치(GPU) 인프라 시장을 넓히기 위해 국내 클라우드 기업과 동맹을 맺는다.

12일 정보기술(IT)업계에 따르면 SK텔레콤은 지난달 출시한 ‘구독형 GPU 서비스(GPUaaS)’를 기반으로 국내 클라우드 서비스 제공사업자(CSP)와 GPU 인프라 판매 협력을 추진 중이다.

GPUaaS는 GPU를 클라우드 형태로 대여해 필요한 시점에 고성능 연산을 할 수 있게 하는 서비스다. 초기 투자 비용을 최소화하고 GPU를 유연하게 활용할 수 있다.

SK텔레콤은 네이버클라우드, NHN클라우드, 카카오엔터프라이즈, 가비아 등 GPU를 보유한 클라우드 업체와 협력을 논의 중인 것으로 알려졌다.

SK텔레콤은 클라우드 업체와 손잡고 대여용 인프라를 관리할 계획이다. ‘H200’ 같은 최신 고성능 GPU는 SK텔레콤이, 중저가 GPU는 파트너사가 가진 제품을 공급하는 방식으로 협업이 가능하다는 게 회사 측 설명이다. 구체적 협업 방식과 수익 배분 구조는 아직 논의 중이다.

이 같은 협력은 고성능 GPU 접근이 어려운 국내 인공지능(AI) 스타트업과 중소기업에 더 많은 선택권을 제공할 것으로 기대된다. 소프트웨어정책연구소의 ‘2023 인공지능산업 실태조사’에 따르면 국내 AI 기업 중 53.2%가 인프라 부족을 사업상 어려움으로 꼽았다. ‘매우 부족하다’는 응답률도 17.4%에 달했다.

SK텔레콤은 미국 GPUaaS 기업 람다를 통해 GPU를 공급받을 예정이다. 지난해 12월 람다가 보유한 엔비디아 GPU 자원 일부를 자회사 SK브로드밴드의 서울 가산 데이터센터에 배치했다.

회사 측은 3년 안에 AI 데이터센터에 들어갈 GPU를 수천 대로 늘릴 계획이다.

기사 내용의 수치화, 인사이트

SK텔레콤이 그래픽처리장치(GPU) 인프라 시장을 넓히기 위해 국내 클라우드 기업과 동맹을 맺는다.

SK텔레콤은 지난달 출시한 ‘구독형 GPU 서비스(GPUaaS)’를 기반으로 국내 클라우드 서비스 제공사업자(CSP)와 GPU 인프라 판매 협력을 추진 중이다.
최신 고성능 GPU는 SK텔레콤이, 중저가 GPU는 파트너사가 가진 제품을 공급하는 방식

구체적 협업 방식과 수익 배분 구조는 아직 논의 중

2023 인공지능산업 실태조사’에 따르면 국내 AI 기업 중 53.2%가 인프라 부족을 사업상 어려움으로 꼽았다. ‘매우 부족하다’는 응답률도 17.4%에 달했다.

회사 측은 3년 안에 AI 데이터센터에 들어갈 GPU를 수천 대로 늘릴 계획이다.

 

추가조사한 내용

GPU가 AI를 돌리는데 필요한 이유

우선, GPU와 CPU의 차이에 대해서 알아봐야 하는데요,

CPU는 엘리트 일꾼이 소수로 있어 복잡하고 정교한 문제를 순차적으로 처리하는 것이 좋고,

GPU는 특정 분야의 괜찮은 일꾼이 다수로 있어 동시다발적으로 들어오는 작업을 병렬적으로 처리하는 것이 좋습니다.

 

AI가 학습하는 방식은 사람이 학습하는 방식과 조금 다릅니다.

 

예를 들어, 사과는 Apple이라는 것을 학습하기 위해서

사람은 사과는 Apple이다 라는 정보를 얻어서 학습한다면,

AI는 여러 예문을 밀어넣어 그 안에서 규칙을 찾아서 학습합니다.

사과는 빨갛다

사과는 맛있다

사과는 동그랗다

사과는 씨가 있다.

등등 예문들에서 사과가 Apple로 번역된 것을 학습하여 사과는 Apple이라고 불릴 확률이 높구나 라고 학습합니다.

 

즉, AI가 학습하려면 수많은 정보를 입력받고 반복적으로 처리하는 작업이 필요합니다.

수많은 작업을 병렬적으로 처리하는 것은 구조적으로 GPU에 좀 더 찰떡이기 때문에 GPU를 사용하는 것입니다.

 

하지만 좀 느리더라도 GPU 비싸니깐 집에 있는 CPU로 돌려도 되는거 아닌가? 라는 생각을 하면서 좀더 찾아봤습니다.

2023년 기준으로 가장 좋은 CPU 1개로 GPT-4를 학습하기 위해 걸리는 시간은 900만년이라고 합니다.

하지만 가장 좋은 GPU 1개로 학습하는데에 걸리는 시간은 2000년이라고 합니다.

900만년 vs 2000년이라고 하니 체감이 확 되어서 GPU가 필수로 필요하겠다는 생각이 들었습니다.

오늘 내용 요약

SK텔레콤이 GPU 인프라 시장을 넓히기 위해 국내 클라우드 기업과 동맹을 맺습니다. 협력을 논의중인 기업으로는 네이버클라우드, NHN클라우드, 카카오엔터프라이즈, 가비아 등 GPU를 보유한 클라우드 업체와 협력을 논의중이고, 최신 고성능 GPU는 SK텔레콤이, 중저가 GPU는 파트너사가 가진 제품을 공급하는 방식으로 협업이 가능하고 구체적 협업 방식과 수익 배분구조는 논의중이라고 합니다.

SKT 측은 3년 안에 AI 데이터센터에 들어갈 GPU를 수천대로 늘릴 계획이라고 합니다.

왜이렇게 GPU가 화두인지 궁금해서 찾아본 결과 AI 학습하는 방식에 GPU의 구조가 매우 찰떡이고 없다면 학습을 시킬 수 없는 정도로 느리기 때문입니다.

 

스크랩 후 내 생각

빅테크 기업의 클라우드에 의존하는 것이 아닌 국내의 클라우드 서비스로도 AI를 더 잘 돌릴 수 있게 된 것이 우리나라 AI발전에 있어 도움이 될 것이라는 생각을 하게 되었습니다.

AI를 잘 돌리기 위해서는 학습할 데이터도 많아야 하지만 GPU 가격이 너무 비싸기 때문에 돈이 많아야 할 것이라는 생각이 들었습니다.

 

현직자에게 질문

이미 국내클라우드에서는 GPU를 제공하고 있는데, SKT의 고성능 GPU가 클라우드에 들어가게 된다면 스타트업 혹은 중소기업에서 사용할 때 비용절감 효과나 더 효율적인 사용이 가능하게 될까요? 만약 그렇다면 왜 그런 효과가 날까요?

 

추가자료 링크

https://www.youtube.com/watch?v=AKob3yZT0I4

https://yozm.wishket.com/magazine/detail/2294/