트위그팜, GPU 대신 IPU 도입해 성능 10배 향상
맞춤형 번역기 개발에 필요한 프로세서로 IPU 선택
"그래프코어 팀 지원으로 프레임워크 이전 간소화"
IPU, 그래프코어가 개발한 AI칩, 정교한 설계 강점

‍

‍

인공지능(AI) 기술 발전에 따라 기술 핵심이 되는 AI 칩도 다변화되고 있다. 주로 사용됐던 그래픽처리장치(GPU) 틀을 벗어나 새로운 AI 칩을 적용하는 기업이 많아졌다. AI 반도체 기업 그래프코어는 최근 국내 딥러닝 기반 자연어처리(NLP) 스타트업 트위그팜이 GPU 대신 자사의 지능처리장치(IPU)를 도입했다고 밝혔다. 이를 통해 기존 GPU 대비 10배 가까이 향상된 성능을 구현했다고 설명했다.

‍

IPU는 그래프코어가 개발한 AI 반도체다. AI 워크로드에 최적화된 칩으로 정교한 설계가 강점이다. 파브리스 모이잔(Fabrice Moizan) 그래프코어 글로벌 세일즈 부사장은 작년 12월 열린 기자간담회에서 "AI 작업을 위해선 많은 병렬처리가 필요하고, 이를 처리할 수 있는 프로세서가 필요하다"면서 "IPU는 서로 독립적으로 기능할 수 있는 코어를 갖춰 병렬처리에 GPU보다 강점이 있다"고 밝힌 바 있다.

‍

이번에 IPU 도입을 밝힌 트위그팜은 기업용 AI 기반 맞춤형 번역기, 데이터 비식별화 처리기, 데이터 검수기 등을 제공하는 AI 스타트업이다. 회사는 IPU를 도입해 기존 GPU 대비 10배 가까이 향상된 성능을 구현했다. 이를 통해 연구 속도를 높이고 서비스 개발을 가속화 했다. 총소유비용(TCO)도 대폭 낮췄다.

‍

트위그팜은 현재 맞춤형 번역기 개발에 주력하고 있다. 고객 요구를 반영하고 시장 수요에 민첩하게 대응하기 위해 데이터수집, 데이터 전처리, 모델링 개선 등 일련의 과정을 지속적으로 반복하는 연구를 수행 중이다. 여기에는 상당한 시간과 비용이 따르기 때문에 AI 모델 학습속도를 가속화 할 수 있는 뛰어난 성능의 최첨단 프로세서가 요구된다. 회사 측은 이 문제를 IPU 도입으로 풀어냈다.

‍

트위그팜은 측은 "그래프코어 전문가팀의 지원을 받아 기존에 사용하던 GPU 시스템에서 IPU로 신속하고 원활하게 마이그레이션 할 수 있었다"며 "그래프코어가 제공하는 교육은 물론 코드 변환, 최적화와 같은 기술적 지원으로 프레임워크를 이전하면서 발생하는 러닝커브를 최소화할 수 있었다"고 전했다.

‍

현재 그래프코어의 IPU를 사용하는 국내 기업은 지속 증가하고 있다. IPU를 사용하는 대표 기업은 KT와 NHN이다. KT는 IPU-POD128 모델을 가장 먼저 도입한 국내 고객사다. AI 연구개발(R&D) 통합 솔루션 '하이퍼스케일 AI 서비스'에 해당 제품군을 사용하고 있다.

‍

NHN은 지난해 6월 그래프코어와 기술 협력 업무협약(MOU) 체결 후 NHN 클라우드 공공 시스템 개발에 IPU 시스템을 사용하고 있다. 그래프코어 제품군을 활용해 고성능컴퓨팅(HPC) 환경과 AI 인프라 환경 등을 개발 중이다.

‍

강민우 그래프코어 코리아 지사장은 "그래프코어는 앞으로 성장 잠재력을 가진 국내 AI 스타트업과 긴밀히 협력할 수 있는 방안을 적극 모색할 계획"이라며 "한국의 AI 생태계가 더욱 성장하고 발전하는데 기여하겠다"고 밝혔다.